1. Вставляем картинку

2. Выбираем - Инструмент "Прямоугольник с округленными краями"

3. Выставляем радиус скругления углов, у меня 1см

4. Выделяем область

5. Далее заходим Контуры - Загрузить контур как выделенную область

6. Нажимаем правую кнопку, выбираем Инверсия, получаем

7. Затем на клавиатуре нажимаем Delete, получаем

затем сохраняем, или добавляем фон/рамочку

у меня получилось:

Первоисточник
(с) Pulse