Отформатировать фотографии из jpg в вектор

Ты сам то понял, что спросил? JPG это растровое изображение и в векторное его не переведёшь.

Переведите.
Расскажите потом о результатах.

нарисовать картинку в векторном редакторе

Перевести-то можно, но похабно получается.

Можно конвертировать тут → https://www.pngtosvg.com/

Но они должны быть совсем простенькие, из каких-то геометрических фигур... Иначе получите километровый код.

Это ТАК не работает.
Градиенты не трассируются. Поэтому получится ещё хуже, чем пиксельная картинка.
Видели результат постеризации? После трассирования получится именно такая картинка.

Программа Vector Magic - только для перевода растра в вектор.
А в редакторе Serif DrawPlus этот Vector Magic уже встроен и можно после трассировки полноценно отредактировать векторное изображение.

Это ТАК не работает.
Перевод ФОТОГРАФИИ в вектор в смысле масштабирования не меняет НИЧЕГО абсолютно, это НЕ решение вообще. Забудь эту идею, не трать на неё время, она НЕ имеет никакого решения в принципе. Лучше сосредоточься на том, что бы сразу, изначально получать фотографии необходимого тебе большого размера и не масштабировать их на увеличение - эта задача решаема.