Циљ предмета је да се студенти упознавају са основама конвексне оптимизације, техникама формулације и решавања оптимизационих проблема, и савременим софтверским алатима, кроз примере из области комуникација и обраде сигнала.

По успешно завршеном курсу студент ће бити оспособљен да задати оптимизациони проблем из праксе: 1) самостално моделује у форми проблема математичке оптимизације; 2) (пре)формулише као конвексан оптимизациони проблем (студент ће умети да препозна да ли је добијени проблем математичке оптимизације конвексан, и, ако није, умеће да примени одговарајућу конвексну реформулацију, односно релаксацију); и 3) добијени проблем реши употребом одговарајућих софтверских алата (студент ће умети да препозна ког је типа добијени проблем конвексне оптимизације и постави га у одговарајући софтверски формат).

Курс је конципиран из три међусобно повезана дела: 1) матрична алгебра; 2) конвексна оптимизација; и 3) практични примери конвексне оптимизације. - Тема водиља првог дела курса је метода најмањих квадрата (са и без ограничења), кроз чије решавање у затвореној форми ће бити обрађене теме из матричне алгебре које су уједно потребне за ефикасно савладавање материје другог дела курса (четири фундаментална векторска потпростора, SVD и EVD декомпозиције, итд. ). Такође, овај део курса ће се бавити и методологијом превођења задатог проблема дизајна из праксе у проблем математичке оптимизације (начини на које се могу дефинисати циљна функција и скуп ограничења). - Други део курса чине основне теме конвексне оптимизације: конвексни скупови, конвексне функције, основне врсте конвексних проблема (линеарни, квадратни, конски, семи-дефинитни), а затим и важнији неконвексни проблеми који се често срећу у пракси (maxcut, maxflow - mincut), и методе њихове конвексне реформулације, односно релаксације (у случају да је проблем по својој природи неконвексан). - Трећи део курса се састоји из низа релевантних оптимизационих примера из праксе, из области комуникација (point-to-point, мрежна) и из разних области обраде сигнала (аудио, видео, медицински сигнали, и др.), који ће се решавати употребом теоријских алата из прва два дела курса, као и уз помоћ одговарајућих софтверских алата.

Предавања су у форми ПоwерПоинт презентација, доступних студентима за самостално учење. Свако предавање је праћено тестом који ће се групно решавати и дискутовати на самом предавању, са изузетком два теста које ће студенти самостално израђивати на часу и који представљају предиспитну обавезу. Тестови су у форми кратких питања која имају за циљ да разјасне концепте обрађиване на датом часу, илуструју примере примене, итд. Вежбе (већином аудиторног типа) синхроно прате предавања током целог курса. На вежбама ће се решавати одговарајући оптимизациони проблеми и демонстрирати начини решавања одговарајућим софтверским алатима, као и сами алгоритми решавања. Одређен број термина вежби је посвећен и практичном раду студената са софтверским алатима, што уједно представља и предиспитну обавезу. Важну компоненту курса представља предметни пројекат кроз чију израду ће студенти самостално проћи кроз све набројане фазе решавања оптимизационих проблема, на конкретном примеру из праксе.