Cilj predmeta je da se studenti upoznavaju sa osnovama konveksne optimizacije, tehnikama formulacije i rešavanja optimizacionih problema, i savremenim softverskim alatima, kroz primere iz oblasti komunikacija i obrade signala.

Po uspešno završenom kursu student će biti osposobljen da zadati optimizacioni problem iz prakse: 1) samostalno modeluje u formi problema matematičke optimizacije; 2) (pre)formuliše kao konveksan optimizacioni problem (student će umeti da prepozna da li je dobijeni problem matematičke optimizacije konveksan, i, ako nije, umeće da primeni odgovarajuću konveksnu reformulaciju, odnosno relaksaciju); i 3) dobijeni problem reši upotrebom odgovarajućih softverskih alata (student će umeti da prepozna kog je tipa dobijeni problem konveksne optimizacije i postavi ga u odgovarajući softverski format).

Kurs je koncipiran iz tri međusobno povezana dela: 1) matrična algebra; 2) konveksna optimizacija; i 3) praktični primeri konveksne optimizacije. - Tema vodilja prvog dela kursa je metoda najmanjih kvadrata (sa i bez ograničenja), kroz čije rešavanje u zatvorenoj formi će biti obrađene teme iz matrične algebre koje su ujedno potrebne za efikasno savladavanje materije drugog dela kursa (četiri fundamentalna vektorska potprostora, SVD i EVD dekompozicije, itd. ). Takođe, ovaj deo kursa će se baviti i metodologijom prevođenja zadatog problema dizajna iz prakse u problem matematičke optimizacije (načini na koje se mogu definisati ciljna funkcija i skup ograničenja). - Drugi deo kursa čine osnovne teme konveksne optimizacije: konveksni skupovi, konveksne funkcije, osnovne vrste konveksnih problema (linearni, kvadratni, konski, semi-definitni), a zatim i važniji nekonveksni problemi koji se često sreću u praksi (maxcut, maxflow - mincut), i metode njihove konveksne reformulacije, odnosno relaksacije (u slučaju da je problem po svojoj prirodi nekonveksan). - Treći deo kursa se sastoji iz niza relevantnih optimizacionih primera iz prakse, iz oblasti komunikacija (point-to-point, mrežna) i iz raznih oblasti obrade signala (audio, video, medicinski signali, i dr.), koji će se rešavati upotrebom teorijskih alata iz prva dva dela kursa, kao i uz pomoć odgovarajućih softverskih alata.

Predavanja su u formi PowerPoint prezentacija, dostupnih studentima za samostalno učenje. Svako predavanje je praćeno testom koji će se grupno rešavati i diskutovati na samom predavanju, sa izuzetkom dva testa koje će studenti samostalno izrađivati na času i koji predstavljaju predispitnu obavezu. Testovi su u formi kratkih pitanja koja imaju za cilj da razjasne koncepte obrađivane na datom času, ilustruju primere primene, itd. Vežbe (većinom auditornog tipa) sinhrono prate predavanja tokom celog kursa. Na vežbama će se rešavati odgovarajući optimizacioni problemi i demonstrirati načini rešavanja odgovarajućim softverskim alatima, kao i sami algoritmi rešavanja. Određen broj termina vežbi je posvećen i praktičnom radu studenata sa softverskim alatima, što ujedno predstavlja i predispitnu obavezu. Važnu komponentu kursa predstavlja predmetni projekat kroz čiju izradu će studenti samostalno proći kroz sve nabrojane faze rešavanja optimizacionih problema, na konkretnom primeru iz prakse.