Teknikler

İki kez diferansiyeli alınabilen fonksiyonlar için, kısıt bulundurmayan problemler objektif fonksiyonun gradyan'ının sıfır'a eşit olduğu noktaların (istasyon noktaların) yeri tespit edilip, Hessian matrix ile her noktanın sınıfı belirlenerek çözülebilir.Eğer Hessian pozitif tanımlı ise bu nokta "Yerel Minimum", negatif tanımlı ise "Yerel Maksimum"'dur.Şayet tanımsız ise de bir tür saddle point olduğu söylenebilir.
Ancak, her zaman türev almak olası değildir.Objektif fonksiyonun düzgünlüğüne göre metodların ana sınıflandırması şöyle yapılabilir:

• Tümleşik Metodlar

• Türeve-Serbest Metodlar

• Birinci Derece Metodlar

• İkinci Derece Metodlar

Bazı metodlar özel isimleri ile de yukarıdaki dört gruptan birine denk gelecek şekilde listenebilir:

• Gradyan İniş ya da Dik iniş metodu.

• Nelder-Mead Metodu ya da the Amoeba metodu.

• Alt-Gradyan Metodu - Gradyan metodunun, gradyan bulunmayan durumlar için kullanılan hali.

• Tekyönlü Metod

• Elipsoid Metod

• Yığın Metodu

• Newton Metodu

• Kazi-Newton Metodu

• Dahili Nokta Metodu

• Birleşik Gradyan Metodu

Hat Araması - tek boyulu optimizasyon için kullanılan bir teknik, genellikle başka bir tekniğe yardımcı olması için kullanılır.
Kısıt problemleri genellikle Lagrange Çarpanı ile kısıttan bağımsız bir forma getirilir.
Birkaç popüler metod daha:
Tepe Tırmanışı

• Benzetimli Tavlama

• Kuantum Benzetimli Tavlama

• Tabu Araması

• Kiriş Araması

• Genetik Algoritmalar

• Karınca Sürüsü Optimizasyonu

• Evrim Stratejisi

• Stokastik Tünel

• Diferansiyel Evrim

• Sürü Parçacıkları

• Armoni Araması

• Arı Algoritması