本書介紹了凸優(yōu)化中的主要復雜性定理及其相應的算法。從黑箱優(yōu)化的基本理論出發(fā),內容材料是朝著結構優(yōu)化和隨機優(yōu)化的新進展。我們對黑箱優(yōu)化的介紹,深受Nesterov的開創(chuàng)性著作和Nemirovski講稿的影響,包括對切割平面方法的分析,以及(加速)梯度下降方案。我們還特別關注非歐幾里德的情況(相關算法包括Frank Wolfe、鏡像下降和對偶平均法),并討論它們在機器中的相關性學習。我們慢慢的介紹了FISTA(優(yōu)化一個光滑項和一個簡單的非光滑項的和)、鞍點鏡像代理(Nemirovski平滑替代Nesterov的光滑)和一個對內點方法的簡明描述。在隨機優(yōu)化中,我們討論了隨機梯度下降、小批量、隨機坐標下降和次線性算法。我們還簡單地討論了組合問題的凸松弛和隨機性對取整(四舍五入)解的使用,以及基于隨機游動的方法。