二次規劃意思

二次規劃(Quadratic Programming, QP)是一種數學規劃問題,其中目標函數是一個二次函數,而約束條件可以是線性或二次的。二次規劃問題在許多領域中都有應用,例如機器學習、控制理論、運籌學和金融工程等。

二次規劃問題的一般形式可以表示為:

[ \begin{aligned} \text{minimize } & f(x) = \frac{1}{2} x^T H x + g^T x \ \text{subject to } & Ax \leq b \ & Cx = d \ & x{\text{lower}} \leq x \leq x{\text{upper}} \ \end{aligned} ]

其中,( x )是變量向量,( H )是二次項係數矩陣,( g )是一次項係數向量,( A )是約束條件左邊的矩陣,( b )是約束條件右邊的向量,( C )是 equality constraints 的係數矩陣,( d )是 equality constraints 的常數向量,( x{\text{lower}} )和 ( x{\text{upper}} )分別是變量的下界和上界。

二次規劃問題的解法通常涉及專門的算法,如內點法(Interior Point Methods)或active set methods。這些算法可以有效地找到滿足所有約束條件的最佳解。

二次規劃問題在機器學習中尤其重要,例如在支持向量機(Support Vector Machines, SVM)中,對偶問題通常是一個二次規劃問題。在許多優化庫和框架中,都有實現二次規劃問題的解算器,例如CVXPY、SCS、Gurobi等。