SQP(Sequential Quadratic Programming) 최적화

 

1. SQP란?

• SQP란 sequential quadratic programming의 약자로, 복잡한 문제를 2차 계획 문제로 근사하여 순차적으로 풀어내는 최적화 방법
• (1) 2차 계획문제로 만든 후 (search direction dk를 구함)
  (2) Direction은 구했으니, 제약조건을 목적함수에 penalty function 형식으로 올림
  (3) (1)에서 구한 search directin에, Penalty Function이 반영된 목점함수를 최소화 하는 step size를 찾음 (golden section method 등)
  (4) 이를 계속 반복함
• CSD는 2차 계획 문제에서 Hessian Matrix를 Identity Matrix로 가정 (이러면 x1 x2의 2개 변수라면 원형이 나옴)
  * Constraind Steepest Descent 방법

2. SQP 방법 시각적 요약

• SQP 알고리즘을 요약하면 위와 같음 (CSD)
• (1) 복잡한 문제를 QP로 근사
  (2) 일단 제약조건 생각 안하고 목적함수를 줄일 수 있는 direciton 찾음
  (3) Penalty function 정의 (제약조건을 위배하면 목적함수가 크게 늘어나게 하는 방식) 후 Step size 결정
  (4) 위 과정 반복

 

3. SQP 풀이 예시