- CONVEX 즉 아래로 볼록한 함수는 Local minimum이 Global Minimum이어서 최적화하기 굉장히 좋은 모델
- Convex 함수의 조건은 크게 2개임
1) x1와 x2 사이에 존재하는 함수 값이 두 점을 잇는 직선 밑에 있어야 함 (아래로 볼록)
2) 정의역 또한 convex set이어야 함
그림으로 표현하면 위와 같은 구조가 Convex
Convex의 수식을 이해하기 위해서는 Vector를 이해해야 함
z 벡터를 표현하려면 y 벡터 + y에서 x로 가는 벡터에 1 미만의 weighting이 들어가는 것의 합입
즉, z = y + a (x-y) --> 다시 표현하면 (1-a)y + ax
저 수식이 x와 y 사이에 있는 점을 의미한다고 보면 됨 (linear interpolation)
'1. 인공지능 > (3) Optimization, 기본수학' 카테고리의 다른 글
Linear vs Affine Transformation (0) | 2024.08.26 |
---|---|
PSO 최적화 (0) | 2024.08.20 |
SQP(Sequential Quadratic Programming) 최적화 (0) | 2024.08.03 |
non-linear 함수의 최적화가 어려운 이유와 해법 (0) | 2024.08.03 |