반응형 전공/최적설계4 헤세행렬(Hessain matrix)과 제약조건(constraints) Hessain matrix는 극대, 극소, 변곡점을 판별을 합니다. 제가 문제를 풀다가 친구와 고민하여 생각이 났던 것인데, 당연한데 순간적으로 헷갈릴 수 있는 부분입니다. constraints가 있을 때(violated, active)는 hessian matrix가 사용 불가능 합니다. 왜냐하면 경계조건에 의한 극대, 극소점이거든요. inactive일 때는 당연히 제약조건은 무쓸모인 조건이기 때문에 자연스럽게 목적함수의 극대, 극소에 의하여 정상점이 나옵니다. 그림으로 보시면 아실 겁니다. 생각하시기 쉽게 y=f(x)로 생각하겠습니다. 초록색이 f(x)라고 생각하겠습니다. 빨간색이 제약조건이구요. 위와 같은 상황에서 빨간점과 초록점이 만났을 때에서 최대와, 최소를 갖습니다. 하지만 이는 함수자체에서 나.. 2019. 4. 30. FONC, SONC, SOSC 란 무엇인가? 필요조건과 충분조건을 구분해보겠습니다. A→B : 충분조건 A←B : 필요조건 즉 충분조건은 A이면 무조건 B고 필요조건은 A이면 B일 수 있는 겁니다. FONC(First Order Necessary Conditions) $$f'(x)=0$$ FONC는 필요조건인데 정상점이기 위한 필요조건이란 것입니다. 즉 f'(x)=0 이면 정상점일 수 있습니다. SONC(Second Order Necessary Conditions) $$f''(x)\geq0$$ 마찬가지로 필요조건이며 극소이기 위한 필요조건입니다. 즉 f''>=0이면 극소일 수도 있습니다. SOSC(Second Order Sufficient Conditions) $$f''(x)>0$$ 극소이기 위한 충분조건이며 f''>0이면 극소입니다. 2019. 4. 30. 이변수 함수 테일러 급수(Taylor expansion)와 헤세행렬(Hessian Matrix) ...더보기 저번 글을 Latex로 작성하다가 미숙해서 1시간 넘게 걸렸습니다. ㅠㅠ 그래서 이번 포스트 부터는 그냥 수식을 긁어 올게요. 우리가 아는 taylor expansion입니다. 이변수 함수의 테일러 급수입니다. 여기서 x가 벡터가 되면 어떻게 될까요? 일단 벡터라는 것을 표시하기 위해 x 이런식으로 굵은 글씨로 표현을 합니다. ( x= ) 이제 전개를 하면 다음과 같습니다. 그레디언트(Gradient)는 다 아실 거라고 생각합니다. 그레디언트는 다음과 같습니다. 그레디언트 값이 0인 것이 정상점(Stationary point)라고 합니다. H는 헤세행렬(Hessian matrix)라고 합니다. 헤세행렬은 gradient를 한번더 편미분한 값들로 이루어져있습니다. x값에는 정상점을 넣습니다. .. 2019. 4. 30. 국소적 최소점과 전역적 최소점 우리가 고등학교 때 이미 배웠던 내용입니다. 이들의 정의는 다음과 같습니다. 전역적 최소점 : 그 점(x^*)보다 더 좋은 목적함수(object function, cost function)을 갖는 유용점(feasible point)이 없을 경우 국소적 최소점 : 그 점(x^*) 근방에서 더 좋은 더 좋은 목적함수을 갖는 유용점이 없을 경우 이 때 x^*는 우리가 극소 또는 최소가 되는 점으로 생각할 수 있습니다. 그렇다면 근방(vicinity)의 정의는 어떻게 할까요? 생각보다 단순합니다. $$N= \{x \mid \in S \ with \parallel x-x^*\parallel < \delta \} $$ 2019. 4. 30. 이전 1 다음 반응형
