개념
가장 좋은 답을 찾는 수학. 17세기 페르마의 극값에서 시작해 오늘날 머신러닝·운송·금융의 모든 결정에 쓰인다.
한 호흡으로 이해하기
제약 안에서 목적함수를 가장 작게 또는 크게 만드는 선택을 찾는다. 선형계획·경사법·확률적 탐색은 문제 구조에 따라 다른 보장을 준다. 볼록 문제는 지역 최소가 전역 최소지만, 신경망처럼 비볼록인 문제에서는 경사 0만으로 최적을 보장하지 못한다. 물류·설계·통계·학습의 많은 문제를 이 틀로 다룬다.
한눈에 보기
f(x) = 0.3x⁴ - 3x²
핵심 식
볼록함수에서는 경사 0 → 전역 최소
핵심 순간
AD 1638
페르마 — 극값의 조건
페르마가 기울기가 0인 점에서 극값이 발생함을 발견. 미적분 한 세대 전.
AD 1736
오일러-라그랑주 — 변분법
함수 자체를 변수로 두고 최적화하는 변분법 탄생. 물리학의 최소작용 원리로 이어짐.
AD 1947
단치그 — 단체법(Simplex)
조지 단치그가 선형계획법의 효율적 알고리즘 발견. 2차 대전 군수·물류 결정의 기반.
AD 1986
역전파 알고리즘
신경망의 가중치를 경사하강으로 효율 학습하는 방법이 정착. 현대 AI의 출발.
오늘날의 응용
신경망 학습(경사하강법), 항공편 스케줄링, 포트폴리오 최적화, 물류 최적화, 게임 AI. 최선을 찾아야 하는 모든 곳.
MathVoyage 너머로
불러오는 중…