EN
해석 · 개념 허브깊이 읽기

최적화

Optimization

AD 1638고대 반사 경로·17세기 극값과 최속 곡선에서 현대의 변분·계획·확률적 탐색까지 이어진 다중 형성

‘최적화’에서 묻습니다. 순간의 변화와 긴 시간의 누적을 어떻게 한 언어로 묶을까?

움직이는 천체와 흐르는 물에서 파동, 최적화, 혼돈까지—멈추지 않는 세계를 계산하는 언어를 따라갑니다.

이 항로는 이해를 돕는 편집 경로입니다. 직접적인 역사 영향선이나 한 사람의 단독 발명을 뜻하지 않습니다.

한 호흡으로 이해하기

제약 안에서 목적함수를 가장 작게 또는 크게 만드는 선택을 찾는다. 선형계획·경사법·확률적 탐색은 문제 구조에 따라 다른 보장을 준다. 볼록 문제는 지역 최소가 전역 최소지만, 신경망처럼 비볼록인 문제에서는 경사 0만으로 최적을 보장하지 못한다. 물류·설계·통계·학습의 많은 문제를 이 틀로 다룬다.

한눈에 보기

-3-2-10123-8-6-4-202극소극대극소
f(x) = 0.3x⁴ - 3x²

개념

주어진 목적함수를 제약 안에서 가장 작게 또는 크게 만드는 선택을 찾는 수학. 무엇을 “좋다”고 셀지, 무엇을 가능하다고 둘지 정해야 최적값도 생긴다. 국소해·전역해, 정확해·근사해, 계산 가능한 답과 사회적으로 바람직한 답은 서로 다르다.

핵심 식

f convex,  f(x)=0x is a global minimumf \text{ convex},\; \nabla f(x^*) = 0 \Longrightarrow x^* \text{ is a global minimum}

볼록함수에서는 경사 0 → 전역 최소

시간의 항구

이 개념은 한 번에 발명되지 않았습니다

장면을 따라가면 문제, 표기, 증명 기준과 쓰임이 서로 다른 장소와 시대에서 어떻게 바뀌었는지 보입니다.

1
AD 1638장면 1 / 6같은 연도의 세계에서 이어 보기

페르마 — 미분 기호 전의 극대·극소 절차

페르마의 adequality는 가까운 식을 비교해 여러 접선·극값 문제를 풀었다. 오늘의 “기울기=0” 문장을 그대로 쓴 것이 아니며, 경계점·미분 불가능점까지 포괄하는 충분조건도 아니다.

정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면

같은 연도의 세계에서 이어 보기
2
AD 1744장면 2 / 6같은 연도의 세계에서 이어 보기

오일러 — 함수 전체를 고르는 변분법

《Methodus inveniendi》는 곡선마다 붙는 길이·시간 같은 양의 극값을 체계화했다. 로잔은 출판지이고 라그랑주 등 여러 연구가 뒤이어 형식을 발전시켰다.

정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면

같은 연도의 세계에서 이어 보기
3
AD 1847장면 3 / 6같은 연도의 세계에서 이어 보기

코시 — 음의 기울기를 반복해 내려가다

연립방정식 풀이에 최급강하 절차를 제안했다. 방향이 내려막이어도 보폭·초기값·함수 구조에 따라 느려지거나 발산하고, 전역 최적을 자동 보장하지 않는다.

정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면

같은 연도의 세계에서 이어 보기
4
AD 1939장면 4 / 6같은 연도의 세계에서 이어 보기

카루시와 칸토로비치 — 제약과 자원 배분

카루시는 부등식 제약의 조건을, 칸토로비치는 생산계획의 선형 모형을 서로 다른 제도에서 전개했다. 뒤의 KKT·심플렉스와 연결되지만 한 사람·한 도시의 발명으로 합치지 않는다.

정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면

같은 연도의 세계에서 이어 보기
5
AD 1951장면 5 / 6같은 연도의 세계에서 이어 보기

로빈스–몬로 — 잡음 속 확률근사

정확한 함숫값 대신 잡음 섞인 관측과 줄어드는 보폭으로 목표를 추정했다. 현대 확률적 기울기법의 중요한 어깨지만 미니배치 신경망 학습과 완전히 같지는 않다.

정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면

같은 연도의 세계에서 이어 보기
6
AD 2012장면 6 / 6같은 연도의 세계에서 이어 보기

AlexNet — 자료·GPU·손실 최적화의 결합

대규모 이미지 자료, 합성곱망, GPU, 역전파와 확률적 최적화가 성능을 크게 높였다. 벤치마크 손실 최소화는 일반 지능·진실·공정성의 자동 최적화가 아니다.

정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면

같은 연도의 세계에서 이어 보기

오늘날의 응용

신경망 학습·항공편 스케줄링·물류·설계·에너지·포트폴리오·게임 AI에 쓰인다. 계산 결과의 품질은 목적함수·제약·자료·불확실성·알고리즘과 정지 규칙에 달려 있고, 빠진 비용이나 공정성을 자동 판단하지 않는다.

MathVoyage 너머로

큐레이터가 고른 원전과 탐구 과제. OEIS·Project Euler·MathOverflow·arXiv에서는 발견 하나를 수첩으로 가져올 수 있습니다.

한 사람이 만든 개념이 아닙니다

역할이 다른 사람들을 따라가기

대표 연결은 발명자 명단이 아닙니다. 문제를 열고, 언어를 다듬고, 다른 세계로 옮긴 서로 다른 항구입니다.

수의 렌즈

같은 개념도 수의 세계가 바뀌면 다르게 보입니다

아래 수는 필수 선수 조건이 아니라 이 항로를 비추는 편집 렌즈입니다.

개념의 계보

무엇을 딛고, 무엇을 열었을까?

앞에서 건너온 개념

현재 항구

최적화

여기서 열리는 개념

직접 후속 항구가 아직 지정되지 않았습니다.

직접 연결만 표시하며 완전한 학습 순서나 역사 영향선을 뜻하지 않습니다.