1
AD 1989장면 1 / 3같은 연도의 세계에서 이어 보기
사이번코 — 시그모이드 함수의 정리
조지 사이번코가 시그모이드 활성화 함수를 가진 단일 은닉층 신경망의 보편 근사성 증명.
정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면
같은 연도의 세계에서 이어 보기이 개념의 출항 질문
풀 수 있음의 경계 찾기4 / 5번째 항구“‘신경망 보편 근사 정리’에서 묻습니다. 정확한 절차가 풀 수 있는 것과 끝내 결정할 수 없는 것은 무엇일까?”
기계적 절차, 증명, 양자 계산, 학습과 전략을 오가며 계산 가능성과 선택의 경계를 살핍니다.
이 항로는 이해를 돕는 편집 경로입니다. 직접적인 역사 영향선이나 한 사람의 단독 발명을 뜻하지 않습니다.
한 호흡으로 이해하기
"단 한 층의 신경망도 어떤 연속함수든 임의 정밀도로 근사할 수 있다." 1989년 시벤코 정리. 딥러닝이 왜 작동하는지에 대한 첫 수학적 보장. 충분히 크면 표현력은 무한 — 그러나 얼마나 커야 하는지 답은 아직 없다(딥러닝 이론의 미해결 문제).
한눈에 보기
σ(x) = 1/(1+e^(-x))σ(3x) — 더 가파른 단계x: 활성화 함수 시그모이드
개념
적절한 활성화 함수를 쓴 충분히 넓은 단일 은닉층 신경망이 컴팩트 영역의 연속함수를 원하는 정확도로 근사할 수 있다는 존재 정리. 학습 가능성·필요한 폭·데이터 일반화까지 보장하지는 않는다.
핵심 식
단층 신경망 = 만능 근사기
시간의 항구
이 개념은 한 번에 발명되지 않았습니다
장면을 따라가면 문제, 표기, 증명 기준과 쓰임이 서로 다른 장소와 시대에서 어떻게 바뀌었는지 보입니다.
2
AD 1991장면 2 / 3같은 연도의 세계에서 이어 보기
호닉 — 더 넓은 활성화 함수 조건
비다항 활성화 등 더 일반적인 조건에서 조밀한 근사 결과를 정리해 정리의 적용 범위를 넓혔다.
정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면
같은 연도의 세계에서 이어 보기3
AD 2017장면 3 / 3같은 연도의 세계에서 이어 보기
깊이와 표현 효율 연구
특정 함수·구조에서는 깊은 네트워크가 얕은 네트워크보다 훨씬 적은 단위로 표현할 수 있다는 결과들이 나왔다. 모든 문제에서 깊이가 우월하다는 단일 정리는 아니다.
정확한 장소가 없어 거짓 핀 대신 시간만 이어지는 장면
같은 연도의 세계에서 이어 보기오늘날의 응용
신경망의 표현 능력을 이해하는 출발점이며 함수 근사·가치 함수·미분방정식 근사와 연결된다. 실제 딥러닝의 최적화와 일반화는 별도의 이론이 필요하다.
MathVoyage 너머로
큐레이터가 고른 원전과 탐구 과제. OEIS·Project Euler·MathOverflow·arXiv에서는 발견 하나를 수첩으로 가져올 수 있습니다.
한 사람이 만든 개념이 아닙니다
역할이 다른 사람들을 따라가기
대표 연결은 발명자 명단이 아닙니다. 문제를 열고, 언어를 다듬고, 다른 세계로 옮긴 서로 다른 항구입니다.
수의 렌즈
같은 개념도 수의 세계가 바뀌면 다르게 보입니다
아래 수는 필수 선수 조건이 아니라 이 항로를 비추는 편집 렌즈입니다.
개념의 계보
무엇을 딛고, 무엇을 열었을까?
직접 연결만 표시하며 완전한 학습 순서나 역사 영향선을 뜻하지 않습니다.