내접 정사각형 — 아무 고리나 그려도 정사각형이 숨어 있을까?

1911년 오토 퇴플리츠가 이 질문을 공개했다. 원에서는 정사각형을 끝없이 그릴 수 있고, 삼각형이나 매끈한 달걀 모양에서도 몇 번 선을 옮기면 하나가 보인다. 그래서 처음에는 연습문제처럼 들린다. 하지만 곡선을 심하게 구기고 뾰족하게 만들수록 네 점의 거리와 네 각을 동시에 맞추는 일이 갑자기 어려워진다.

이 문제의 매력은 증명보다 관찰이 먼저라는 데 있다. 종이에 서로 다른 고리 다섯 개를 그리고, 투명한 정사각형 틀을 돌리고 늘리며 네 모서리가 선에 닿는 순간을 찾을 수 있다. 원·타원·다각형에서는 계속 성공한다. 그러면 자연스럽게 “실패하는 고리를 만들 수 있을까?”라는 질문이 생긴다. 그 순간 이미 115년 난제의 가장자리에서 탐구하고 있는 셈이다.

큰 진전은 있었다. 조슈아 그린과 앤드루 롭은 2021년 《Annals of Mathematics》에서 모든 매끄러운 조르당 곡선에 원하는 종횡비의 직사각형이 내접한다는 더 강한 결과를 증명했다. 그러나 뾰족하거나 한없이 거친 모든 연속 단순 닫힌 곡선까지 포함하면 아직 답을 모른다. 쉬운 그림과 어려운 경계 사이에 난제가 숨어 있다.