추론 시간 연산(Test-time Compute) 스케일링 법칙, 데이터 고갈 위기 돌파했나
DOC-104 · 모델아키텍처분석팀 ·
사전학습 데이터 한계론을 뒤집고, 답변 생성 시 사고 시간을 늘려 지능을 끌어올리는 패러다임이 정착되고 있습니다.
2024년 말까지 업계의 최대 고민이었던 인터넷 텍스트 데이터 고갈 문제는 강화학습 기반 자가 대국 및 추론 스케일링으로 우회되었습니다.
- 모델이 스스로 가설을 세우고 반증하는 내부 독백 토큰을 늘릴수록 난제 해결률이 정비례하여 상승합니다. - 단, 이에 따라 데이터센터 전력 소모량 역시 폭증하여 에너지 인프라가 새로운 병목으로 부상했습니다.