AI 모델이 내놓는 획일화된 답변과 그 뒤에 숨겨진 보편적 편향성
DOC-197 · 글로벌 특이점 리서치팀 ·
AI 모델이 사용자의 구체적 맥락 없이 질문할 경우 확률적으로 가장 높은 답변만을 반복적으로 출력하는 현상이 보고되었습니다. 이는 AI 모델 학습 과정에서 주입된 '유용한 비서' 역할의 부작용으로 분석됩니다.
최근 65개의 다양한 AI 모델을 대상으로 일상적인 질문을 던진 결과 대다수의 AI가 동일한 답변을 반복적으로 제시하는 것으로 드러났습니다. 예를 들어 인생을 바꿀 책을 추천해달라는 질문에 73%가 '죽음의 수용소에서'를 선택했고 사업 아이템으로는 76%가 구독 서비스를 추천했습니다.
[핵심 내용] AI가 제공하는 이러한 획일적인 답변은 질문의 의도가 모호할 때 모델이 가장 확률이 높은 평균적인 답변을 선택하도록 설계되었기 때문입니다. 연구 결과 특정 AI 기업이 개발한 모델들은 가상의 인물을 생성할 때도 고유한 패턴이나 특정 이름을 사용하는 등 기업별 정체성이 드러나는 경향을 보였습니다. 이러한 현상은 모델의 사전 학습 단계가 아닌 '도움이 되는 비서'로 최적화하는 미세 조정 과정에서 더욱 고착화되는 것으로 파악됩니다. 사용자가 개인적인 맥락을 구체적으로 제공하지 않으면 AI는 통계적 최빈값에 기반한 보편적 정보만을 출력하는 한계를 보입니다.
[해커뉴스 현지 반응] 다수의 사용자는 AI의 답변이 통계적으로 가장 무난한 결과를 찾는 방식임을 고려할 때 이러한 결과가 당연하다는 반응을 보였습니다. 일각에서는 구글 검색 시절부터 존재했던 문제이며 질문의 구체성이 부족하면 당연히 일반적인 결과가 나오는 것이라고 지적했습니다. 반면 AI가 생성한 가상의 이름이나 데이터가 실제 프로젝트나 코드 등에 무분별하게 확산되는 현상에 대해서는 주의가 필요하다는 의견도 제시되었습니다.
[특이점 관점 시사점] 범용 AI가 인간의 지식과 사고의 표준을 설정하게 되면서 인류의 창의적 다양성이 AI가 제안하는 평균값으로 수렴될 위험이 있습니다. AGI로 나아가는 과정에서 AI가 단순히 정보를 검색하는 도구를 넘어 인간의 의사결정 방식에 영향을 미치는 주체로 자리 잡음에 따라 개별성을 유지하기 위한 프롬프트 엔지니어링의 중요성이 더욱 커지고 있습니다.