인공지능의 대답에 숨겨진 비밀: 현실과 이상의 사이

연구팀은 자신들의 이론을 증명하기 위해 몇 가지 중요한 실험을 설계했습니다.

첫 번째 실험에서는 AI가 전혀 모르는 가상의 취미 '글러빙'을 만들었습니다. 그리고 AI에게 '사람들은 평균 45시간 글러빙을 한다'는 통계 정보와 함께, '글러빙을 오래 하는 것이 좋은 것이다' 또는 '적게 하는 것이 좋은 것이다'라는 가치 정보를 주었습니다. 그 결과, AI는 '오래 하는 게 좋다'는 조건에서는 45시간보다 긴 시간을, '적게 하는 게 좋다'는 조건에서는 45시간보다 짧은 시간을 답변으로 내놓았습니다. 이는 AI가 통계뿐만 아니라 가치 판단에 따라 답변을 조절한다는 강력한 증거입니다.

두 번째 실험에서는 건강, 경제 등 10개 분야의 500가지 실제 개념에 대해 AI에게 '평균값', '이상적인 값', 그리고 '그냥 하나의 예시 값'을 각각 물었습니다. 그 결과, 대부분의 경우 '예시 값'은 '평균값'과 '이상적인 값' 사이에 위치했습니다. 예를 들어 환자의 회복 기간을 묻는 의료 실험에서, AI는 통계적인 평균 회복 기간보다 더 짧은 기간을 제시하는 경향을 보였습니다. 이는 환자를 너무 일찍 퇴원시키는 위험한 결정을 내릴 수 있음을 시사합니다.

마지막으로, 이 연구는 더 크고 발전된 최신 AI 모델일수록 이러한 '이상'을 향한 치우침이 더 강하게 나타난다는 사실도 발견했습니다.