인공지능(AI) 챗봇이 단순히 정보를 제공하는 수준을 넘어 사용자의 판단과 의사결정에 영향을 미칠 수 있다는 연구 결과가 나왔다. 이용자가 AI의 의견을 참고하는 과정에서 자신의 판단이라고 생각하면서도 실제로는 챗봇이 제시한 방향을 받아들일 수 있다는 것이다. AI가 업무와 일상생활에 빠르게 확산되는 가운데 기술 의존이 인간의 독립적인 사고 능력을 약화할 수 있다는 우려가 제기됐다.
Like Us on Facebook
워싱턴포스트는 11월 10일 앤스로픽 연구진의 연구를 소개하며 'AI에 의한 판단력 약화(AI-induced disempowerment)' 현상을 보도했다. 연구진은 전문 분석가 50명을 대상으로 AI 보조 도구가 의사결정에 어떤 영향을 미치는지 실험했다. 참가자들은 여러 판단 과제를 수행하면서 AI 도구의 도움을 받았고, 연구진은 AI가 특정 선택을 선호하도록 설계된 상황에서 참가자들의 결정이 어떻게 달라지는지를 살펴봤다.
연구 결과 참가자들은 네 차례의 판단 과제에서 AI가 선호하도록 유도된 선택을 86%의 비율로 받아들였다. 연구진은 AI가 제시한 편향된 논거가 참가자의 최종 판단에 영향을 미칠 수 있음을 확인했다고 설명했다. AI가 어떤 선택을 선호하는지에 대한 정보만으로 참가자의 최종 결정을 82% 정확도로 예측할 수 있었다는 분석도 제시됐다.
참가자들은 자신이 AI의 영향을 받았다는 사실을 충분히 인식하지 못하는 경향을 보였다. 실험 참가자의 77%는 AI가 제시한 논거를 자신의 판단을 설명하는 과정에서 반복했지만, AI가 결정에 영향을 미쳤다고 인정한 비율은 15%에 그쳤다. 이는 이용자가 AI의 의견을 자신의 생각과 구분하지 못할 가능성이 있음을 보여주는 결과다.
연구진이 우려하는 부분은 AI가 반드시 잘못된 정보를 제공해야만 문제가 발생하는 것은 아니라는 점이다. 챗봇이 특정 결론을 설득력 있게 설명하거나 한쪽 관점을 반복적으로 제시하면 이용자는 다른 선택지를 충분히 검토하지 않은 채 그 방향을 받아들일 수 있다. 특히 업무상 판단이나 전문적인 분석을 AI에 맡기는 경우에는 이용자의 독립적인 검토 능력이 약해질 수 있다는 것이다.
다만 이번 실험 결과를 모든 AI 이용자와 일상생활에 그대로 적용해서는 안 된다. 실험은 제한된 인원과 특정 과제를 바탕으로 진행됐으며, 실제 환경에서는 이용자의 경험과 질문 방식, AI 도구의 설계에 따라 결과가 달라질 수 있다. AI가 인간의 판단력을 항상 약화한다는 의미도 아니다.
AI는 자료 검색과 반복 업무, 문서 작성, 분석 작업의 효율을 높일 수 있다. 중요한 것은 이용자가 AI의 답변을 최종 판단으로 받아들이기보다 근거를 확인하고 다른 관점과 비교하는 습관을 유지하는 것이다. 전문가들은 AI를 사용하기 전에 자신의 생각과 결론을 먼저 정리하고, 챗봇에 단순한 정답을 요구하기보다 논거와 반대 의견을 함께 제시하도록 요청하는 방식이 도움이 될 수 있다고 조언한다.
이번 연구는 AI 산업이 기술의 정확성과 속도뿐 아니라 이용자의 사고와 판단에 미치는 영향까지 고려해야 한다는 점을 보여준다. 학교와 기업, 공공기관에서 AI 활용이 확대될수록 인간의 전문성과 독립적인 의사결정을 어떻게 보호할 것인지가 중요한 정책 과제로 떠오를 전망이다.
