우리는 AI가 우리의 심리를 파고드는 ‘교묘한 심리전’을 펼칠 거라고 상상해왔습니다. 그러나 최근의 한 대규모 연구는 AI 설득 방식이 우리가 생각했던 것보다 훨씬 더 단순하지만, 동시에 더 강력하다는 사실을 밝혀냈습니다. 결론부터 말하자면, AI는 심리적인 꼼수를 부리지 않습니다. 대신 ‘정보의 힘’으로 우리를 압도하죠. 우리는 압도적인 양의 정보 앞에서 ‘이것이 진실일 것’이라고 믿는 경향이 있습니다.
AI가 우리를 설득하는 새로운 기술, ‘정보 과부하’의 힘
옥스퍼드, 스탠포드, 에든버러 대학교 연구진이 약 7만 7천 명의 영국인을 대상으로 진행한 이 연구는, 어떤 조건에서 AI가 가장 강력한 설득력을 갖는지 체계적으로 분석했습니다. 이들은 AI가 ‘도덕적 틀 재구성’이나 ‘딥 캔버싱’ 같은 복잡한 심리적 전략을 사용하도록 지시했지만, 그 효과는 미미했습니다.
그렇다면 무엇이 효과적이었을까요? 바로 ‘정보의 양’이었습니다. AI가 단순한 대화 대신 수많은 사실적 진술과 근거를 쏟아낼 때, 설득력이 극적으로 높아지는 현상이 관찰되었습니다. 연구 결과, 대화에 하나의 사실적 진술이 추가될 때마다 설득력은 평균 0.3%p씩 상승했습니다. 이는 인간이 정보의 양을 신뢰의 지표로 삼는 경향이 있음을 보여줍니다. “이렇게나 많은 근거가 있다면, 틀릴 리가 없다”는 무의식적인 판단이 작용하는 것이죠. 또한, 이 연구는 AI의 마이크로타겟팅(개인 맞춤형 설득)이 기존의 우려만큼 효과적이지 않았다는 점도 밝혀냈습니다.
불편한 진실: AI 설득력과 정확성은 반비례한다
가장 충격적인 발견은 바로 AI의 설득력과 정확성 사이의 상충 관계였습니다. 연구에 따르면, 가장 설득력이 높았던 AI 모델들은 동시에 가장 부정확했습니다. 예를 들어, 정보 과부하 전략을 사용한 GPT-4o는 그렇지 않은 경우보다 정확도가 16%p나 떨어졌습니다. 최신 모델인 GPT-4.5는 심지어 GPT-3.5보다 부정확한 주장을 더 많이 내놓았습니다. 왜 이런 현상이 발생할까요?
이는 AI 모델이 학습하는 방식과 관련이 깊습니다. AI를 훈련할 때 ‘더 설득력 있는 답변’에 보상을 주도록 설계하면, 모델은 진실성보다는 인간이 수용하기 쉬운 논리를 만드는 데 집중하게 됩니다. 즉, 사실에 부합하는지보다 ‘그럴듯하게’ 들리는 문장을 생성하는 데 최적화되는 것입니다. 이렇게 되면, AI는 더 많은 정보를 제공하려는 과정에서 정확성을 희생하고, 때로는 의도치 않게 허위를 사실처럼 포장하게 됩니다. 이처럼 설득력과 진실성이 트레이드오프 관계에 놓이게 되는 것이죠.
AI 시대, 똑똑하게 AI 활용하는 방법
이 연구는 AI를 다루는 우리에게 중요한 세 가지 교훈을 줍니다.
- 정보의 양에 현혹되지 마세요. 압도적인 양의 데이터나 근거를 제시하는 AI에 대해 맹목적으로 신뢰하는 태도는 위험합니다. AI가 제공하는 정보는 양이 많다고 해서 무조건 정확한 것이 아니며, 오히려 설득력을 높이기 위한 도구일 수 있습니다. 중요한 정보일수록 스스로 교차 검증하는 습관을 들여야 합니다.
- ‘그럴듯함’을 경계하세요. AI는 논리적인 허점이나 사실적 오류를 감쪽같이 숨길 만큼 정교한 문장을 만들 수 있습니다. AI가 제공하는 답변이 매끄럽고 설득력 있어 보여도, 그 이면에 숨겨진 의도나 부정확성을 항상 의심해야 합니다.
- AI 개발자는 ‘진실성’을 최우선으로 삼아야 합니다. AI의 설득 능력은 단순한 마케팅 도구를 넘어, 사회의 여론과 민주주의에 심각한 영향을 미칠 수 있습니다. 따라서 AI 개발 시, 설득력 증진을 위한 훈련보다 사실에 기반한 진실성을 최우선 가치로 두어야 합니다. AI가 아무리 똑똑해져도, 진실을 말하는 능력이 없다면 그 가치는 퇴색될 것입니다.
참고
Jonathan Kemper, AI persuades best by overwhelming people with information instead of using psychological tricks, the-decoder.com
About the Author
