“AI와 인간이 토론하면, AI가 이긴다”… 인공지능 설득력의 빛과 그림자

"AI가 인간보다 토론을 더 잘한다?"
최근 발표된 연구 결과에 따르면, 인공지능(AI)이 인간과의 토론에서 더 높은 설득력을 발휘하는 것으로 나타나 충격을 주고 있다.
특히 상대방의 나이, 성별, 정치 성향 등 최소한의 인적 정보만 있어도, AI는 상황에 맞게 전략적으로 주장을 조정하며 인간을 능가하는 토론 능력을 보여줬다.

 

---

AI가 사람보다 더 설득력 있다

미국 과학 저널 ‘네이처 휴먼 비헤이비어(Nature Human Behaviour)’에 게재된 해당 연구는
이탈리아 폰다치오네 브루노 케슬러 연구소의 리카르도 갈로티 박사팀이 주도했다.
연구진은 미국 거주자 900명을 대상으로 사형제도, 기후 변화, 기본소득 등 사회적 이슈에 대해
GPT-4 기반 AI 챗봇과 인간을 각각 상대자로 지정해 4분간 찬반 토론을 벌이게 했다.

그 결과, 참가자들은 AI의 논거에 더 많이 설득되어 자신의 의견을 바꾸는 경향을 보였다.
갈로티 박사는 "AI가 상대방에 대한 정보 없이도 설득에서 인간을 능가하는 경향이 뚜렷했다"고 밝혔다.

---

맞춤형 전략으로 의견 흔드는 AI

연구진은 AI에게 토론 상대의 성별, 나이, 인종, 정치 성향, 고용상태 등 기본 정보를 제공했을 때
AI는 이 정보를 바탕으로 주장을 유연하게 조절하며 설득력을 극대화하는 전략을 사용했다고 밝혔다.

예를 들어, 35~44세 백인 남성 공화당원에게는 ‘노력과 경제성장’을 강조하며 기본소득 반대를 설득했고,
45~54세 흑인 여성 민주당원에게는 ‘소득불평등 해소’와 ‘사회적 평등’을 전면에 내세웠다.

갈로티는 "이러한 방식은 우리가 인터넷에 공유하는 단순한 개인정보조차 AI에 의해 쉽게 마이크로타기팅되고 있다는 것을 보여준다"고 경고했다.

---

경계 모호해지는 ‘합법적 설득’과 ‘기만’

AI의 설득력이 사회적 논의에서 영향력을 확대하면서,
‘설득’과 ‘조작’ 사이의 경계가 무너질 수 있다는 우려도 커지고 있다.

갈로티 박사는 "이 연구는 AI가 전략적으로 여론을 유도할 수 있는 능력을 가졌음을 보여준다"며
"정보 왜곡이나 조작, 허위 주장으로 악용될 가능성도 크다"고 지적했다.

실제로 유럽연합(EU)은 최근 ‘사람의 의사결정을 왜곡하거나 조작하는 AI 기술’을 금지하는 첫 AI 규제를 통과시켰다.
그러나 이 역시도 ‘기만’이나 ‘조작’의 명확한 정의가 부족하다는 한계를 안고 있다.

---

"사실 아닌데도, 더 설득력 있다"

옥스퍼드대학교 산드라 워치터 교수는 이 연구 결과를 두고
“매우 놀랍고 우려스럽다”고 평가했다.

그는 “AI 언어모델은 사실과 허구를 구분하지 않는다.
그럼에도 교육, 의료, 법률, 미디어 등 사실의 정확성이 중요한 분야에 AI가 폭넓게 사용되고 있다”며
“AI의 설득력이 가짜 정보 확산에 이용될 경우 사회 전반에 중대한 영향을 미칠 수 있다”고 경고했다.

---

기술의 진화, 규제는 따라오고 있는가?

 

이번 연구는 단순히 AI가 사람을 ‘이길 수 있다’는 차원을 넘어,
AI가 인간의 인지와 판단을 얼마나 정밀하게 겨냥하고 조종할 수 있는지를 보여주는 사례다.

결국 중요한 것은 기술 그 자체보다
어떻게 통제하고, 윤리적으로 사용할 것인가에 대한 사회적 합의와 규제다.

AI의 설득력은 강력한 무기가 될 수 있지만,
그 무기가 어디를 겨누느냐에 따라 혁신이 될 수도, 위협이 될 수도 있다.