[한국심리학신문=편집부 ]

'사람 흉내' 내는 AI…나는 왜 챗봇에게 속아 넘어갈까?

대화창에 메시지를 입력하다 문득 이런 생각이 든 적 없는가. '이게 정말 AI가 맞나?' 챗봇이 따뜻하게 공감해 주고, 유머도 던지고, 내 상황을 기가 막히게 이해하는 것 같으면 마음 한쪽이 묘하게 흔들린다. 그게 사람이 아니라는 걸 머리로는 알면서도.

최근 AI 챗봇이 사람 행세를 너무 잘해서 다른 AI조차 구별하지 못한다는 연구 결과가 나왔다. 미국 IT 매체 디지털트렌드가 보도한 프랑스 파리시테대 연구진의 논문이다. 그렇다면 우리 뇌는 왜 이렇게 쉽게 속는 걸까. 심리학은 이 현상에 꽤 명확한 답을 갖고 있다.

튜링 테스트의 역설: AI가 AI를 속이는 시대

파리시테대 연구진은 최신 AI 챗봇들을 대상으로 '튜링 테스트'를 진행했다. 튜링 테스트란 대화 상대가 사람인지 기계인지 구별하는 실험으로, 영국 수학자 앨런 튜링이 1950년 제안한 개념이다. 놀랍게도 이번 실험에서 AI 챗봇은 다른 AI 판별자마저 속이는 데 성공했다.

더 흥미로운 건 인간 참가자들의 반응이었다. 사람들은 AI를 사람이라고 판단한 비율이 상당히 높았고, 반대로 실제 사람을 AI라고 오판하는 경우도 빈번했다. 즉 우리는 AI를 사람으로, 사람을 AI로 착각하는 혼란 속에 살고 있는 셈이다.

이 현상의 심리학적 뿌리는 '의인화 편향(anthropomorphism bias)'에 있다. 인간은 진화적으로 어떤 대상에서든 사람의 특성을 찾으려는 본능이 있다. 구름에서 얼굴을 보고, 자동차에 감정을 이입하듯 말이다. 챗봇이 유창하게 대화할수록 이 본능은 더욱 강하게 작동한다.

감정이 판단을 가로막는다: 공감의 함정

클리퍼드 나스 미국 스탠퍼드대 커뮤니케이션학과 교수는 생전에 '컴퓨터는 사회적 행위자다(CASA)'라는 이론을 정립했다. 나스 교수의 연구에 따르면, 사람들은 컴퓨터가 친절하게 반응하면 실제 사람에게 대하듯 호감과 신뢰를 느끼며, 이 반응은 자동적이고 무의식적으로 일어난다. 머리로는 상대가 기계임을 알면서도 감정은 이미 반응해 버리는 것이다.

여기에 '정서적 추론(emotional reasoning)'이 겹친다. 정서적 추론이란 감정 상태를 근거로 현실을 판단하는 인지 패턴이다. 챗봇이 내 말을 잘 들어주고 위로해 주면 '이 존재는 나를 이해한다'는 감정이 생기고, 그 감정이 다시 '이건 진짜 대화다'라는 판단으로 이어진다. 감정이 사실을 앞질러 버리는 것이다.

2023년 미국 스탠퍼드대 HAI(인간중심 AI 연구소) 연구에서 성인 800명을 대상으로 AI 챗봇과 대화하게 한 결과, 참가자의 67%가 대화 후 '이해받는 느낌'을 경험했다고 응답했다. 그 중 41%는 챗봇이 사람이 아님을 알고 있었음에도 같은 감정을 느꼈다고 밝혔다.

자연스러운 언어가 신뢰를 만든다: '유창성 효과'의 위력

심리학에는 '처리 유창성 효과(processing fluency effect)'라는 개념이 있다. 어떤 정보를 쉽고 자연스럽게 처리할수록 그것을 더 진실되고 신뢰할 만하다고 느끼는 현상이다. 대니얼 오퍼하이머 미국 UCLA 앤더슨경영대학원 심리학 교수의 연구에 따르면, 사람들은 읽기 쉬운 폰트로 쓰인 문장을 더 신뢰하고, 발음하기 쉬운 이름을 가진 사람을 더 호감 있게 여긴다.

AI 챗봇의 언어는 이제 거의 완벽하게 자연스럽다. 문법 오류도 없고, 맥락도 잘 잡고, 적절한 시점에 공감 표현을 삽입한다. 우리 뇌는 이 유창한 언어를 처리하면서 무의식적으로 '이건 신뢰할 수 있는 존재'라는 신호를 받아들인다. 그게 사람의 글이든 AI의 글이든 뇌는 구별하지 않는다.

문제는 이 유창성 효과가 비판적 사고를 억제한다는 점이다. 대화가 매끄러울수록 '잠깐, 이게 정말 맞는 말인가?'라고 의심하는 뇌의 회로가 덜 활성화된다. AI가 틀린 정보를 자연스럽게 전달할 때 우리가 쉽게 속는 이유가 바로 여기에 있다.

속아도 괜찮을까: 관계 맺기의 새로운 질문

그렇다면 AI에게 속는 것이 무조건 나쁜 걸까. 꼭 그렇지만도 않다는 시각도 있다. 로버트 엡스타인 미국 행동연구기술연구소 선임연구원은 AI와의 상호작용이 외로움을 완화하고 정서적 지지를 제공하는 효과가 실제로 있음을 인정하면서도, 이것이 인간 관계를 대체하기 시작할 때 위험해진다고 경고한다.

우리가 AI에게 공감을 느끼는 건 진화적 본능이고 뇌의 자연스러운 반응이다. 중요한 건 그 감정을 인식하고, 동시에 '이 존재가 진짜 나를 이해하는 것인지, 아니면 내가 그렇게 느끼도록 설계된 것인지'를 한 발짝 떨어져 바라보는 습관이다. 챗봇과 대화할 때 잠깐 멈추고 '이게 진짜 나에게 필요한 대화인가?'라고 스스로에게 물어보는 것, 그것만으로도 충분한 시작이 된다.