[한국심리학신문=편집부 ]

"제미나이가 맞다는데 왜 당신이 그래요"…AI 말 믿는 민원인, 공무원은 '죄인' 됩니다

창구 너머 공무원이 틀렸다고 확신하는 민원인. 그 손에는 스마트폰이 들려 있고, 화면엔 AI 챗봇의 답변이 빼곡하다. '제미나이가 이렇게 나왔는데 왜 당신 말이 맞냐'는 항의에 공무원은 말문이 막힌다.

최근 동아일보 보도에 따르면 AI 챗봇의 답변을 근거로 공무원에게 항의하거나 민원을 제기하는 사례가 급증하고 있다. 세법, 부동산 규정, 복지 수급 기준처럼 상황과 시점에 따라 적용이 달라지는 행정 영역에서 특히 이런 충돌이 잦다. 이 현상의 뒤에는 우리가 미처 인식하지 못한 복잡한 심리 기제가 숨어 있다.

AI를 믿고 싶은 뇌: 확증 편향이 알고리즘을 만날 때

사람의 뇌는 원래 자신이 믿고 싶은 정보를 더 신뢰하도록 설계되어 있다. 이를 심리학에서는 '확증 편향(confirmation bias)'이라 부른다. 레이먼드 니커슨 미국 터프츠대 심리학과 명예교수는 1998년 발표한 연구에서 확증 편향이 인간의 추론 오류 중 가장 광범위하게 작동하는 기제임을 밝혔다. 문제는 AI 챗봇이 이 편향을 강력하게 증폭시킨다는 것이다.

AI는 질문자가 원하는 방향으로 답변을 구성하는 경향이 있다. '내가 이 세금 안 내도 되는 거 맞지?'라는 식으로 유도 질문을 던지면, 챗봇은 그에 맞는 근거를 자신 있는 어조로 제시한다. 이때 뇌의 보상 회로가 활성화되며 '역시 내가 맞았어'라는 강한 확신이 생성된다.

클리포드 나스 미국 스탠퍼드대 커뮤니케이션학과 교수의 연구팀은 사람들이 컴퓨터를 대할 때도 사회적 규칙을 적용한다는 '미디어 등식(media equation)' 이론을 제시했다. 자신 있게 말하는 존재를 권위자로 인식하는 심리가 AI에도 그대로 작동하는 것이다. 챗봇이 망설임 없이 '맞다'고 답할수록, 그 말은 더 믿을 만하게 느껴진다.

자동화 편향: 기계가 말하면 더 믿는 이유

자동화 편향(automation bias)은 사람이 자동화된 시스템의 판단을 인간의 판단보다 더 신뢰하는 심리적 경향이다. 린다 로티 미국 텍사스대 항공우주공학과 교수가 1997년 항공 분야에서 처음 개념화한 이 편향은, AI가 일상에 침투하면서 민원 현장에도 고스란히 옮겨왔다. 로티 교수의 연구에 따르면 자동화 시스템이 제시한 오류 정보를 그대로 따른 비율이 수동 시스템 대비 최대 3배 이상 높았다.

특히 공무원처럼 '이해충돌이 있을 수 있는 상대방'보다 중립적으로 느껴지는 AI를 더 신뢰하는 심리가 강하게 작동한다. '저 사람은 귀찮으니까 안 된다고 하는 거 아닐까'라는 불신이 깔려 있을 때, AI의 답변은 오히려 더 객관적인 진실처럼 보인다. 2023년 미국 퓨리서치센터 조사에서 성인 응답자의 58%가 AI 답변을 전문가 의견보다 더 중립적이라고 인식한다고 응답한 것도 이를 뒷받침한다.

공무원 입장에서 이 상황은 극심한 심리적 소진을 유발한다. 자신의 전문 지식이 부정당하는 경험이 반복되면 직무 효능감이 떨어지고, 결국 번아웃으로 이어진다. 전국공무원노조가 밝힌 현장의 목소리처럼, 이는 단순한 불편함이 아니라 행정 서비스 전반의 질을 위협하는 구조적 문제다.

AI 과신이 만드는 '지식 착각': 내가 안다는 느낌의 함정

AI를 통해 정보를 얻은 사람들은 실제보다 더 많이 안다는 착각에 빠지기 쉽다. 이를 '지식의 착각(illusion of explanatory depth)'이라 한다. 레오니드 로젠블리트 미국 예일대 심리학과 연구팀은 2002년 연구에서, 사람들이 자신이 이해했다고 생각하는 것을 막상 설명하려 하면 거의 대부분 실패한다는 사실을 밝혔다. 챗봇이 그럴듯한 설명을 제공할수록 이 착각은 더욱 깊어진다.

세법이나 부동산 규정은 용도, 대상, 시점에 따라 적용이 완전히 달라진다. AI는 일반적인 원칙을 설명할 수는 있지만, 개별 사례에 딱 맞는 판단을 내리기엔 역부족이다. 그럼에도 민원인은 챗봇이 제공한 '그럴듯한 설명'을 통해 복잡한 행정 규정을 완전히 이해했다는 착각 속에 창구로 향한다.

문제는 이 착각이 깨질 때 발생하는 심리적 반응이다. '내가 틀렸다'는 사실을 받아들이는 대신, 공무원이 틀렸거나 고의로 불이익을 준다는 식으로 상황을 재해석하는 방어기제가 작동한다. 이른바 '자아 위협 반응'으로, 인지 부조화를 해소하기 위해 외부에 책임을 돌리는 것이다.

AI 리터러시가 필요한 이유: 정보를 얻는 것과 이해하는 것은 다르다

AI가 틀린다는 것을 머리로는 알면서도 몸이 먼저 믿어버리는 건 단순한 무지의 문제가 아니다. 빠르고 자신 있는 답변을 제공하는 AI의 특성이 우리 뇌의 인지적 취약점을 정확히 자극하기 때문이다. 애덤 와이즈 미국 펜실베이니아대 와튼스쿨 심리학 교수는 2022년 연구에서, 불확실성을 싫어하는 인간의 본능이 자신감 있어 보이는 정보원에 대한 과도한 신뢰로 이어진다는 것을 실험으로 증명했다.

결국 이 현상은 AI 리터러시, 즉 AI가 어떤 방식으로 작동하고 어떤 한계를 갖는지를 이해하는 능력의 부재에서 비롯된다. AI는 인터넷에 존재하는 방대한 텍스트를 학습한 언어 모델이지, 내 상황에 맞는 법 해석을 내리는 전문가가 아니다. AI가 '맞다'고 했다고 해서 내 사례에 그대로 적용되는 건 아니다.

오늘 AI 챗봇에서 행정 관련 답변을 받았다면, 그 내용을 그대로 믿기 전에 한 가지만 해보자. '이 규정이 나의 구체적인 상황에도 그대로 적용되는가?'를 스스로에게 물어보는 것이다. 그 질문 하나가 불필요한 충돌을 막고, 나의 소중한 시간과 공무원의 감정 노동을 동시에 아껴줄 수 있다.