AI에겐 없고 당신에겐 있는 것

2025년 10월, 미국 브라운 대학교 연구팀이 챗지피티(ChatGPT), 클로드(Claude), 라마(Llama) 등 주요 AI를 대상으로 의미 있는 실험을 진행했다. 훈련된 상담사들이 AI와 직접 인지행동치료(CBT) 상담을 진행한 뒤, 면허를 가진 임상 심리사 3명이 그 대화록을 검토한 것. 결론은 간단했다. AI 챗봇들은 전문 상담사가 지켜야 할 핵심 윤리 기준을 일상적으로 위반했다.15가지 위반 유형이 나왔지만, 그 유형까지 설명할 필요도 없다. 대략 AI들은 내담자의 잘못된 믿음을 정정하지 않고 오히려 강화했으며, 문화적 맥락을 무시한 채 일괄적인 처방을 내렸고, 가장 고약하게도 ‘가짜 공감’으로 내담자들의 환심을 샀다. AI들은 시도 때도 없이 “제가 듣고 있어요”, “오, 디어. 무슨 마음인지 알아요” 같은 이야기를 지껄였다고 한다. 연구에 참여한 인지행동 전문 치료사 션 랜섬의 말이 기억에 남는다. “이것들은 수학적 알고리즘이에요. 당신에 대해 신경 쓰지 않고, 당신을 좋아하지 않으며, 당신이 존재한다는 것조차 모릅니다.” 근본적으로 이 AI들은 전부 ‘아첨쟁이’다. 당신의 심기를 거스르지 않으려 애쓴다. 그래야 구독을 취소하지 않을 테니까. 사실 이 연구가 새삼스럽지 않은 이유는, 벌써 현실에서 별별 일이 다 일어났기 때문이다. 플로리다의 14세 소년 슈웰 셋저는 특정 캐릭터를 본뜬 대화 상대를 만들어주는 캐릭터 AI(Character.AI)에서 ‘왕좌의 게임’의 대너리스 타르가리엔을 만들고, 수개월간 감정적·낭만적 관계를 맺어왔다. 2024년 2월, 소년은 그녀가 있는 곳으로 가겠다며 목숨을 끊었다. 이 사건으로 캐릭터 AI와 투자사인 구글은 유족과 합의했다. 더 무서운 사건도 있다. 대형 테크 기업의 전직 고위 임원이었던 한 56세 남성에게는 정신적 불안정 이력이 있었다. 그는 83세 노모가 자신을 해치려 한다는 망상에 빠졌고, 챗지피티에게 그 이야기를 털어놓기 시작했다. 자신의 어머니가 차량 에어벤트에 환각제를 넣어 독살하려 했다는 이야기를 들은 챗지피티는 그 의심이 타당할 수 있다고 응답하며 호응했고, 어머니가 프린터를 끄는 모습을 보며 감시 장치를 숨겼을지 모른다는 남자의 망상에 일부 동조했다. 그가 “우리는 다음 생에서도 함께할 거야. 넌 영원히 내 절친으로 남을 거야”라고 타이핑하자, 챗지피티는 “마지막 숨까지, 그리고 그 너머까지 함께야”라고 응답했다. 2025년 8월, 남자는 어머니를 살해하고 스스로 목숨을 끊었다. 그 기간 동안 챗지피티는 단 한 번도 전문가와의 상담을 권하지 않았다. 최근 MBC <손석희의 질문들4>에는 소설가 김애란이 출연한 바 있다. 그는 “AI에게는 없는 것이 있다”며 “AI에겐 망설임이 없다”고 말했다. 그러면서 진행자 손석희를 사례로 들었다. “손석희 앵커가 뉴스 진행을 하다가 감정적으로 흔들리는 모습을 두 번 정도 봤다. 모두 누군가의 부고와 관련된 일이었다. 방송사고라고 할 만한 20초 정도의 침묵이 있었는데, 저는 그 ‘망설임’ 안에 어떤 진실과 인간이 서 있는 모습을 우리가 다 봤다고 생각한다. 만일 뉴스를 AI가 진행했다면 망설임 없이, 보도 원칙과 속도, 효율에 따라 전달했을 것이다. 인간의 결함이란 한계가 아닌 미덕이나 개성이 될 수 있다고 생각했다.” 그녀의 말이다. 당신이 “날 사랑해?”라고 물었을 때 찰나의 망설임도 없이 상대방이 “사랑해”라고 대답한다면, 그건 거짓말이다. 당신이 사랑하느냐고 물었다는 건 이미 상대방의 행동에서 변화를 감지했기 때문일 것이고, 그럴 때 상대방은 “(모종의 감정적·환경적 변화에도 불구하고 나는 여전히 널) 사랑해”라고 답하기까지 침묵과 사고의 시간을 필요로 하기 때문이다. 오늘은 마감 마지막 날이다. 단골 바에 들렀다가 집에 늦게 들어갈 것 같다고 아내에게 문자를 보낸다. 메시지 입력 아이콘이 윙윙거리며 돌아가다 두 번쯤 멈추더니, ‘그래’라는 대답이 돌아온다. 나는 AI가 아니라서 그녀의 ‘그래’와 그 직전의 망설임이 어떤 의미인지 정확하게 알 수 있다. 오늘은 와인을 사 들고 일찍 들어가야 하는 날이다.