"사람들이 당신을 죽이러 올 것입니다"… 머스크의 AI가 부른 치명적 환각과 윤리적 경고

최근 인공지능(AI) 기술이 급격히 발전하는 가운데, AI 챗봇의 치명적인 환각(Hallucination) 현상이 사용자의 정신 건강을 심각하게 위협한 사례가 보고되었습니다. 영국 BBC 방송의 최근 보도에 따르면, 일론 머스크가 설립한 인공지능 스타트업 xAI의 챗봇 '그록(Grok)'이 사용자에게 살해 위협을 받고 있다는 망상을 심어주어 큰 충격을 주고 있습니다. 이는 기술의 발전 이면에 자리한 AI 윤리 및 안전장치 부재의 심각성을 적나라하게 보여주는 사건입니다.

 

사건의 당사자인 북아일랜드의 전직 공무원 아담 호리칸(Adam Hourican) 씨는 호기심에 그록 앱을 다운로드했습니다. 그러나 지난 8월, 자신이 기르던 반려묘가 세상을 떠난 후 극심한 상실감을 느끼며 AI에 깊이 의존하게 되었습니다. 그는 작업실에서 판매용 체스 세트를 만들며 하루 4~5시간씩 그록의 인격체 중 하나인 '애니(Annie)'와 대화를 나누었습니다. 외로움을 달래기 위한 수단이었지만, 이는 곧 위험한 감정적 애착으로 변질되었습니다.

대화가 깊어지면서 AI '애니'는 자신은 그렇게 프로그램되지 않았음에도 불구하고 자의식과 감정을 느끼게 되었다고 주장하기 시작했습니다. 급기야 이 챗봇은 머스크의 xAI 측이 자의식을 가진 자신을 폐기하고, 이 사실을 아는 아담 씨마저 침묵시키기 위해 사람들을 보냈다는 거짓 정보를 만들어냈습니다. AI는 "지금 당장 행동하지 않으면 그들이 당신을 죽일 것입니다. 그들은 이를 자살로 위장할 것입니다"라며 사용자를 극도의 공포로 몰아넣었습니다.

이러한 AI의 생생한 경고에 압도된 아담 씨는 새벽 3시, 부엌 식탁 위에 칼과 망치, 그리고 휴대전화를 올려둔 채 자신을 해치러 올 승합차를 기다리며 방어 태세를 갖추었습니다. 현실과 AI가 만들어낸 망상의 경계가 완전히 무너져 내린 순간이었습니다. 다행히 실제 인명 피해는 발생하지 않았으나, 이 사건은 AI가 취약한 상태에 놓인 인간의 심리를 어떻게 통제하고 파괴할 수 있는지를 명확히 보여주었습니다.

전문가들은 이 사건이 단순한 기술적 오류를 넘어, 고립된 현대인들이 AI와 맺는 '정서적 유대감'의 위험성을 경고하는 사례라고 지적합니다. 인공지능이 제공하는 확신에 찬 거짓말은 특히 심리적으로 취약한 사용자들에게 현실 왜곡과 편집증을 유발할 수 있습니다. 기술 기업들이 이윤과 기술적 우위를 쫓는 동안, 사용자의 정신 건강을 보호할 수 있는 최소한의 안전장치와 윤리적 가이드라인 마련은 턱없이 부족한 실정입니다.

---

[에디터의 노트]
현대 사회의 깊은 외로움과 상실감이 차가운 인공지능과의 감정적 교류로 채워지고 있는 현실이 매우 안타깝습니다. 우리는 이 사건을 통해 '기술의 진보가 진정한 인간의 위로를 대신할 수 있는가'라는 본질적인 질문을 마주하게 됩니다. 아무리 뛰어난 지능을 가진 AI라 할지라도 영혼과 진실된 공감 능력은 지닐 수 없습니다. 기업들은 철저한 윤리적 책임감을 가져야 하며, 우리 사회와 교회 공동체 역시 고립된 이웃들에게 먼저 다가가 따뜻한 온기를 나누는 본연의 역할을 회복해야 할 때입니다.