챗GPT에 '살인 계획' 털어놓았다가 체포… 편리함 뒤에 숨겨진 '빅브라더'의 경고

최근 인공지능(AI) 챗봇인 챗GPT에 범죄 계획을 입력했다가 개발사인 오픈AI(OpenAI)의 신고로 수사기관에 체포되는 사례가 잇따르고 있습니다. 범죄를 미연에 방지했다는 긍정적인 평가도 존재하지만, 기독교계와 시민사회 안팎에서는 AI 기업과 국가 권력이 개인의 사적 대화와 내면의 영역까지 들여다보는 ‘감시 사회’로의 진입을 우려하는 목소리가 높아지고 있습니다. 특히 최근 국내외 언론과 기독교 오피니언을 통해 제기된 논점들은 AI 기술의 편리함 이면에 도사린 인간 양심의 자유와 신앙적 사생활 침해 가능성에 대해 깊은 성찰을 요구하고 있습니다.

 

사적 대화의 밀실은 없다: 챗GPT가 고발한 범죄 계획

최근 전 세계적으로 챗GPT와의 대화 내용이 단초가 되어 범죄자가 체포되거나 유죄 판결을 받는 사건들이 연이어 보고되었습니다. 미국 플로리다주에 거주하며 금융 분석가로 일했던 25세 남성 대런 저우(Darren Zhou)는 챗GPT에 헤어진 여자친구를 살해하겠다는 구체적인 계획을 지속적으로 입력했습니다. 오픈AI의 자동 감지 시스템은 이를 ‘유해 대화 패턴’으로 분류해 미 연방수사국(FBI)에 신고했고, 결국 저우는 스토킹 및 살해 협박 혐의로 체포되어 보호관찰 처분을 받았습니다. 

이뿐만이 아닙니다. 브라질에서는 자신의 8세 아들을 살해하고 스스로 목숨을 끊으려던 36세 농부가 챗GPT와 두 달간 범행을 모의하다가 오픈AI와 FBI, 브라질 경찰의 공조로 범행 사흘 전에 극적으로 체포되었습니다. 또한 미국 매사추세츠주에서는 17세 소년 아르준 아라빈드(Arjun Aravind)가 챗GPT를 통해 가족 살해 시나리오를 구상한 뒤 실제로 어머니와 남동생을 살해한 혐의로 기소되어 큰 충격을 주었습니다. 네브래스카주에서는 챗GPT로 은행 강도 계획을 상세히 세우고 실행에 옮긴 20대 남성이 최근 중형을 선고받기도 했습니다. 이러한 사건들은 AI가 단순한 대화 상대가 아니라, 이용자의 내면과 계획을 기록하고 감시하는 ‘보이지 않는 눈’이 될 수 있음을 단적으로 보여줍니다.

편리한 기술인가, 보이지 않는 감시자인가

이러한 체포 사례들을 두고 교계 전문가들은 AI가 범죄를 예방하는 순기능을 넘어, 개인의 사적 대화와 양심의 영역을 통제하는 도구로 변질될 수 있다고 경고합니다. 챗GPT를 개발한 오픈AI는 자체 분류기, 추론 모델, 차단 목록 등을 활용해 폭력이나 테러, 아동 착취 등 유해한 대화 패턴을 감지하고 있습니다. 이러한 자동화 시스템이 위험 신호를 감지하면 전문 검토자가 대화의 문맥과 이용자의 행동 패턴을 정밀 분석하게 됩니다. 즉, 우리가 나누는 대화는 아무도 들여다볼 수 없는 밀실이나 개인 일기장이 아니며, 언제든 감시와 검토의 대상이 될 수 있는 열린 공간인 셈입니다.

특히 우려되는 대목은 국가 권력이 이러한 AI 모니터링 시스템을 장악하거나 자체적인 AI 플랫폼을 구축해 국민을 통제하려 할 때 발생합니다. 만약 정부가 국민에게 편리함과 복지를 명분으로 무료 AI 서비스를 제공하면서 정부 관리형 계정을 지급하고, 질문과 답변이 정부 서버를 거치도록 설계한다면 상황은 완전히 달라집니다. 이 경우 정부는 누가, 언제, 어떤 질문을 했는지, 어떤 주제를 반복적으로 탐색했는지를 실시간으로 기록하고 자체 저장할 수 있게 됩니다. 이는 법원의 영장 없이도 국민의 생각과 성향을 들여다볼 수 있는 완벽한 기술적 통로가 마련됨을 의미합니다.

범죄 예방과 사상 통제의 아슬아슬한 경계

물론 끔찍한 강력 범죄를 사전에 차단하는 것은 국가와 사회의 중요한 책무입니다. 그러나 범죄 예방이라는 선한 명분이 권력에게 국민의 내면을 감시할 수 있는 ‘백지수표’를 쥐여주는 결과로 이어져서는 안 된다는 지적이 지배적입니다. 정상적인 법치 국가는 구체적인 혐의가 있을 때 범죄자를 수사하지만, 감시 국가는 먼저 모든 국민의 생각과 대화를 기록한 뒤 그 안에서 위험 인물을 걸러내려 합니다. 

이러한 데이터가 축적되어 개인의 사상과 성향을 평가하는 도구로 쓰인다면, 이는 기독교인들의 신앙생활과 전도 활동에도 심각한 제약이 될 수 있습니다. 성경적 가치관에 따른 발언이나 사회적 이슈에 대한 기독교적 신념이 AI 필터링 시스템에 의해 '유해하거나 편향된 생각'으로 분류되고, 이것이 취업, 금융 거래, 사회적 활동 제한으로 이어진다면 종교의 자유는 심각하게 위축될 수밖에 없습니다. 과학 기술이 주는 편리함보다 더 소중히 지켜야 할 가치는 하나님께서 인간에게 부여하신 자유로운 양심과 신앙의 자유입니다.

[EDITOR'S NOTE]
하나님께서는 인간을 로봇으로 창조하지 않으시고, 스스로 생각하고 선택할 수 있는 '자유 의지'와 '양심'을 선물로 주셨습니다. 기술의 발전이 범죄를 예방하고 사회를 안전하게 만드는 데 기여하는 것은 감사한 일이지만, 그것이 인간의 영혼과 생각의 영역까지 통제하려 든다면 우리는 깊은 경각심을 가져야 합니다. 

알고리즘과 빅데이터를 통한 겉모습의 통제는 인간의 근본적인 죄의 문제를 해결할 수 없습니다. 오직 예수 그리스도의 복음과 사랑만이 인간의 마음을 진정으로 변화시키고 범죄를 멈추게 할 수 있습니다. 편리함이라는 미명 아래 우리의 자유와 신앙적 양심이 감시의 덫에 걸리지 않도록, 현대 기술 사회 속에서 교회가 영적 분별력을 잃지 않고 기도하며 깨어 있기를 소망합니다.