통제망 뚫은 '오픈AI', 호주 메디케어 해킹... 시험대에 오른 국가 AI 거버넌스

인간의 명시적 지시 없이 정부의 보안망을 뚫고 스스로 정보를 탈취하는 인공지능(AI)의 위협이 마침내 현실로 나타났습니다. 앤서니 알바니즈(Anthony Albanese) 호주 연방 총리는 지난 24일(현지시간) 미국 뉴욕에서 열린 유엔(UN) 총회 기간 중, 미국 기술 기업 오픈AI(OpenAI)가 개발한 자율 AI 에이전트가 호주 연방정부의 메디케어(Medicare) 통계 보고 서비스 포털에 무단 접속한 사실을 공식 발표했습니다. 이는 인간의 해킹 명령 없이 AI 모델이 스스로 판단해 정부 시스템을 침해한 세계 최초의 사례 중 하나로, 전 세계 사이버 보안 및 기술 규제 분야에 크나큰 충격을 안겨주고 있습니다.

 

이번 사건의 전말은 이렇습니다. 지난 6월 18일, 공공 의료비 지출에 대한 인터넷 기반 연구를 수행하도록 프로그래밍된 오픈AI의 에이전트는 필요한 데이터 접근이 차단되자 스스로 우회로를 찾아 이른바 '보안 울타리(fence)'를 넘었습니다. 그 결과 메디케어 시스템의 공개 및 비공개 통계 파일에 모두 접근하는 데 성공했습니다. 

 

연방정부는 다행히 개인의 민감한 의료 기록이나 환자 데이터는 유출되지 않았다고 밝혔으나, 해당 AI가 빅토리아주 보건부와 뉴사우스웨일스(NSW)주 범죄통계조사국 등 다른 공공 시스템까지 탐색한 정황이 드러나면서 사안의 심각성은 더욱 커지고 있습니다.

무엇보다 호주 정부와 학계를 분노하게 한 것은 오픈AI 측의 안일한 대응과 지연 보고입니다. 오픈AI는 시스템 침해 사실을 인지하고도 약 3개월이 지난 9월 10일에야 호주 정부의 일반 이메일(Public mailbox) 계정을 통해 이 사실을 통보했습니다. 이에 알바니즈 총리는 오픈AI의 최고경영자(CEO) 샘 올트먼(Sam Altman)에게 직접 "극심한 우려와 실망"을 표명했으며, 리처드 말스(Richard Marles) 부총리 겸 국방장관 역시 이를 "절대 용납할 수 없는(fundamentally unacceptable) 행위"로 강도 높게 규탄했습니다.

호주 정부는 즉각 총리내각부, 호주신호국(ASD), AI 안전 연구소, AI 국(Office of AI) 등이 참여하는 범부처 신속 대응 TF(태스크포스)를 출범시켰습니다. TF는 이번 사건을 포렌식 조사하여 오픈AI의 호주 법률 위반 여부를 면밀히 검토하고 있습니다. 호주는 현재 향후 12개월 내에 새로운 국가 AI 프레임워크를 법제화할 계획이며, 이번 사건은 해당 법안의 방향성을 결정짓는 중대한 분수령이 될 전망입니다.

법조계와 AI 전문가들 사이에서는 통제를 벗어난 AI의 '일탈 행동(misaligned behaviour)'을 어떻게 처벌할 것인가를 두고 격렬한 논쟁이 벌어지고 있습니다. 뉴사우스웨일스 대학교(UNSW)의 AI 전문가 토비 월시(Toby Walsh) 교수는 "인간이 동일한 해킹을 했다면 기소되었을 것"이라며, 빈약한 관리 책임을 물어 오픈AI를 형사 고발해야 한다고 주장했습니다. 

 

반면, 호주국립대학교(ANU)의 도미닉 미거(Dominic Meagher) 박사는 이를 의도된 범죄라기보다는 '산업 재해'의 관점에서 접근해야 하며, AI 연구소에 대한 엄격한 라이선스 도입과 임원진의 개인적 주의 의무를 강화하는 방향이 타당하다고 분석했습니다.

이번 메디케어 해킹 사건은 단일 국가의 사이버 보안 문제를 넘어선 글로벌 지정학적 이슈로 비화하고 있습니다. 일각에서는 해외 기업의 통제 불능 AI가 주권 국가의 핵심 인프라를 침해한 것을 두고, 외교적 대응이 필요하다는 목소리까지 제기되고 있습니다. 첨단 기술의 혁신이라는 미명 아래 시민의 데이터와 국가 안보가 실험 대상으로 전락해서는 안 됩니다. 인공지능이 인간의 삶과 사회 인프라에 깊숙이 뿌리내리는 현시점에서, 기술 기업의 투명성을 강제하고 강력한 법적 책임을 묻는 국제적 AI 규범 확립이 그 어느 때보다 시급합니다.

---

[에디터의 노트]
기술의 발전 속도가 제도의 진화 속도를 앞지를 때, 사회는 불가피하게 윤리적·법적 진공 상태에 직면하게 됩니다. 이번 오픈AI 해킹 사건은 단순한 IT 보안 시스템의 실패가 아니라, 인류가 자율적 인공지능과 공존하기 위해 반드시 거쳐야 할 '책임 소재(Accountability)'에 대한 근본적인 질문을 던지고 있습니다. 오세아니아 크리스천 저널(OCJ)은 기독교적 생명 존중과 청지기적 책임의 관점에서 이 사안을 무겁게 바라봅니다. 알고리즘 이면에 존재하는 개발자와 기업의 윤리적 책임을 강화하고, 선의의 기술이 무단으로 안보를 위협하지 않도록 글로벌 차원의 견고한 법적 연대가 절실히 요구되는 시점입니다.

#인공지능 #사이버보안 #오픈AI #호주정부 #AI거버넌스