페이스북, 수천 개의 끔찍한 악플 방치 논란에 "완벽한 시스템은 없다" 한계 시인

페이스북(Facebook)의 모회사 메타(Meta)가 자사의 플랫폼 내에서 수천 개에 달하는 끔찍한 악성 댓글과 혐오 표현을 걸러내지 못한 사실이 드러나자, "어떤 시스템도 완벽할 수는 없다"며 콘텐츠 조정 시스템의 한계를 공식적으로 시인했습니다.

 

Facebook's algorithm recently deemed antisemitic comments under a Holocaust memorial post the "most relevant", highlighting problems with policing social cohesion online as well as on the streets.

 

페이스북의 자동화된 필터링 및 인공지능(AI) 검열 시스템을 교묘하게 피한 폭력적이고 모욕적인 댓글들이 대거 방치되어 사용자들의 큰 반발을 샀습니다. 수많은 사용자가 명백한 규정 위반 및 혐오 발언을 신고했음에도 불구하고, 페이스북 측은 "커뮤니티 가이드라인을 위반하지 않았다"는 기계적인 답변만을 반복했던 것으로 확인되었습니다.

이에 대해 메타 측은 플랫폼을 안전하게 유지하기 위해 AI 기술과 전담 인력을 투입하여 막대한 양의 스팸 및 유해 콘텐츠를 제거하고 있다고 해명했습니다. 그러나 쏟아지는 비판 속에 "어떤 시스템도 완벽하지 않으며(no system is perfect), 일부 유해한 게시물이나 댓글이 시스템의 감시망을 빠져나갈 수 있음을 인정한다"고 밝혔습니다. 또한 메타는 이러한 시스템의 빈틈을 메우기 위해 지속적으로 알고리즘을 개선하고 보호 조치를 강화하겠다고 덧붙였습니다.

이번 사건은 소셜 미디어 플랫폼의 안전성에 대한 전 세계적인 우려가 최고조에 달한 가운데 발생했습니다. 2026년 6월 현재, 메타는 십 대 청소년 보호를 위한 새로운 안전 기능(야간 알림, 성인 메시지 차단 등)을 대대적으로 확대 도입하고 있으나, 비판가들은 여전히 근본적인 유해 콘텐츠 차단에는 역부족이라고 지적하고 있습니다.

특히 호주 내에서는 소셜 미디어의 폐해로부터 아동과 청소년을 보호하기 위해 16세 미만의 소셜 미디어 사용을 금지하는 강력한 법안 도입이 활발히 논의되고 있습니다. 온라인상에서 벌어지는 무분별한 혐오 발언과 폭력적인 콘텐츠가 청소년들의 정신 건강에 심각한 악영향을 미치고 있기 때문입니다.

전문가들은 거대 기술 기업들이 알고리즘의 한계만을 변명으로 삼을 것이 아니라, 피해자를 신속하게 구제하고 유해 콘텐츠의 확산을 조기에 차단할 수 있는 보다 투명하고 강력한 수동 대응책 및 법적 책임을 마련해야 한다고 촉구하고 있습니다.

---

[에디터의 노트]
기술의 발전이 인류에게 큰 편리함을 가져다주었지만, 도덕적이고 윤리적인 책임이 결여된 기술은 필연적으로 깊은 상처를 남깁니다. 메타가 "완벽한 시스템은 없다"고 인정하는 것은 기술적 한계를 고백하는 것을 넘어, 알고리즘에만 안전을 의존하는 현재의 거대 온라인 생태계가 얼마나 위태로운지를 보여주는 방증입니다. 우리 사회와 교계는 온라인 공간이 이웃을 향한 사랑과 존중의 장이 될 수 있도록, 기업에 더 강력한 법적 및 윤리적 기준을 요구하는 동시에 선한 디지털 문화를 스스로 조성하는 데 앞장서야 할 것입니다.