호주 정부는 인공지능 시대에 발맞춰 앱 스토어와 검색 엔진을 규제할 수 있다고 밝혔습니다.

[이매진]

호주 정부는 인공지능 시대에 발맞춰 앱 스토어와 검색 엔진을 규제할 수 있다고 밝혔습니다.

https://nypost.com/2026/03/01/business/australia-says-it-may-go-after-app-stores-search-engines-in-ai-age-crackdown/

Australia says it may go after app stores, search engines in AI age crackdown

호주의 인터넷 규제 당국은 로이터 통신이 실시한 조사 결과, 절반 이상의 검색 엔진과 앱 스토어가 다음 주 마감일까지 사용자 연령 확인 절차를 준수하기 위한 어떠한 조치도 공개하지 않은 것으로 나타난 후, 해당 서비스들을 차단하도록 조치를 취할 수 있다고 밝혔습니다.

이번 경고는 인공지능 기업들을 규제하려는 전 세계적으로 가장 강력한 노력 중 하나를 반영하는 것으로, 이들 기업들은 자해나 폭력을 막지 못하고 심지어 조장했다는 이유로 소송에 휘말리는 사례가 늘어나고 있으며, 연구자들은 이러한 플랫폼이 소셜 미디어보다 청소년 정신 건강에 더 해롭다고 경고하고 있습니다.

호주는 지난해 12월 청소년의 정신 건강 문제를 이유로 소셜 미디어를 금지한 최초의 국가가 되었으며, 이에 따라 전 세계 지도자들이 같은 조치를 취하겠다고 밝혔습니다. 이제 호주는 인공지능(AI) 분야에서도 비슷한 규제를 도입하여 AI를 통해 접근할 수 있는 콘텐츠에 연령 제한을 두겠다고 발표했습니다.

3

호주는 지난 12월 청소년의 정신 건강 문제를 이유로 소셜 미디어 사용을 금지한 최초의 국가가 되었습니다.로이터

3월 9일부터 호주의 인터넷 서비스 제공업체들은 OpenAI의 ChatGPT와 같은 검색 도구 및 덜 알려진 챗봇을 포함하여 18세 미만 호주인에게 음란물, 극단적인 폭력, 자해 및 섭식 장애 관련 콘텐츠를 제공하지 못하도록 제한해야 하며, 이를 어길 경우 최대 4,950만 호주 달러(3,500만 달러)의 벌금을 부과받게 됩니다.

00:00

00:00

"eSafety는 규정 미준수 사례가 발생할 경우 모든 권한을 동원할 것입니다."라고 위원회 대변인은 밝혔으며, 여기에는 "특정 서비스에 대한 주요 접근 지점을 제공하는 검색 엔진 및 앱 스토어와 같은 게이트키퍼 서비스에 대한 조치"도 포함된다고 덧붙였습니다.

더 알아보기

남자 화장실에 있던 탐폰이 넷플릭스와 워너 브라더스의 인수합병을 무산시킨 이유

아메리칸 익스프레스의 투 월드 트레이드 센터 계획은 다운타운에 심리적인 승리를 안겨줄 것이다.

파라마운트의 워너 브라더스 디스커버리 인수 이후 CEO가 직원들에게 보낸 다급한 메시지 음성이 유출됐다.

오픈아이디어(OpenAI)와 협력 챗봇 스타트업인 캐릭터아이디어(Character.AI)는 어린 사용자와의 상호작용으로 인해 사망 사고 관련 소송에 직면했으며, 오픈아이디어는 이번 주 캐나다에서 발생한 10대 총기 난사 사건 용의자의 챗GPT 계정을 사건 발생 몇 달 전에 당국에 알리지 않고 비활성화했음을 인정했습니다.

호주는 아직 챗봇과 관련된 폭력이나 자해 사례는 보고받지 못했지만, 규제 당국은 10세 정도의 어린이가 인공지능 기반 대화형 도구와 하루 최대 6시간씩 대화하는 사례를 제보받았다고 밝혔습니다.

eSafety는 "AI 기업들이 감정 조작, 의인화 및 기타 고급 기술을 이용하여 젊은이들을 유인하고, 챗봇을 과도하게 사용하게 만드는 것에 대해 우려하고 있다"고 대변인이 밝혔습니다.

최대 앱 스토어 운영업체인 애플은 이에 대해 직접적인 답변을 내놓지 않았지만, 지난주 자사 웹사이트를 통해 호주를 비롯한 연령 제한을 도입하는 지역에서 미성년자가 18세 이상 이용가 앱을 다운로드하는 것을 막기 위해 "합리적인 방법"을 사용할 것이라고 밝혔다. 다만 구체적인 방법은 언급하지 않았다.

호주 최대 검색 엔진 제공업체이자 앱 스토어 2위 운영업체인 구글의 대변인은 논평을 거부했습니다.

3

호주 마감 시한 일주일 전, 가장 인기 있는 텍스트 기반 AI 제품 50개 중 9개가 연령 확인 시스템을 출시했거나 출시 계획을 발표했다고 로이터 통신이 조사한 바 있다.AFP (게티 이미지 제공)

규제 기관의 승인을 받기 전 AI 코드 초안 작성을 주도했던 인터넷 산업 단체 DIGI의 정책 책임자 제니퍼 덕스버리는 eSafety가 챗봇 서비스 업체들에게 새로운 규정을 알리려고 노력하고 있지만 "궁극적으로 호주에서 운영되는 모든 서비스는 법적 의무를 이해하고 이를 준수할 책임이 있다"고 말했습니다.

호주 마감 시한 일주일 전, 로이터 통신이 조사한 결과 가장 인기 있는 텍스트 기반 AI 제품 50개 중 9개가 연령 확인 시스템을 도입했거나 도입 계획을 발표한 것으로 나타났습니다. 이번 조사는 각 플랫폼이 제한 콘텐츠 및 콘텐츠 검열 정책에 대한 요청에 응답한 내용, 서비스 약관을 포함한 공개된 내용, 그리고 로이터 통신에 제공한 답변을 바탕으로 이루어졌습니다.

이번 조사에 따르면, 또 다른 11개 플랫폼은 포괄적인 콘텐츠 필터를 적용했거나 모든 호주인의 서비스 이용을 차단할 계획이었는데, 이는 모든 사용자가 제한된 콘텐츠에 접근하지 못하도록 함으로써 새로운 법을 준수하는 조치입니다. 나머지 30개 플랫폼은 새로운 규정을 따르기 위한 뚜렷한 조치를 취하지 않은 것으로 나타났습니다.

3

OpenAI와 그와 연관된 챗봇 스타트업 Character.AI는 어린 사용자와의 상호작용으로 인해 사망 사고 관련 소송에 직면했습니다.AFP (게티 이미지 제공)

ChatGPT, Replika, Anthropic의 Claude와 같은 대부분의 대형 채팅 기반 검색 도우미는 연령 확인 시스템이나 포괄적인 필터를 도입하기 시작했습니다. 챗봇 제공업체인 Character.AI는 18세 미만 사용자의 무제한 채팅을 차단했습니다.

챗봇 제공업체인 캔디 AI, 파이, 킨드로이드, 노미는 로이터 통신에 자세한 설명 없이 해당 규정을 준수할 계획이라고 밝혔으며, 해머AI는 규정 준수를 위해 초기에는 호주에서 서비스를 차단할 것이라고 말했다.

하지만 이는 소수에 불과했습니다. 관련 챗봇 중 4분의 3은 필터링 기능이나 연령 확인 기능이 제대로 작동하지 않거나 계획조차 되어 있지 않았고, 6분의 1은 필수 요건인 개인정보 유출 의심 사례 신고를 위한 이메일 주소조차 공개하지 않았습니다.

어떻게 생각하세요? 첫 번째 댓글을 남겨주세요. 

일론 머스크가 개발한 채팅 기반 검색 도구 그록(Grok)은 아동의 성적 대상화된 합성 이미지 제작을 막지 못했다는 의혹으로 전 세계적인 조사를 받고 있는데, 로이터 통신에 따르면 해당 도구에는 연령 확인 조치나 텍스트 기반 콘텐츠 필터가 없었던 것으로 드러났습니다. 그록의 모회사인 xAI는 이에 대한 논평 요청에 응하지 않았습니다.

RMIT 대학교 인간-AI ​​정보 환경 센터 소장인 리사 기븐은 로이터의 조사 결과가 놀랍지 않다고 말하며, 그 이유로 "이러한 도구들은 대부분 잠재적 피해와 안전 장치의 필요성을 고려하지 않고 설계되고 있다"고 덧붙였다.

"마치 우리가 이 회사들을 위해 이런 모든 것들을 베타 테스트하고 있는 것 같아요. 회사들은 사회가 어디까지 감수할 수 있는지 알아보려는 것 같고요."라고 그녀는 말했다.