[AI] 인류 멸망 가능성도. AI 리스크에 대해 OpenAI와 Google의 전/현 종업원 공동 성명

[お持て成し]

인류 멸망 가능성도. AI 리스크에 대해 OpenAI와 Google의 전/현 종업원 공동 성명 / 6/5(수) / PC Watch

OpenAI 및 Google의 전/현 종업원은 AI 기술의 진전과 그에 따른 리스크에 대한 공동성명을 발표했다. 성명에서는 AI가 가져올 위험성과 그 위험을 관리하기 위한 필요성이 강조되고 있다. 

성명에서는 AI 기술의 리스크로 기존의 불평등을 더욱 고착화하거나 오정보를 확산하는 것이 꼽히고 있으며, 자율 AI 시스템의 제어 상실로 인류 멸망 가능성이 있다는 점도 지적하고 있다. 

성명 발표자들은 과학계와 정책 입안자, 일반 시민들의 적절한 지도가 있다면 이들의 위험을 충분히 줄일 수 있을 것으로 기대하고 있다. 그러나 AI 기업에는 효과적인 감시를 회피하는 강한 재정적 인센티브가 있어 현행 기업 통치만으로는 이를 바꾸기에 부족하다고 주장하고 있다. AI 기업이 보유한 비공개 정보는 방대하고, 그 정보 공유 의무는 약한 현 상황도 문제삼고 있다. 

발표자들은 성명 내에서 AI 기업에 대해 다음과 같은 4가지 원칙을 따르도록 요구하고 있다. 

・ AI 리스크 관련 우려를 이유로 자사에 대한 비판을 금지하는 계약을 맺지 않고 보복도 하지 않는 것
・ 종업원이 익명으로 AI 리스크 관련 우려를 제기할 수 있는 프로세스를 정비할 것
・ 개방적인 비판 문화를 지지하고, AI 리스크 관련 우려를 일반인이나 기업의 이사회, 규제 당국, 독립 조직에 제기할 수 있도록 하는 것
・ 기밀 정보를 불필요하게 공개하는 것은 피해야 하지만, 적절한 보고 과정이 존재하지 않는 경우에 공개적으로 우려를 보고해도 보복 조치를 취하지 않을 것

PC Watch, 아사이 아츠시

https://news.yahoo.co.jp/articles/053dc409c035191bbbc792d9befa5cce686e4b19

人類滅亡の可能性も。AIのリスクについてOpenAIやGoogleの元/現従業員が共同声明（PC Watch） - Yahoo!

人類滅亡の可能性も。AIのリスクについてOpenAIやGoogleの元/現従業員が共同声明
6/5(水) 15:05配信


16
コメント16件


PC Watch
写真：PC Watch

　OpenAIおよびGoogleの元/現従業員は、AI技術の進展とそれに伴うリスクについての共同声明を発表した。声明では、AIがもたらす危険性やそのリスクを管理するための必要性が強調されている。

　声明ではAI技術のリスクとして、既存の不平等をさらに固定化したり、誤情報を拡散したりすることが挙げられているほか、自律AIシステムの制御喪失により人類滅亡の可能性があることも指摘している。

　声明の発表者らは、科学界や政策立案者、一般市民からの適切な指導があれば、これらのリスクは十分に軽減できると期待している。しかし、AI企業には効果的な監視を回避する強い財政的インセンティブがあり、現行の企業統治だけではこれを変えるのには不十分であると主張している。AI企業が保有する非公開情報は膨大であり、その情報共有の義務は弱い現状も問題視している。

　発表者らは声明内で、AI企業に対して以下の4つの原則に従うように要求している。

・AIリスク関連の懸念を理由とした、自社への批判を禁止する契約を結ばず、報復も行なわないこと
・従業員が匿名でAIリスク関連の懸念を提起できるプロセスを整備すること
・オープンな批判文化を支持し、AIリスク関連の懸念を一般人や企業の取締役会、規制当局、独立組織に提起できるようにすること
・機密情報を不必要に公開することは避けるべきだが、適切な報告プロセスが存在しない場合に公に懸念を報告しても報復措置を取らないこと

PC Watch,浅井 淳志