AI 남용을 방지하는 보호 장치는 얼마나 지능적입니까?
https://www.swissinfo.ch/eng/science/how-intelligent-are-safeguards-against-ai-abuse/87523209
AI 남용을 방지하는 보호 장치는 얼마나 지능적입니까?
인공지능은 사람들의 삶에 큰 영향을 미칠 것으로 기대됩니다. 키스톤
기사를 들어보세요언어 선택기 전환
공유하다
인공 지능(AI)은 사람들의 삶을 향상시키거나 손상시킬 수 있는 힘을 가지고 있습니다. 스위스를 포함한 글로벌 커뮤니티는 AI가 적이 아닌 친구로 발전하도록 보장하기 위한 일련의 규칙을 마련하려고 시도하고 있습니다.
이 콘텐츠는 다음에 게시되었습니다.2024년 9월 10일 - 14:07
6분
매튜 앨런
+ 스위스의 가장 중요한 뉴스를 이메일로 받아보세요
인권과 민주주의를 수호하는 유럽 연합의 기관인 유럽 평의회는 AI를 좋은 방향으로 이끌기 위한 조약(협약)을 작성했습니다.
스위스는 조약 초안 작성에 참여하여 조약을 지지합니다. 하지만 알프스 주는 가치를 지지하는 구속력 있는 공약에 서명한 최초의 국가 중 하나가 아니었습니다.
SWI swissinfo.ch에서는 협약의 내용과 AI 통제에 대한 스위스의 기여를 살펴봅니다.
조약이란 무엇인가?
5월에 세계에 발표된 문서는 다소 긴 이름을 가지고 있습니다. 인공지능과 인권, 민주주의 및 법의 지배에 관한 유럽 평의회 기본협약입니다 .
+ 스위스 협상가는 미국의 꼭두각시인가?
이 협약은 AI를 다양한 사용 사례에 적용할 때 "인권, 민주주의 및 법치주의의 보호 및 증진"을 보존하도록 명시하고 있습니다.
서명국은 AI가 제기하는 특정 과제를 통합하기 위해 기존 법률을 개정하거나 법률을 제정할 것을 약속합니다. AI의 잠재적인 함정에는 잘못된 정보를 퍼뜨리거나 편향된 결정과 차별을 초래할 수 있는 나쁜 데이터로 AI 시스템을 손상시키는 것이 포함됩니다.
동시에 이 협약은 규제가 AI의 적절한 적용을 장려하고 지원해야 한다고 규정하고 있으며, 이를 통해 많은 이점을 가져올 수 있다고 밝혔습니다.
유럽 평의회는 46개 회원국으로 구성되어 있지만, 미국과 일본 등 다른 국가도 협약의 초안 작성에 참여해 국제적 신뢰를 높이도록 초대되었습니다.
9월 5일, 이 협약은 유럽 연합, 미국, 영국, 이스라엘을 포함한 최초의 10개 서명국을 모았습니다. 여기에서 서명국 목록을 지속적으로 업데이트할 수 있습니다.외부 링크.
스위스는 왜 서명하지 않았나요?
스위스 연방 통신국은 현재 스위스가 미래에 AI를 규제할 수 있는 방법에 대한 권장 사항을 작성하고 있습니다. 이러한 권장 사항은 연말까지 정부에 제출될 예정입니다.
+ 스위스, 'AI 거버넌스에 더 많은 노력'
이후의 일반적인 절차에는 의회에서 이 문제를 논의하기 전에 경제계, 시민 사회, 주 및 기타 이해 당사자 대표와의 협의 기간이 포함됩니다.
제안된 입법 변경 사항은 시민들의 이의를 제기할 수 있으며, 이는 잠재적으로 전국적인 투표로 이어질 수 있습니다. 최소한 통신부가 AI 규제 검토 결과를 제시한 후에야 협약에 서명할 수 있습니다.
해당 부처는 SWI swissinfo.ch에 유럽 평의회 협약에 대한 최초 서명을 환영한다고 전했습니다.
"이 조약이 스위스의 국가 AI 정책의 기반을 형성할 것인지, 그리고 조약에 서명하고 비준하기 위한 가능한 기간 등은 현재 검토의 일환으로 검토되고 있습니다."라고 해당 부처는 밝혔습니다.
그러나 이 협약은 이미 정부의 지지를 받았으며, 정부는 5월에 문서 승인을 발표했습니다.
또한, 유럽 평의회 AI 위원회 위원장인 스위스 외교관 토마스 슈나이더는 협약 초안이 작성되는 동안 국가 간 협상을 주도했습니다.
이 협약에 대한 반응은 어떤가요?
협상에 참여한 국가의 범위를 고려하면 타협은 언제나 불가피했습니다.
관련 국가 모두 회담의 최종 결과에 만족했지만, 일부 시민 사회 구성원은 타협안을 부정적으로 평가했습니다.
NGO, 민간 기업 및 기타 비국가 행위자들은 의견을 제시하도록 초대되었지만 협상 테이블에 앉을 자리가 없었습니다. 미국 AI 및 디지털 정책 센터 싱크탱크에 따르면 "이것은 나쁜 시작이었습니다."
더인공지능의 윤리
인공지능(AI) 분야를 선도하는 개발국 중 하나인 스위스가 직면한 과제는 엄청납니다.
더 읽어보세요: 인공지능의 윤리
또 다른 논란의 여지가 있는 점은 이 협약이 민간 기업을 범위에서 제외하고 대신 국가 활동에 초점을 맞춘다는 것입니다.
NGO AlgorithmWatch Switzerland는 3월에 회담이 한창 진행 중일 때 이에 대해 경고했습니다. 당시 AlgorithmWatch Switzerland의 전무 이사인 앙겔라 뮐러는 "AI에 대한 최초의 국제적 규칙집은 기업이 자체 이익에 따라 AI를 개발하고 사용할 수 있는 무료 통행권을 제공할 수 있습니다."라고 말했습니다. "협상국은 AI가 소수 대기업의 이익이 아닌 인류의 이익에 부합하도록 해야 합니다."
NGO가 제기하는 또 다른 비판은 이 협약이 가입국이 요구 사항을 준수하도록 강제할 만한 법적 근거가 충분하지 않다는 것이다.
AI의 장단점은 무엇인가요?
AI는 사실상 모든 삶의 방식에 적용될 수 있습니다. 협약의 설명 보고서는 다음과 같은 사용 사례를 나열합니다. "사회 복지 혜택 분배, 잠재 고객의 신용도에 대한 결정, 직원 채용 및 유지 프로세스, 형사 사법 절차, 이민, 망명 절차 및 국경 통제, 경찰 및 타겟 광고".
더
토론
호스팅:사라 이브라힘
AI는 우리에게 도움이 될까, 아니면 해를 끼칠까?
컴퓨터는 인간의 지능이 필요한 작업을 수행하고 우리의 결정에 영향을 미칠 수 있는 능력을 증명하고 있습니다. 우리가 컴퓨터에게 맡겨야 할까요?
토론에 참여하세요
2022년 3월 14일
66댓글
토론 보기
기계는 방대한 양의 데이터를 빠르게 걸러내어 관련 정보를 조각조각 모아 특정 작업을 달성하도록 학습할 수 있습니다. 새로운 형태의 AI인 생성형 AI는 독창적인 통찰력과 솔루션을 내놓기 위해 "스스로 생각"하도록 설계되었습니다.
규제는 AI가 창의성을 발휘하고 인간보다 빠르게 답변을 생성할 수 있도록 하는 동시에, 반사회적 콘텐츠를 대량으로 생산할 가능성을 억제하는 균형을 찾으려 하고 있습니다.
AI에 대한 다른 규정은 있나요?
유럽평의회 협약은 AI를 통제하기 위한 여러 글로벌하고 집중적인 시도 중 하나입니다.
작년에 유럽연합은 AI 기술 사용을 규제하기 위해 AI법을 발표했습니다.
2023년 11월 미국, 중국, EU, 호주, 영국 등 28개국이 AI 안전 연구에 대한 협력을 위해 블레츨리 선언에 서명했습니다.
유럽 평의회 협약은 원칙을 제시하지만, 각 국가가 국경 통제 및 경찰 업무와 같은 문제에 대한 다양한 국가적 이익을 고려하여 이를 서로 다른 방식으로 이행할 것임을 인정합니다.
스위스는 현재 자국의 국가 이익에 가장 적합한 AI 규제를 모색하고 있는 여러 국가 중 하나입니다.
Marc Leutenegger/ts 편집