|
|
목록 끝
이번 개혁은 지난 2월 브리티시컬럼비아주 텀블러 리지 총격 사건과 같은 사건들이 인공지능 챗봇, 취약한 사용자, 그리고 기술 기업의 책임에 대한 의문을 더욱 증폭시키면서 인공지능에 대한 감시가 강화되는 가운데 이루어졌습니다.
18세 총격 용의자는 공격 전 ChatGPT를 사용한 것으로 알려졌습니다. 피해자 가족들은 OpenAI를 상대로 소송을 제기하며 , 해당 회사의 AI 안전팀이 폭력적인 메시지를 감지했지만 경찰에 알리지 않았다고 주장했습니다. 이번 주에는 브리티시컬럼비아 주 정부도 해당 AI 회사를 상대로 법적 조치를 준비하고 있다고 발표했습니다.
한편, 캐나다 연방 정부는 법안 C-36을 통해 민간 부문 소비자 개인정보 보호 규정을 현대화할 계획입니다.
캐나다 인공지능·디지털혁신부 장관인 에반 솔로몬은 알자지라와의 인터뷰에서 정부의 책임은 “캐나다 국민을 온라인상에서 보호하는 동시에 인공지능과 신기술의 혜택을 누릴 수 있도록 보장하는 것”이라며 “이 두 목표는 상호 배타적이지 않다”고 말했다.
광고
“법안 C-36은 익명 처리된 데이터의 책임 있는 사용을 위한 틀을 마련합니다. 이 법안에는 연구, 책임성 확보 및 혁신을 포함한 중요한 공익 활동을 지원하는 동시에 개인을 재식별할 위험을 줄이기 위한 안전장치가 포함되어 있습니다.”
하지만 AI 시스템이 사람들을 예측하고, 프로파일링하고, 영향을 미치는 능력이 향상됨에 따라, 전문가들은 이제 기업이 수집하는 데이터뿐만 아니라 AI가 사용자로부터 추론할 수 있는 것이 진정한 과제라고 말합니다.
문제는 개인정보 보호법이 인간의 행동을 예측하고, 프로파일링하고, 영향을 미치도록 설계된 기술의 발전 속도를 따라잡을 수 있느냐는 것입니다.
Play Video
27:20
Now Playing
27:20
Next
28:10
25:28
01:57
03:48
추론된 정보
옥스퍼드 대학교의 인공지능 법률 및 규제학 교수인 이그나시오 코포네에 따르면, 가장 큰 문제는 인공지능이 개인정보 침해가 발생하는 위치를 바꾸고 있다는 점입니다.
"기존의 개인정보보호법은 기업이 개인으로부터 수집하는 정보에 위험이 있다고 가정했습니다. 하지만 지금의 위험은 기업이 개인이 제공하지 않은 데이터를 통해 개인에 대해 추론하는 내용과, 그 인공지능 추론을 활용하는 방식에 있습니다."
다시 말해, 오늘날의 인공지능 시스템은 사용자가 민감한 정보를 자발적으로 공개할 필요가 없습니다. 쇼핑 습관, 검색 기록, 위치 데이터 또는 온라인 활동 패턴만으로도 알고리즘은 사용자의 건강, 재정 상태 또는 행동에 대해 놀라울 정도로 정확한 예측을 할 수 있습니다.
코폰은 알자지라와의 인터뷰에서 "익명 데이터로 훈련된 모델은 특정 개인을 지목하여 항의할 수 없게 하면서도 특정 집단에 불이익을 주는 결정을 내릴 수 있다"고 말했다.
이에 대한 대응으로 법안 C-36은 추론된 정보를 포함하도록 개인 정보의 정의를 확장하고 조직이 특정 자동화된 결정에 대해 설명하도록 요구합니다.
하지만 코폰이 주장하듯이, 진정한 과제는 단순히 데이터 수집이 아닌 인공지능의 유해한 사용을 규제하는 데 있다.
그는 "모델은 서로 관련 없는 단서들을 바탕으로 당신의 건강, 성적 취향, 신용도를 예측하고, 기존의 의미에서 데이터 유출이나 침해 없이 그 예측에 따라 행동할 수 있다"고 말했다.
"이는 매우 중요한 의미를 지닙니다. 왜냐하면 법을 정보 수집 행위에만 국한시키지 않고, 인공지능으로 인한 피해가 실제로 발생하는 추론 및 결정 단계로 옮기기 때문입니다."
온라인에서 아동을 보호하기
아동의 개인정보 보호는 법안 C-36의 핵심 개혁 사항 중 하나입니다. 이 법안은 18세 미만 아동의 정보를 본질적으로 민감한 정보로 분류하고, 청소년에게 자신의 개인정보 삭제를 요청할 수 있는 더 강력한 권리를 부여합니다.
윤리적 AI 강사이자 AI 인재 매칭 플랫폼인 Just Lyra의 CEO인 스테파니 올리베로스에게 데이터 프라이버시와 동의는 사용자의 주체성과 관련된 문제입니다.
광고
"암 연구를 위해 제 데이터를 기증하는 건 괜찮지만, IT 기업들이 제 아이의 혈액형이나 행동 패턴까지 알아내는 건 다른 문제예요. 페이스북이 왜 그런 걸 알아야 하는 거죠?"
코폰은 또한 C-36 법안에 따른 변화는 가치 있지만 문제의 일부만을 해결할 뿐이라고 덧붙였다.
"이 법안은 다소 도움이 될 것이며, 법안의 맥락에서 예상되는 것만큼 큰 효과는 없을 것입니다. 이 법안은 아동에게 두 가지 이점을 제공합니다. 첫째, 아동 정보를 민감한 정보로 취급하여 동의 절차와 기관이 제공해야 하는 보안 수준을 높입니다. 둘째, 아동에게 정보 삭제 권한을 강화합니다. 이 두 가지 모두 유용합니다."
하지만 그는 더 큰 어려움은 다른 곳에 있다고 말했다.
"온라인상에서 아이들을 보호하기 위해 필요한 더 강력한 조치는 연령에 적합한 디자인과 플랫폼이 할 수 있는 일에 대한 제한입니다."
어린이용 AI 제품 개발에 참여하는 기술 기업 창업자 질 마에 따르면, 개인정보 보호를 넘어 다음 과제는 알고리즘의 공정성이라고 합니다.
그녀는 “개인정보 보호는 단순히 데이터를 통제하는 것만이 아니라 알고리즘에 의해 잘못 판단되지 않는 것을 의미합니다.”라고 말했습니다. “아이의 초기 디지털 발자국이 평생 따라다니는 낙인이 되어서는 안 됩니다. 제품 개발자로서 우리의 역할은 인공지능이 단순히 데이터를 수집하는 것이 아니라 사람들을 존중하는 법을 가르치는 것입니다.”
밴쿠버에 거주하는 한 아이의 아버지인 마틴 하우케와 같은 부모들에게는, 더 큰 문제는 아이들의 인터넷 사용에 대한 사회적 관용입니다.
그는 "현실 세계는 그 어느 때보다 안전하며, 온라인 세계가 아이들의 안전을 가장 크게 위협하는 곳이다"라고 말했다. "그런데도 우리는 현실 세계를 위험한 곳으로 여기고, 아이들이 고등학교에 가기 전에 휴대전화를 갖는 것에 대해 너무 안일하게 생각한다."
올해 초 오타와는 16세 미만 사용자의 틱톡과 같은 소셜 미디어 플랫폼 접근을 제한하는 법안을 별도로 발의했습니다. 전 세계 여러 정부도 이와 유사한 조치를 취하기 시작했습니다. 작년에는 호주가 16세 미만 청소년의 특정 소셜 미디어 플랫폼 접근을 제한하는 법안을 통과시켰습니다.
"완전히 잘못된 방식이에요."라고 같은 학교 선생님이기도 한 하우케는 말했다. "학교에서 휴대전화를 완전히 없애야 합니다. 밖에서 친구들과 어울리는 시간을 더 많이 가져야 해요."
Play Video
27:10
Can social media ban protect young users?
개인정보 보호는 해결책의 일부일 뿐입니다.
개인정보 보호는 인공지능 규제의 한 부분일 뿐입니다. 전문가들은 미래의 인공지능 관련 법률은 사용자 안전, 언론의 자유, 공익 사이의 균형을 맞춰야 할 것이라고 말합니다.
솔로몬은 "기술이 계속 발전함에 따라 캐나다의 개인정보 보호 체계가 효과적이고 균형 잡혀 있으며 캐나다 국민의 기대에 부응할 수 있도록 연구자, 언론인, 개인정보 보호 전문가, 시민 사회 및 기타 이해관계자들과 지속적으로 협력할 것"이라고 말했다.
그러한 어려움의 한 예로, 법안에서 익명 처리된 정보를 다루는 방식이 있는데, 이는 개인정보보호 전문가, 연구원, 언론인들 사이에서 논쟁을 불러일으킨 문제입니다.
해당 법안은 조직이 익명 처리된 데이터 세트에서 개인의 신원을 재구성하는 것을 막으려 하지만, 옥스퍼드 법대의 코폰과 같은 전문가들은 이는 조직과 연구자들이 익명 처리된 데이터를 어떻게 책임감 있게 사용할 수 있도록 허용해야 하는지에 대한 문제라고 말합니다.
그는 “두 가지 우려 사항을 분리해서 생각해 봐야 합니다. 언론 분야에서는 법안이 언론, 예술, 문학 작품에 대한 예외 조항을 유지합니다.”라고 말했습니다. “탐사 저널리즘은 기존 법률과 마찬가지로 보호됩니다. 더 어려운 문제는 연구인데, 이는 법안이 비식별화된 데이터와 익명화된 데이터를 어떻게 구분하는지에 달려 있습니다.”
광고
유엔과도 협력해 온 윤리적 AI 강사인 올리베로스는 이 논쟁이 사생활에 대한 법적 정의를 넘어 책임 소재를 규명해야 한다고 말했습니다. 데이터 접근을 제한하면 언론인과 인권 단체가 부정행위를 밝혀내는 것이 더욱 어려워질 수 있다고 그녀는 지적했습니다.
올리베로스는 알자지라와의 인터뷰에서 “감시 기관은 기업이 제공하는 요약 자료에만 의존할 수 없다”며, “환경 차별, 알고리즘 편향, 약탈적 대출 등을 밝혀내려면 언론인과 인권 단체는 세부적인 데이터에 접근할 수 있어야 한다. 만약 C-36 법안이 사생활 보호라는 명목으로 이러한 데이터를 완전히 봉쇄한다면, 이는 의도치 않게 강력한 기업들이 공적 책임을 회피하도록 만드는 결과를 초래할 것이다. 사생활 보호는 기업 비밀주의를 감추는 법적 구실이 되어서는 안 된다”고 말했다.
하지만 쉬운 해답은 없을지도 모릅니다.
올리베로스는 “공익 연구자의 정의가 너무 모호하면 법이 제 기능을 하지 못하고, 너무 경직되면 인권 활동에서 중요한 역할을 하는 독립 언론인과 풀뿌리 NGO들이 배제된다”고 말했다.
이 법안은 개인 정보 보호에 중점을 두고 있지만, 언론 윤리 분야의 저자이자 홍콩대학교 교수인 에릭 위샤트는 사생활 보호법이 권력자들의 책임을 묻는 언론의 능력과 국민의 알 권리를 보장해야 한다고 말합니다.
그는 한 예로 미국과 이스라엘이 이란과 벌이는 갈등을 지적했다.
"미 국방부가 이란 공격에 대해 공개한 정보는 극히 적었기 때문에 기자들은 위성 영상 플랫폼인 플래닛 랩스의 이미지에 의존하여 피해 상황을 파악해야 했습니다. 폭격 피해 지역을 보여주는 핵심 자료였지만, 플래닛 랩스는 미 정부의 요청에 따라 전쟁 관련 이미지 공개를 중단한다고 발표했습니다."
그는 "개인의 사생활을 보호해야 할 필요성과 공익을 위한 언론인의 탐사보도 권리 사이에서 균형을 맞춰야 한다"며, "어린이를 포함한 개인의 정당한 사생활 보호를 위해 마련된 법률이 언론인이 공인들의 불법 행위를 조사하거나 권력 남용을 감시하는 것을 막아서는 안 된다"고 말했다.
법안 C-36은 캐나다에서 수십 년 만에 가장 중요한 개인정보 보호 개혁이 될 수 있지만, 정부의 과제는 인공지능이 행동을 예측하고, 의사 결정에 영향을 미치고, 일상생활을 재편하는 능력이 점점 더 향상됨에 따라 규제가 기술 자체의 발전 속도만큼 빠르게 진화하도록 보장하는 것입니다.
올리베로스에게 있어 이 논쟁은 궁극적으로 인공지능이 주도하는 세상에서 누가 권력을 쥐고 있느냐의 문제로 귀결됩니다.
그녀는 "데이터 개인정보 보호 권리는 권력의 역학 관계를 바꾸어 놓으므로, 권력은 다시 당신에게 돌아온다"며 "당신은 당신의 정체성이라는 것을 소유하게 된다"고 말했다.