'마음을 읽는' AI: 일본 연구, 윤리적 논쟁 촉발

[이매진]

'마음을 읽는' AI: 일본 연구, 윤리적 논쟁 촉발

https://www.aljazeera.com/economy/2023/4/7/could-ai-read-minds-somedayjapanese-breakthrough-sparks-debate

‘Mind-reading’ AI: Japan study sparks ethical debate

'마음을 읽는' AI: 일본 연구, 윤리적 논쟁 촉발

오사카 대학 연구원들은 AI를 사용하여 피험자의 뇌 활동을 해독하여 그들이 보고 있는 이미지를 생성했습니다.

최근 AI의 발전으로 인해 미래의 마음 읽기 기술에 대한 우려가 제기되었습니다 [File: Fred Tanneau/AFP)]

데이비드  매켈히니

2023년 4월 7일에 게시됨2023년 4월 7일

도쿄, 일본 – Yu Takagi는 자신의 눈을 믿을 수 없었습니다. 9월의 어느 토요일 오후에 혼자 책상에 앉아 그는 인공 지능이 대상의 뇌 활동을 해독하여 그가 화면에서 보고 있는 이미지를 생성하는 것을 경외심으로 지켜보았습니다.

34세의 신경과학자이자 오사카 대학의 조교수인 Takagi는 Al Jazeera와의 인터뷰에서 “[AI가 생성한] 이미지를 처음 보았을 때를 아직도 기억합니다.

계속 읽으세요4개 항목 목록목록 1/4History Illustrated: AI가 우리 자신의 게임에서 우리를 이기는 방법목록 2/4미국, 러시아에 항공 기술 수출 혐의로 2명 체포4개 중 3개 목록미국 기술 회사, 중국 Inspur에 대한 최신 규제와 씨름목록 4/4머스크, 다른 기술 전문가들, 추가 AI 개발 중단 촉구목록의 끝

“화장실에 들어가 거울에 비친 제 모습을 보고 제 얼굴을 보고 '그래, 정상이야. 어쩌면 나는 미쳐 가지 않을 것입니다. '”.

Takagi와 그의 팀은 2022년 독일에서 개발된 딥 러닝 AI 모델인 Stable Diffusion(SD)을 사용하여 MRI 기계 내부에서 최대 10,000개의 이미지가 표시된 테스트 대상의 뇌 스캔을 분석했습니다.

Takagi와 그의 연구 파트너 Shinji Nishimoto가 뇌 활동을 읽을 수 있는 형식으로 "변환"하는 간단한 모델을 구축한 후 Stable Diffusion은 원본과 묘하게 닮은 고화질 이미지를 생성할 수 있었습니다.

AI는 사전에 사진을 보여주지 않았거나 결과를 생성하도록 어떤 식으로든 훈련을 받지 않았음에도 불구하고 이 작업을 수행할 수 있습니다.

Takagi는 “우리는 이런 종류의 결과를 기대하지 않았습니다.

Takagi는 현 시점에서 혁신이 독심술을 나타내는 것이 아니라 AI가 사람이 본 이미지만 생성할 수 있다고 강조했습니다.

"이것은 독심술이 아닙니다." Takagi가 말했습니다. "안타깝게도 우리 연구에는 많은 오해가 있습니다."

“우리는 상상이나 꿈을 해독할 수 없습니다. 우리는 이것이 너무 낙관적이라고 생각합니다. 하지만 물론 미래에는 가능성이 있습니다.”

알자지라 가입하기중동에서의 주

한 곳에서 지역에 대한 우리의 취재를 따라잡으십시오.

가입하기

가입하면 개인 정보 보호 정책 에 동의하게 됩니다.

그러나 이러한 개발은 그럼에도 불구하고 AI가 일반적으로 제기하는 위험에 대한 광범위한 논쟁 속에서 이러한 기술이 미래에 어떻게 사용될 수 있는지에 대한 우려를 불러일으켰습니다.

지난 달 공개 서한에서 Tesla 설립자 Elon Musk와 Apple 공동 설립자 Steve Wozniak을 포함한 기술 지도자들은 "사회와 인류에 대한 심각한 위험"으로 인해 AI 개발을 중단할 것을 촉구했습니다 .

그의 흥분에도 불구하고 Takagi는 마음을 읽는 기술에 대한 두려움이 악의적인 의도가 있거나 동의 없이 오용될 가능성이 있다는 점을 인정합니다.

“저희에게는 프라이버시 문제가 가장 중요합니다. 정부나 기관이 사람들의 마음을 읽을 수 있다면 매우 민감한 문제입니다.”라고 Takagi는 말했습니다. "이런 일이 일어나지 않도록 고위급 논의가 필요합니다."

Yu Takagi와 그의 동료는 AI를 사용하여 뇌 활동을 분석하고 시각적으로 표현하는 방법을 개발했습니다. [Yu Takagi]

Takagi와 Nishimoto의 연구는 기술 커뮤니티에서 많은 화제를 불러일으켰으며, 사용자의 프롬프트에 응답하여 사람과 같은 음성을 생성하는 ChatGPT 의 출시를 포함하여 AI의 맹렬한 발전으로 전기가 공급되었습니다.

연구 결과를 자세히 설명하는 그들의 논문은 데이터 회사인 Altmetric에 따르면 현재까지 추적된 2,300만 개 이상의 연구 결과 중 참여도 측면에서 상위 1%에 속합니다.

이 연구는 또한 2023년 6월로 예정된 CVPR(Conference on Computer Vision and Pattern Recognition)에 승인되었으며, 이는 신경과학의 중요한 혁신을 합법화하기 위한 공통 경로입니다.

그럼에도 불구하고 Takagi와 Nishimoto는 자신이 발견한 사실에 흥분하지 않도록 조심합니다.

Takagi는 진정한 마음 읽기에 두 가지 주요 병목 현상이 있다고 주장합니다. 뇌 스캔 기술과 AI 자체입니다.

피험자의 머리에 연결된 전극을 통해 뇌파를 감지하는 EEG(Electroencephalography) 뇌 컴퓨터와 혈류와 관련된 변화를 감지하여 뇌 활동을 측정하는 fMRI를 포함한 신경 인터페이스의 발전에도 불구하고 과학자들은 우리가 앞으로 수십 년이 더 걸릴 수 있다고 믿고 있습니다. 상상한 시각적 경험을 정확하고 안정적으로 해독할 수 있습니다.

Yu Takagi와 그의 동료는 MRI를 사용하여 실험을 위해 피험자의 뇌를 스캔했습니다. [Yu Takagi]

Takagi와 Nishimoto의 연구에서 피실험자들은 최대 40시간 동안 fMRI 스캐너에 앉아 있어야 했으며, 이는 많은 비용과 시간이 소요되었습니다.

2021년 논문에서 한국과학기술원(KAIST)의 연구원들은 합성 인터페이스와 접촉할 때 비정상적인 방식으로 반응하는 신경 조직의 부드럽고 복잡한 특성으로 인해 기존의 신경 인터페이스가 "만성 기록 안정성이 부족하다"고 지적했습니다.

또한 연구원들은 “현재의 기록 기술은 일반적으로 신호를 전달하기 위해 전기 경로에 의존하는데, 이는 주변의 전기적 노이즈에 취약합니다. 전기 노이즈가 감도를 크게 방해하기 때문에 목표 영역에서 높은 감도로 미세한 신호를 얻는 것은 아직 쉬운 일이 아닙니다.”

Takagi는 이러한 기능이 날로 발전하고 있음을 인정하지만 현재 AI 제한은 두 번째 병목 현상을 나타냅니다.

"나는 AI에 대해 낙관적이지만 두뇌 기술에 대해서는 낙관적이지 않습니다."라고 Takagi는 말했습니다. "나는 이것이 신경 과학자들 사이의 합의라고 생각합니다."

Takagi와 Nishimoto의 프레임워크는 EEG 또는 Elon Musk의 Neuralink가 개발 중인 뇌-컴퓨터 임플란트와 같은 초침습 기술과 같은 MRI 이외의 뇌 스캔 장치와 함께 사용할 수 있습니다.

그럼에도 불구하고 Takagi는 현재 AI 실험에 대한 실제 적용이 거의 없다고 생각합니다.

우선, 이 방법은 아직 새로운 주제로 이전될 수 없습니다. 개인마다 뇌의 모양이 다르기 때문에 한 사람을 위해 만든 모델을 다른 사람에게 직접 적용할 수는 없습니다.

그러나 Takagi는 그것이 임상, 커뮤니케이션 또는 심지어 오락 목적으로 사용될 수 있는 미래를 보고 있습니다.

유니버시티 칼리지 런던(University College London)의 전산 신경과학 교수이자 앨런 튜링 연구소(Alan Turing Institute)의 연구원인 리카르도 실바(Ricardo Silva)는 알 자지라와의 인터뷰에서 “아직도 매우 탐색적인 연구이기 때문에 현 단계에서 성공적인 임상 적용이 무엇인지 예측하기 어렵습니다.

"이것은 환자의 뇌 활동에서 재구성된 시각적 탐색 작업의 이미지에서 지속적인 이상을 발견할 수 있는 방법을 평가함으로써 알츠하이머의 감지 및 진행 평가를 위한 마커를 개발하는 추가 방법이 될 수 있습니다."

일부 과학자들은 미래에 AI가 알츠하이머병과 같은 질병을 탐지하는 데 사용될 수 있다고 믿고 있습니다. [Yu Takagi]

실바는 언젠가 진정한 마음 읽기에 사용될 수 있는 기술의 윤리에 대한 우려를 공유합니다.

그는 “가장 시급한 문제는 데이터 수집자가 수집된 데이터의 용도를 어느 정도까지 상세하게 공개해야 하는지”라고 말했다.

“미래의 임상적 사용을 위해 어린 시절의 자신의 스냅샷을 찍는 방법으로 등록하는 것과 마케팅과 같은 부차적인 작업에 사용하거나 더 나쁘게는 법적 소송에 사용하는 것은 또 다른 완전히 다른 것입니다. 누군가 자신의 이익에 반하는 것입니다.”

그래도 Takagi와 그의 파트너는 연구 속도를 늦출 생각이 없습니다. 그들은 이미 기술을 개선하고 다른 양식에 적용하는 데 초점을 맞출 프로젝트의 버전 2를 계획하고 있습니다.

"우리는 현재 훨씬 더 나은 [이미지] 재구성 기술을 개발하고 있습니다."라고 Takagi는 말했습니다. "그리고 그것은 매우 빠른 속도로 일어나고 있습니다."

출처 : 알 자지라

---