AI가 인간의 적이냐? 아군이냐?

[소몽]

#AI가인간의적이냐?아군이냐?

(일부만 옮김)
AI가 인간의 적이냐 아군이냐 아직은 알수가 없다
UN에서도 MIT에서도, AI가 초래할 위험에 대해서 전체를 다 인지하고
있는 어떤 리포트도 없었다

[캘리포니아AI법 'SB1047']
학습 연산량이 10에26승 넘어가는 모델로, 학습에 들어간 비용이
1억달러 이상 인 AI만 대상으로 한다(큰 규모만)
그리고 반드시 사이버 보안 보호 구현하여 "무단접근, 오용" 또는
훈련투어에 안전하지않은 수정을 방지해야된다
AI가 갑자기 엄청난 오작동을 하게되면 전체 셧다운을 할수 있는
킬스위치가 있어야한다(끌수 있어야한다).
그리고 개발자가 안전및 보안 프로토콜을 중대한 피해를 유발하거나
유발 할수 있는 불합리한 위험을 초래하는 대상모델 또는 파생물
을 생산하지 않을것이라는 합리적인 보증을 제공해야된다

그 UN에서 냈다는 보고서, "첨단 AI의 안정성에 관한 국제보고서"
75명의 AI전문가들이 참가해서 그 위험에 대해서 죽 나열했고..
서울에서 열렸던 AI컨퍼런스에서 2024. 5. 21부터~ 24일 서울
에서 열린 AI정상회의에서 전 세계의 주요 거대 모델 개발사들
아마존, 앤트로픽, 코히어, 구글, OpenAI, 메타.. 이런 거대 AI회사
들이 "우리는 이렇게 할것입니다" 내용에 전부 다 서약을 발표했다

책임감 있게 개발 배포하고 심각한 위험에 촛점을 맞춘 안전
프레임워크을
발표하고 이걸 달성할 방법을 입증하겠고 이유를 포함해서 투명성
을 제공하겠다고 자진해서 발표하였다
그것과 캘리포니아 AI법을 비교해 봐도 오히려 캘리포니아 AI법
이 더 규모가 작아보입니다
그런데 차이점이 있다면 캘리포니아 AI법은 법이기 때문에 강제성이
있지만 자기들이 선언한것은 자기들이 선언한거니까 안지킬 수도
있습니다
이 친구들이 말은 번지르르하게 하고 우리가 윤리적으로 하고 지키겠습니다
말하고 있지만 막상 그 일부를 법으로 만드니까, 로비를 해서 상원을
통과 하자마자 캘리포니아 주지사가 부결해버립니다(거부권), 그 부결해
버린 이유가 실리콘 밸리의 거대 IT기업들이 엄청난 로비를 했습니다
"돈 앞에는 '선의'가 없습니다"

AI가 세상을 지배하는 시대가 오는게 아니라 어리석은 인간이 스스로
자기를 망치는 시대가 올수도 있다, 저는 충분히 가능하다고 생각을 합니다
(그때)그 피해의 규모가 어마어마하게 되는 겁니다
- 한빛미디어 의장 박태웅

https://youtu.be/-YlqL6YwwMs?si=Hr5OioZQUWY3dYgx

[소몽]

AI에 대해 이해하기 아주 쉽게.. 설명해줍니다

[박희정]

각종 과학소설에 나오지요
인간을 지배하는........
중용을 벗어나게 되면
재앙이 될수가 있으니까요
대보름 복많이 받으시길 바랍니다^^

[소몽]