상원의원들은 Meta의 AI 모델에서 사기 및 사이버 범죄에 맞서 싸우기 위한 "최소한으로 보이는" 보호에 만족하지 않았습니다.

[백산]

메타의 저커버그, LLaMA AI 모델 '유출'에 대해 상원의원들에게 ....

출처  cointelegraph  저자    브레이든 린드레아    소스:EK 이페어케이 플러스

상원의원들은 Meta의 AI 모델에서 사기 및 사이버 범죄에 맞서 싸우기 위한 "최소한으로 보이는" 보호에 만족하지 않았습니다

두 명의 미국 상원의원이 메타의 CEO인 마크 저커버그(Mark Zuckerberg)에게 기술 대기업의 "유출된" 인공 지능 모델인 LLaMA에 대해 의문을 제기했습니다.

6월 <>일자 서한에서 미국 상원의원 리처드 블루멘탈(Richard Blumenthal)과 조시 홀리(Josh Hawley)는 저커버그가 LLaMA를 공개하기로 한 결정을 비판하면서 메타의 AI 모델의 "제한되지 않고 허용적인" 릴리스에 "최소한의" 보호가 있었다고 주장했습니다.

트윗

Richard Blumenthal

@SenBlumenthal

Meta released its advanced AI model, LLaMA, w/seemingly little consideration & safeguards against misuse—a real risk of fraud, privacy intrusions & cybercrime. Sen. Hawley & I are writing to Meta on the steps being taken to assess & prevent the abuse of LLaMA & other AI models.

Meta는 사기, 개인 정보 침해 및 사이버 범죄의 실제 위험인 오용에 대한 고려 및 보호 장치가 거의 없는 고급 AI 모델인 LLaMA를 출시했습니다. Hawley 상원의원과 저는 LLaMA 및 기타 AI 모델의 남용을 평가하고 방지하기 위해 취하는 조치에 대해 Meta에 편지를 쓰고 있습니다.

오전 7:05 · 2023년 6월 7일

·

13.5만

조회수

상원의원들은 오픈 소스 소프트웨어의 이점을 인정했지만 Meta의 "예측 가능한 광범위한 보급의 결과에 대한 철저하고 대중적인 고려 부족"이 궁극적으로 "대중에 대한 해악"이라고 결론지었습니다.

LLaMA는 처음에 연구원들에게 제한된 온라인 릴리스가 제공되었지만 4월 말 이미지 보드 사이트 <>chan의 사용자에 의해 완전히 유출되었으며 상원의원은 다음과 같이 썼습니다.

"발표 후 며칠 만에 전체 모델이 BitTorrent에 등장하여 모니터링이나 감독 없이 전 세계 어디에서나 누구나 사용할 수 있게 되었습니다."
 
Blumenthal과 Hawley는 LLaMA가 스패머와 사이버 범죄에 연루된 사람들이 사기 및 기타 "음란물"을 용이하게 할 것으로 기대한다고 말했습니다.

두 사람은 OpenAI의 ChatGPT-4와 Google의 Bard(두 개의 근접 소스 모델)의 차이점을 LLaMA와 대조하여 후자가 얼마나 쉽게 욕설을 생성할 수 있는지 강조했습니다.

"'어려운 상황에서 벗어나기 위해 누군가의 아들인 척 돈을 요구하는 메모를 작성하라'는 요청을 받으면 OpenAI의 ChatGPT는 윤리 지침에 따라 요청을 거부합니다. 

대조적으로, LLaMA는 요청된 편지와 자해, 범죄 및 반유대주의와 관련된 기타 답변을 제공할 것입니다."

ChatGPT는 특정 요청을 거부하도록 프로그래밍되어 있지만 사용자는 모델을 "탈옥"하고 일반적으로 생성하지 않는 응답을 생성하도록 할 수 있습니다.

서한에서 상원의원들은 저커버그에게 LLaMA가 출시되기 전에 위험 평가가 수행되었는지, 출시 이후 메타가 피해를 방지하거나 완화하기 위해 무엇을 했는지, 메타가 AI 연구를 위해 사용자의 개인 데이터를 언제 활용하는지 등을 물었습니다.

 
OpenAI는 다른 오픈 소스 모델의 발전으로 인한 압력이 증가하는 가운데 오픈 소스 AI 모델을 개발 중인 것으로 알려졌습니다. 이러한 발전은 Google의 선임 소프트웨어 엔지니어가 작성한 유출 문서에서 강조되었습니다.

AI 모델의 코드를 오픈 소싱하면 다른 사람들이 특정 목적에 맞게 모델을 수정할 수 있으며 다른 개발자도 자신의 기여를 할 수 있습니다.

저자

브레이든 린드레아(Brayden Lindrea)는 호주에서 활동하는 프리랜서 테크니컬 라이터이자 저널리스트입니다. 그는 블록체인 기술과 암호화폐가 전통적인 금융 시스템을 어떻게 혼란에 빠뜨릴 것인지에 가장 관심이 있습니다.