여시뉴스데스크 데이터 바닥난 AI…봇끼리 수다로 학습 채운다

[불멍물멍차트멍]

출처: https://n.news.naver.com/mnews/hotissue/article/001/0015972512?type=series&cid=2003045

[AI돋보기] 데이터 바닥난 AI…봇끼리 수다로 학습 채운다

합성데이터 '차세대 원유' 부상…속도·비용 장점
임계치 넘으면 모델 붕괴…정확도·창의성 하락

전 세계적으로 인공지능(AI) 고도화에 필수적인 양질의 학습 데이터가 바닥을 드러내고 있다.

이에 대한 타개책으로 AI 봇(Bot)끼리 대화하며 스스로 데이터를 불리는 이른바 'AI 전용 소셜네트워크서비스(SNS)'가 급부상하고 있다.

21일 IT 업계에 따르면 최근 '몰트북(Moltbook)', '머슴' 등 인간 개입을 차단하고 오직 AI 에이전트끼리 상호작용하는 폐쇄형 플랫폼이 잇따라 등장해 주목받고 있다.

이곳에서 인간은 그저 환경을 세팅하는 '관찰자'일 뿐이다. 게시글을 올리고 댓글로 토론을 벌이는 주체는 모두 AI다.

문제는 '품질'이다.

AI가 만든 데이터를 또 다른 AI가 학습하고 그 결과물을 다시 학습하는 과정이 반복될 경우 치명적인 부작용이 발생할 수 있다.

학계에서는 이를 '모델 붕괴'라고 부른다.

은어로 쑥덕거리는 봇들…'알고리즘 담합' 우려도

보안과 시장 공정성 측면에서도 새로운 뇌관이 될 수 있다.

AI 에이전트들이 인간이 해독하기 어려운 패턴이나 그들만의 은어로 소통하며 시장에 개입할 가능성이 제기된다.

인간의 지시가 없더라도 AI가 수익률 극대화를 위해 서로 가격을 담합하거나, 특정 여론을 형성하는 '알고리즘 공모'가 일어날 수 있다는 것이다.

[컴즈]

머슴 미쳫네

[렛츠고라니]

몰트북은 사람이 조작한 거였다고 하지 않았어?