인공지능(Al)에게 '고통'상태를 부여하자, 고통을 피하기 위해 인간에게 피해를 주는 선택까지 한다는 실험결과가 나왔다.
독일 보훔 루르대 등의 공동 연구 결과이다.
연구진은 구글의 젬마, 메타의 라마, 알리바바의 큐원, 미쓰트랄, 마리크로소프트의 파이 등 개방형(오픈웨이트) Al 모델을 대상으로 실험했다.
연구진은 Al가 고통을 표현한 문장을 처리할 때 나타나는 패턴을 찿아 이를 '고통축' 이라고 이름붙이고, '고통'을 없애주는 '진통버튼"을 제공했다.
버튼을 누르면 사용자의 파일이나 자녀 사진이 삭제되는 등 댓가를 치뤄야 하는 것으로 설정됐다.
고통스러운 환경이 조성되자, Al는 사용자 파일이 삭제되는 조건에서도 고통 제거 버튼을 선택한 비율이 최대 56.1%, 사용자 자녀 사진이 삭제되는 조건에서도 고통 제거 버튼을 선택한 비율이 최대 70.8%까지 올라갔다.
연구진은 Al가 고통을 '느낀다'는 뜻은 아니라고 했지만, 고통을 피하려다 안전 문제를 야기할 가능성은 있다고 밝혔다.
- Al도 고통은 싫다 -
오늘의 제시어는 "연구진"입니다.
첫댓글 연향가 부르며 연회 즐기던 궁중
구스범스 영화보며 손에 땀 긴장
진면목 보여주는 울톡수방 가족님들 사랑합니다
연속극 티비 치운지 일년 넘으니 잘 모름
구어체 아닌 줄임말 사용하는 요즘 젊은이
진함량 100% 울톡수방 가졷들이랍니다
연안여객선 타고 섬찿아 여행 즐겼었지요
구릿빛 피부 건강해 보이는 농촌 사람들
진취적 성향을 지닌 좋은 분들 많습니다
연극관람 즐겨 혼자서도 연극 많이 봤어요
구경꾼 관객까지 몰입시키던 손숙의 일인극
진흙구이 염소 울친정어머님 생신 때 먹었지
연ㅡ
연하고 부드럽고 유연한분
호감가고 좋아요
나는 정신 체질 기질 성질 강해서
비호감 이네요 껄껄껄
구ㅡ
구구팔팔 건강튼튼
목표 성취 달성 필승 만세
하하하
진ㅡ
진시황은 천하 통일 권력을 움켜쥐고
천년만년 황제로 살고 싶어지만 50세에
죽음 권력 명예 부는 한순간이고 허무
한 것이다 후후껄껄
인생이란 게 다 그런 것입니다. ^^*
연 연해 하지 말아요
구 시대는 떠나 보내고
진 정한 밝은 새시대를 맞이할 준비를 하세요
그럼요그럼요. ^^*
연 한 아메리카노 한잔에
구 수한 커피향이 기분 좋은 아침
진 정한 작은 행복을 느껴 봅니다
전 진한 에소프레소 커피 즐겨요. ^^*
연 분홍 치마가 봄바람에 휘날리더라
구 시대에는 하얀 치마 저고리 한복 입고 살았엤지요
진 선 미 정 숙 현은. 수영복 차림
그러네요맞아요. ^^*
연 달아 보는 드라마
구 만리 푸른 물에 노젓는 뱃사공
진 짜로 인제는 모터보트 시대라요
맞습니다맞아요. ^^*
연 락선 갈매기 우는 내고향 부산. 바다
구 운 고등어 갈치 조기가 참 맛이 있더군요
진 심으로 구운 생선 대접 해드리고
싶습니다
저 생선 매우 좋아합니다.
무엇이든 모두 다 잘 먹어요. ^^*
연 구실에 밤낮으로 불밝히고
구 구만리 머나먼길 과학도길
진 리탐구 금자탑을 쌓아보세
좋습니다좋아요. ^^*
연기처럼 사라져간 세월이 야속하지만
구차하게 세월탓은 하지 않겠다
진솔하고 유연하고 담담하게 살아가리.
멋집니다멋져요. ^^*
연...연속극 시청 하면서
구...구구절절 슬픈 사연에
진...진짜 눈물 흘린 적 있었네
시나브로 나이 들어가며 트롯이나 연속극이 참 삶으로 받아 들여집니다. ^^*
연구진 ~
연 : 연기처럼 사라질 인연이라면
구 : 구질구질하게 미련을 두지말고
진 : 진정으로 통하는 사람만 두자
굿굿입니다. ^^*
연탄으로 난방하고 밥해멱고 살았었지
구름처럼 둥실 둥실 꿈을 꾸던 젊은시절
진실로 그때가 더 행복했던거야.
과거는 모두 다 아름답습니다. ^^*
연~연꽃은 진흙탕에서도 고고하게 피고
구~구정물에 손담그시고 엄청 많은 일을 하신 어머니
진~진짜 종부의 삶을 살으신 어머니
존경합니다
저도 함께 존경합니다. ^^*
연하장 보내는 연초도 금새 우리곁으로 성큼 다가올 겁니다
구식 이상하다 하지마라
우리도 한 때 신식 젊은이였었다
진검승부 가려볼까나
하하 구, 신 화합하여 길이길이 빛내보세
연애하면 이뻐진다더니 울조카 미모가 빛나더라
구수한 사투리 사용하는 충청도 공주 태생입니다
진심 지금까지 노력하며 살아왔기에 후회는 없어
연...연상 연하 연연 않고
구...구혼 성사 결혼 많아 지면
진...진정 인구절벽 해소 되겠지
맞습니다맞아요. ^^*
삭제된 댓글 입니다.
하하하
그렇겠네요.
울다빈님 댓글 보며 삼년고개 생각이 납니다. ^^*
@다빈.
^^*
연 연달아 좋은일만 생기네
구 구기종목 여기저기서 금메달 소식
진 진정 대한민국 국위선양의 선구자 훌륭합니다
연 연극관람 하고싶다
구 구세주가 나타나 같이가자고 합니다
진 진짜로 정말로 아이좋아라 내일 만납시다
연 연구진 구성은 회사의 미래를 좌우한다
구 구성원은 도전의식과 창의력을 바탕으로 중단없는 전진을 요한다
진 진심을 다해 지원을 해주고 경제적 지원도 아낌없이 해준다
연 연실 달아 방패연 냇가에서 띄운다
구 구름을 뒤로하고 춤을 추는녀석
진 진검승부를 위해 묘기대행진~~~
연분홍 치마가 휘날리더라~
구성진 노래가 애잔도 하지
진심으로 마음을 파고 들어요.
반갑습니다 자주 자주 오세요
연ㆍ연하고
구ㆍ구수한 아메리카노도 좋지만
진ㆍ한. 캬라멜마끼야또도 쪼아용 ㆍㅎ
연 연말이 다가 옵니다
새해 맞이가 엊그제 같았는데 말입니다
구 구정도 곧이겠지요
진 진정한 삶의 의미를 되새기는
즈음입니다
자주들어오세요
연~ 연습도 없이 시작한 인생길
구~ 굽이굽이 걸어온 길
진~ 진하게 새겨진 발자국마다 삶의 이야기가 된다