새로운 AI 도구는 사용자를 도발적인 언어에서 멀리 안내합니다.

[아름이]

새로운 AI 도구는 사용자를 도발적인 언어에서 멀리 안내합니다.
날짜:
2023년 2월 14일
원천:
코넬대학교
요약:
긴장된 온라인 토론이 돌이킬 수 없는 붕괴로 치닫고 있는 시기를 식별하기 위해 연구원들은 이러한 대화를 실시간으로 추적하고 긴장이 고조되는 시기를 감지하고 사용자가 선동적인 언어를 사용하지 않도록 유도할 수 있는 인공 지능 도구를 개발했습니다.

전체 이야기
긴장된 온라인 토론이 돌이킬 수 없는 붕괴로 치닫고 있는 시기를 식별하기 위해 코넬 대학교 연구원들은 이러한 대화를 실시간으로 추적하고 긴장이 고조되는 시기를 감지하고 사용자가 선동적인 언어를 사용하지 않도록 유도할 수 있는 인공 지능 도구를 개발했습니다.

이 연구는 자연어 처리 분야의 대화식 예측 방법이 중재자와 사용자 모두 독설을 적극적으로 줄이고 건강하고 생산적인 토론 포럼을 유지하는 데 도움이 될 수 있다는 유망한 징후를 보여줍니다.

"의도가 선한 토론자는 인간일 뿐입니다. 열띤 토론이 진행되는 동안 관심을 많이 갖는 주제에 대해 감정적으로 반응하기 쉬울 수 있으며 사실 이후에야 깨닫게 됩니다." 컴퓨터 과학 분야. 아이디어는 사용자에게 무엇을 말하라고 지시하는 것이 아니라 사용자가 직접 대면하여 의사소통하도록 장려하는 것이라고 Chang은 말했습니다.

ConvoWizard라는 이름의 이 도구는 심층 신경망으로 구동되는 브라우저 확장 기능입니다. 이 네트워크는 정치, 경제 및 문화와 관련하여 잠재적으로 열띤 주제에 대한 선의의 토론을 우선시하는 포럼인 Change My View 하위 레딧에서 가져온 산더미 같은 언어 기반 데이터에 대해 교육을 받았습니다.

내 보기 변경에 참여하는 사용자가 ConvoWizard를 활성화하면 이 도구는 대화가 긴장되기 시작할 때 알려줄 수 있습니다. 또한 댓글이 긴장을 고조시킬 가능성이 있는지 여부를 답글을 작성하는 동안 실시간으로 사용자에게 알릴 수 있습니다. 이 연구는 AI 기반 피드백이 건설적인 토론을 고양시키는 언어로 사용자를 안내하는 데 효과적일 수 있음을 시사한다고 연구원들은 말했습니다.

"ConvoWizard는 기본적으로 '이 댓글이 게시되면 대화에서 예상되는 긴장이 증가하거나 감소합니까?'라고 묻습니다. 댓글이 긴장을 증가시키면 ConvoWizard가 경고를 줄 것입니다."라고 Chang은 말했습니다. 예를 들어 텍스트 상자가 빨간색으로 바뀝니다. "이 도구는 이렇게 하라 저것을 하라고 지시하는 위험한 영역으로 방향을 바꾸지 않고 피드백을 제공하는 이 라인을 밟습니다."

ConvoWizard를 테스트하기 위해 Cornell 연구원은 약 50명의 참여 포럼 중재자와 회원이 도구를 사용하는 Change My View 하위 레딧과 협력했습니다. 결과는 긍정적이었습니다. 68%는 도구의 위험 추정치가 자신의 직감만큼 또는 더 좋다고 느꼈고, 참가자의 절반 이상이 ConvoWizard 경고로 인해 나중에 후회할 댓글을 게시하지 못하게 되었다고 보고했습니다.

Chang은 또한 ConvoWizard를 사용하기 전에 참가자들에게 후회하는 내용을 게시한 적이 있는지 질문했다고 언급했습니다. 절반 이상이 그렇다고 대답했습니다.

"이러한 결과는 선의의 사용자라도 이러한 유형의 행동에 빠질 수 있고 그것에 대해 나쁘게 느낄 수 있음을 확인시켜줍니다."라고 그는 말했습니다.

"ConvoWizard와 같은 AI 기반 도구가 고품질 온라인 토론을 장려하기 위한 완전히 새로운 패러다임을 가능하게 하는 방법에 대해 생각하는 것은 흥미진진합니다. 이러한 토론 참가자가 검열하거나 제한하는 대신 자신의 직관을 사용할 수 있도록 직접 권한을 부여함으로써 가능합니다."라고 말했습니다. Cristian Danescu-Niculescu-Mizil, 정보 과학 부교수.

출처 : https://www.sciencedaily.com/