동료 인간을 불신하는 사람들은 인공 지능에 대한 더 큰 신뢰를 나타냅니다

[아름이]

동료 인간을 불신하는 사람들은 인공 지능에 대한 더 큰 신뢰를 나타냅니다
날짜:
2022년 9월 21일
원천:
펜 스테이트
요약:
최근 발표된 연구에 따르면 사람에 대한 불신은 온라인 콘텐츠를 조정하는 인공 지능의 능력에 대해 더 많은 신뢰를 갖게 될 것이라고 예측합니다. 연구원들은 이 발견이 소셜 미디어에서 AI 도구의 디자이너와 사용자 모두에게 실질적인 의미가 있다고 말합니다.

최근 발표된 연구에 따르면 사람에 대한 불신은 온라인 콘텐츠를 조정하는 인공 지능의 능력에 대해 더 많은 신뢰를 갖게 될 것이라고 예측합니다. 연구원들은 이 발견이 소셜 미디어에서 AI 도구의 디자이너와 사용자 모두에게 실질적인 의미가 있다고 말합니다.

펜실베니아 주립대 미디어 효과 교수인 S. Shyam Sundar는 "다른 인간을 덜 신뢰하는 개인이 AI 분류에 대해 더 큰 신뢰를 보이는 체계적인 패턴을 발견했다"고 말했다. "우리 분석에 따르면 이는 사용자가 기계가 정확하고 객관적이며 이념적 편견이 없다는 아이디어를 불러일으키기 때문인 것으로 보입니다."

New Media & Society 저널에 실린 연구 에서도 정보 기술 사용자를 경험한 '파워 유저'는 반대 경향이 있는 것으로 나타났습니다. 그들은 기계가 인간 언어의 뉘앙스를 감지하는 능력이 부족하다고 믿기 때문에 AI 중재자를 덜 신뢰했습니다.

연구에 따르면 다른 사람에 대한 불신과 전력 사용량과 같은 개인차가 콘텐츠 조정을 위한 AI 기반 시스템에 직면했을 때 사용자가 기계의 긍정적인 특성 또는 부정적인 특성을 호출할지 여부를 예측하여 궁극적으로 시스템에 대한 신뢰에 영향을 미친다는 것을 발견했습니다. 연구원들은 개인의 차이에 따라 인터페이스를 개인화하면 사용자 경험을 긍정적으로 바꿀 수 있다고 제안합니다. 연구의 콘텐츠 조정 유형에는 증오심 표현 및 자살 생각과 같은 문제가 있는 콘텐츠에 대한 소셜 미디어 게시물 모니터링이 포함됩니다.

"일부 사람들이 콘텐츠 조정 기술을 신뢰하는 것을 주저하는 이유 중 하나는 우리가 온라인에서 자유롭게 의견을 표현하는 데 익숙하기 때문입니다. 우리는 콘텐츠 조정이 그것을 우리에게서 빼앗아 갈 수 있다고 생각합니다."라고 의 조교수인 Maria D. Molina가 말했습니다. Michigan State University의 커뮤니케이션 예술과 과학이며 이 논문의 첫 번째 저자입니다. "이 연구는 콘텐츠 조정에 대해 AI에 대한 부정적인 고정 관념을 가진 사람들에게 결정을 내릴 때 인간의 참여를 강화하는 것이 중요하다는 것을 제안함으로써 그 문제에 대한 해결책을 제공할 수 있습니다. 반면에 기계에 대한 긍정적인 고정 관념을 가진 사람들에게는, AI의 정확성과 같은 요소를 강조하여 기계의 강점을 강화할 수 있습니다."

이 연구는 또한 보수적인 정치 이념을 가진 사용자가 AI 기반 중재를 더 신뢰할 가능성이 있음을 발견했습니다. Penn State의 Media Effects Research Laboratory를 공동 지휘하는 Molina와 공동 저자 Sundar는 이것이 주류 미디어와 소셜 미디어 회사에 대한 불신에서 비롯된 것일 수 있다고 말했습니다.

연구원들은 미국에서 676명의 참가자를 모집했습니다. 참가자들은 개발 중인 콘텐츠 중재 시스템을 테스트하는 데 도움을 주고 있다고 들었습니다. 그들은 증오심 표현과 자살 충동에 대한 정의를 받았고 네 가지 소셜 미디어 게시물 중 하나가 뒤따랐습니다. 게시물은 해당 정의에 맞게 플래그가 지정되었거나 플래그가 지정되지 않았습니다. 참가자들은 게시물에 플래그를 지정할지 여부를 AI, 인간 또는 이 둘의 조합에 의해 결정했는지도 알렸습니다.

시연에 이어 참가자들에게 개인차에 대해 묻는 설문지가 이어졌습니다. 차이점에는 타인을 불신하는 경향, 정치적 이념, 기술 경험, AI에 대한 신뢰 등이 있습니다.

Molina는 "잘못된 정보에서 증오심 표현에 이르기까지 문제가 되는 콘텐츠가 너무 많습니다."라고 말했습니다. "하지만 결국 개인차에 휘둘리기보다는 기술의 실제 속성으로 인해 사용자가 AI에 대한 신뢰를 측정하도록 도울 수 있는 방법에 관한 것입니다."

Molina와 Sundar는 그들의 결과가 미래의 AI 수용을 형성하는 데 도움이 될 수 있다고 말합니다. 사용자에게 맞춤화된 시스템을 생성함으로써 디자이너는 회의론과 불신을 완화하고 AI에 대한 적절한 의존도를 구축할 수 있습니다.

펜실베이니아 주립대의 사회적 책임 인공 지능 센터 소장이기도 한 Sundar는 "이 연구의 주요 실질적인 의미는 사용자가 자동화 시스템에 대한 신뢰를 측정할 수 있도록 돕기 위한 커뮤니케이션 및 설계 전략을 파악하는 것"이라고 말했습니다. "AI 기술을 너무 많이 믿는 경향이 있는 특정 그룹의 사람들은 AI 기술의 한계에 대해 경고해야 하며 콘텐츠를 조정하는 능력을 믿지 않는 사람들은 프로세스에 인간이 얼마나 관여하는지에 대해 충분히 알려야 합니다."

출처 : https://www.sciencedaily.com/