ChatGPT에 속아 법적 제재를 받는 변호사

[이매진]

ChatGPT에 속아 법적 제재를 받는 변호사

https://www.rt.com/news/577049-lawyer-chatgpt-bogus-cases-hearing/

Lawyer duped by ChatGPT facing legal sanctions

뉴욕의 한 변호사는 AI 모델이 거짓말을 할 수 있다는 것을 몰랐다고 주장하며 연구에 AI 모델을 사용했다고 인정했습니다.

©  게티 이미지 / Eduardo do Parra

지난 주 공개된 법원 기록에 따르면,   뉴욕 항공 변호사 스티븐 슈워츠는 그가 제출한 법률 문서가 " 가짜 사법 결정 "과 AI 언어 모델 ChatGPT가 작성한 가짜 인용문으로 가득 찬 것으로 밝혀진 후 전문적인 제재를 받을 수 있습니다.

Schwartz는 맨하탄 연방 판사 P. Kevin Castel이 자신의 사건을 기각하지 않도록 설득하기를 희망하는 10페이지 분량의 브리핑 초안 작성 작업에 처음으로 ChatGPT를 법적 조사에 사용하고 있었습니다. 따라서 그는 " 그 내용이 거짓일 수 있다는 가능성을 알지 못했다"고 설명했다. ”  

질문을 받았을 때 ChatGPT는 30년 경력의 변호사인 Schwartz에게 법적 제출에서 인용한 6건의 사례가 실제라고 말했습니다. 그는 대규모 언어 모델을 신뢰한 것을 " 매우 후회한다 "고 선언하면서 " 미래에는 절대 그렇게 하지 않겠다 "고 약속했다 . ”   

더 읽어보기

 'AI의 대부' 경고문 내고 구글 퇴출

Schwartz의 법률 회사 Levidow, Levidow & Oberman은 2019년 비행 사고와 관련하여 Avianca 항공사를 상대로 한 개인 상해 소송에서 항공사 승객 Roberto Mata를 대리했습니다. 항공사가 공소시효가 만료됐다며 해고 신청으로 소송에 대응했을 때 Schwartz와 그의 회사는 ChatGPT가 추가된 브리핑으로 대응했습니다.  

Avianca의 변호사는 인용된 사건이 ​​존재하지 않는다고 판사에게 항의했지만, Castel 판사가 Mata의 변호사에게 의심스러운 의견의 사본을 제공하라고 명령했을 때 그들은 즉시 그렇게 했습니다. Avianca의 변호사는 그러한 사건이 실제로 나타나지 않았다고 반박했습니다. 법원 문서 또는 법적 데이터베이스. 

Castel 판사는 이달 초 Schwartz와 그의 동료들이 법적 요약서를 작성하기 위해 챗봇을 사용한 것에 대해 징계 제재를 받아서는 안 되는 이유를 보여줄 것을 요구하는 명령으로 응답했습니다. 청문회는 6월 8일로 예정돼 있다. 

이에 대해 Schwartz는 목요일에 제출한 진술서에서 의심스러운 브리핑에서 발견된 모든 법률 연구를 수행했으며 단순히 자신의 작업을 " 보충 "하기 위해 ChatGPT를 배포했다고 주장했습니다. 그는 AI 소프트웨어 모델과의 ' 협의 '에서 가짜 사례를 발견했고 ' ChatGPT는 콘텐츠의 신뢰성을 보장했다 '고 설명했다.

그는 심지어 챗봇과의 대화 내용을 첨부했는데, 챗봇은 "당신이 제공한 다른 사례는 가짜입니까 "와 같은 질문에 " 아니오, 내가 제공한 다른 사례는 실제이며 평판이 좋은 법률 데이터베이스에서 찾을 수 있습니다 . ” 

사용자 쿼리에 대한 ChatGPT의 응답은 종종 사실에 입각한 것처럼 보이지만 대규모 언어 모델은 확률 엔진으로 작동하여 대규모 텍스트 스니펫 데이터베이스의 콘텐츠를 기반으로 텍스트 문자열을 채웁니다.