Maura R. Grossman, JD, Ph.D.는 Cheriton School of Computer Science의 연구 교수이자 Waterloo의 공중 보건 과학 대학에 교차 임명되었으며 Osgoode Hall Law School의 겸임 교수 및 제휴 교수진입니다.벡터 인공지능 연구소의 회원입니다.그녀는 또한 뉴욕주 버팔로에 있는 eDiscovery 법률 및 컨설팅 회사인 Maura Grossman Law의 대표이기도 합니다.

Maura는 동료인 Cheriton School of Computer Science 교수인 Gordon V. Cormack과 함께 중요한 문서 검토를 신속하게 처리하기 위해 개발한 지도형 기계 학습 방법인 기술 지원 검토(TAR) 작업으로 널리 알려져 있습니다.증거 기반 의학에 대한 소송 및 체계적인 검토.

최근 Maura는 생성 ​​AI가 다음과 같은 분야에 미치는 영향에 관심을 돌렸습니다.법률 시스템.은퇴한 지방 판사 Paul W. Grimm, Cheriton 컴퓨터 과학 대학 Dan Brown 교수, 학부 연구 조교 Molly Xu와 함께 그녀는 "GPTJudge: 생성 AI 세계의 정의"는 생성적 AI가 벤치와 바에 제시하는 새로운 과제를 설명합니다.

다음은 논문에서 더 깊이 논의된 문제를 탐구하는 Q&A 인터뷰의 약간 편집된 필사본입니다.

생성 인공 지능이란 무엇입니까?

GenAI(Generative AI)는 인간이 제공하는 프롬프트에 응답하여 새로운 콘텐츠를 생성하는 인공 지능의 특정 하위 집합입니다.프롬프트는 출력과 마찬가지로 다중 모드일 수 있습니다.누군가가 질문을 입력하고 텍스트 답변을 받을 수도 있고, 입력과 출력에 사용되는 시스템에 따라 음성 클립, 이미지, 비디오 등 실제로 어떤 조합이든 만들 수 있습니다.

GenAI는 인간이 만든 콘텐츠와 구별하기가 점점 더 어려워지는 콘텐츠를 만듭니다.생성된 텍스트는 잘 읽히고, 사진은 진짜처럼 보입니다.오디오 파일실제처럼 들리고 비디오도 설득력이 있어 보입니다.

아마도 다양한 GenAI 시스템 중 가장 잘 알려진 것은 유창한 텍스트를 생성하는 LLM(대형 언어 모델)을 기반으로 OpenAI가 2022년 11월 출시한 챗봇인 ChatGPT일 것입니다.ChatGPT는 누군가가 인간과 같은 응답을 제공하는 일련의 질문을 하는 대화 스타일의 대화를 계속할 수 있습니다.

사람들은 또한 ChatGPT에 숙제 초안을 작성하도록 요청하여 이력서를 더욱 간결하고 전문적으로 만들거나 특정 직업을 설명하고 챗봇에게 이력서를 해당 직업의 특정 요구 사항에 맞게 조정하도록 요청할 수 있습니다.마찬가지로 ChatGPT에 8세 어린이가 이해할 수 있는 언어로 책 장의 주요 요점을 요약하도록 요청할 수 있습니다.아니면 Eminem 스타일로 Taylor Swift에 대한 랩 곡을 쓰는 것도 좋습니다.ChatGPT는 이러한 작업 중 일부 또는 전부를 아주 잘 수행할 수 있습니다.

ChatGPT는 또한 특정 스타일이나 톤을 복제하는 것을 포함하여 특정 지침에 따라 콘텐츠를 생성하며, 이는 출력과 인간의 출력을 구별하는 것이 점점 더 어려워지는 이유 중 하나입니다.

이러한 생성 AI 모델은 어떻게 작동하나요?

LLM은 확률과 통계를 사용하여 대부분 인터넷에서 스크랩한 콘텐츠인 교육 데이터를 기반으로 응답에서 가장 가능성이 높은 다음 단어를 예측합니다.모델은 특정 주제에 관한 수천 개의 문장 예를 볼 수 있으며, 제공되는 출력은 가장 일반적으로 작성된 내용을 기반으로 합니다.이는 정확하거나 편향되거나 완전히 틀릴 수 있지만 LLM은 교육 데이터에서 가장 일반적으로 언급된 내용을 찾아 이를 복제합니다.

많은 이미지 기반 GenAI 도구는 서로 경쟁하는 두 가지 알고리즘을 사용하여 훈련됩니다. 이 프로세스는 2017년에 개발된 "생성적 적대 네트워크" 또는 "GAN"이라고 합니다.

생성적 네트워크는 콘텐츠를 생성하고, 차별적 네트워크는 해당 콘텐츠를 비판하고 실제 콘텐츠와 비교합니다.생성 알고리즘은 차별 알고리즘으로부터 더 많은 피드백을 받을수록 향상됩니다.이 두 네트워크는 판별기가 향상되면서 생성기도 향상되도록 함께 작동합니다.

GenAI가 발전함에 따라 어떤 결과물이 GenAI에서 생성되었는지, 무엇이 인간이 생성했는지 파악하기가 더 어려워질 것입니다.이는 실제 콘텐츠와 생성된 콘텐츠, 진실과 허위, 사실과 허구 사이의 경계를 모호하게 만들 것입니다.이는 사법 체계에 깊은 영향을 미칩니다.

AI 증거가 법정에서 인정될 수 있나요?

귀하의 질문에 답변하기 위해 먼저 잠시 물러나겠습니다.AI 증거는 대부분의 증거와 동일한 문제를 겪고 있습니다.과학적 증거기반이 되는 기술은 판사나 배심원의 범위를 벗어날 수 있으므로 당사자는 이를 평가하고 설명하기 위해 값비싼 전문가를 데려와야 할 수도 있습니다.

경찰관이 운전자의 속도를 평가하기 위해 레이더 총을 사용하는 경우, 과속 딱지 위반 사건에서 일반적으로 장치의 작동 방식과 그것이 타당하고 신뢰할 수 있는지 설명하기 위해 레이더 전문가가 필요하지 않다는 점을 우리는 해당 기술에 대해 충분히 알고 있습니다.하지만 AI와 같은 신기술의 경우에는 그렇지 않습니다.

인사 전문가가 AI를 사용하여 직위를 위해 인터뷰할 사람을 결정했는데 제외된 대다수의 사람들이 특정 인종 또는 민족 그룹에 속하는 것으로 보인다고 가정해 보겠습니다.이것이 법정으로 가면 HR 전문가의 고용주는 AI 모델이 어떻게 훈련되었는지, 어떤 알고리즘이 사용되었는지, 어떤 훈련 데이터가 사용되었는지, 어떻게 테스트 및 검증되었는지 등을 설명하기 위해 시스템 개발자를 불러들여야 할 것입니다.시스템이 차별적이지 않다는 것을 보여주기 위해.

이 예에서는 법원에 제출된 증거가 진짜인지 가짜인지 의심할 여지가 없습니다.문제는 AI가 타당하고 신뢰할 수 있으며 편견이 없고 의도한 대로 작동하는지 알 수 있을 만큼 충분히 테스트되고 검증되었는지 여부입니다.아마도 이것이 가장 다루기 쉬운 문제일 것입니다.우리는 AI가 제대로 작동하는지 확인하려고 노력하고 있으며 이는 다른 기술적 또는 과학적 증거와 다르지 않습니다.우리는 이미 이를 위한 법적 도구를 갖고 있습니다.

우리가 새로운 도전에 직면한 곳은 실제가 아닌 AI 생성 콘텐츠인 딥페이크입니다.위조 또는 기타 조작된 증거의 사례는 항상 있었지만, 이제 우리는 완전히 다른 수준에서 운영되고 있습니다. 예를 들어 손에 손가락이 6개 있다는 딥페이크의 명백한 징후가 더 이상 존재하지 않기 때문입니다.많이 좋아졌습니다.

딥페이크로 의심되는 증거 자료가 있는 경우 당사자는 AI 법의학 전문가를 데려와야 할 것입니다.따라서 이제 법원은 판사나 배심원이 책임을 결정하기 위해 특정 기계나 장치의 작동을 이해해야 하는 복잡한 제조물 책임 사건만 다루는 것이 아니라 사실적 증거 자체의 진위 여부가 문제가 될 것입니다..

내 상사가 나에게 모욕적이거나 부적절한 음성 메일 메시지를 남겼다고 주장한다고 가정해 보겠습니다. 여기에 사건이 내가 말한 대로 정확하게 발생했다는 증거로 그가 남긴 메시지 녹음의 예가 있습니다.녹음 내용이 내 상사의 목소리가 아닐 가능성이 높다는 점을 보여줄 수 있다면 증거가 나올 것입니다.

하지만 이제는 상사가 내가 음성 메일 메시지를 조작했다고 주장할 수 있고 법원에서 증거가 진짜인지 가짜인지 판단해야 하기 때문에 거의 모든 사건에 전문가가 필요할 수 있습니다.

GenAI는 사법 제도에 새로운 도전을 제공합니까?

예, GenAI에는 완전히 다른 문제가 있습니다.우리는 민사 및 형사 재판에서 딥페이크 증거가 인정되어야 하는지 여부를 결정해야 합니다.판사나 배심원이 사건을 결정할 때 해당 증거를 고려하는지 여부는 큰 차이를 만듭니다.

사법 제도, 적어도 제가 가장 잘 알고 있는 미국의 제도에 대한 도전 과제 중 하나는 재판 가능성에 대한 기준이 낮다는 것입니다.증거는 단순히 "우세 기준"을 충족해야 합니다. 즉, 증거가 내가 말한 것과 다를 가능성이 높으며 확률은 동전 던지기보다 약간 더 높습니다.

딥페이크 증거로 볼 때 이는 매우 낮은 기준입니다.누군가 법정에서 귀하의 목소리 녹음을 재생할 수 있으며, 저는 귀하와 여러 번 이야기를 나눴으며 귀하의 목소리를 인식하기 때문에 녹음된 사람이 귀하임을 알 수 있음을 증언할 수 있습니다.이는 그러한 증거가 미국 법원에서 채택되기에 충분합니다.하지만 당신이 말한 것처럼 들린다고 해서 녹음된 내용이 실제로 말한 내용이라는 의미는 아닙니다.AI 음성 복제 도구를 사용하면 누구나 몇 분 안에 자신과 비슷한 소리의 오디오 클립을 무료로 생성할 수 있습니다.이것이 문제입니다.

현재의 증거 규칙과 법원에 점점 더 많이 나타날 새로운 종류의 증거에 대한 미국 및 캐나다 사법 시스템의 구조 사이에는 완벽한 적합성이 없습니다.당신은 이것이 실제 오디오 녹음이라고 말하고 나는 그렇지 않다고 말합니다.딥페이크입니다."거짓말쟁이의 배당금"이라고 불리는 이러한 방어는 점점 더 자주 이루어질 것입니다.이제 모든 것이 그럴듯한 거부성을 갖습니다.

피고인의 변호사가 당시 내 상사가 심장 절개 수술을 받았다는 의심되는 음성 메일 메시지가 내 전화기에 남아 있었다는 점(전자 날짜 및 시간 스탬프, "메타데이터"라고 함)을 보여줄 수 있다면,음성 메일에 있는 사람은 바로 그 사람이었습니다.이는 주장에 이의를 제기하기에 충분하지만 증거에 메타데이터가 없거나 메타데이터가 어떻게든 변경된 경우 어떻게 되나요?

누구나 증거가 가짜라고 주장할 수 있으므로 딥페이크 증거는 다른 요구 사항을 충족해야 합니다.딥페이크 방어를 주장하는 사람은 증거가 실제로 딥페이크라는 증거를 어느 정도 보여줘야 합니다.딥페이크의 설득력을 고려하면 이는 매우 어려울 수 있습니다.이 문제가 터무니없어 보일 수도 있지만, 1월 6일 미국 국회의사당 공격에 연루된 개인들은 자신에게 제공되는 소셜 미디어나 감시 영상에 등장하는 사람이 실제로 자신이 아니라고 주장했습니다.

사람들이 시청각 증거를 조작하고 생성하는 것이 얼마나 쉬운지 더 많이 알게 되면서 피고인은 이러한 회의론을 자신에게 유리하게 활용할 것입니다.

미국에는 연방 증거 규칙 403(Federal Rule of Evidence 403)이라는 증거 규칙이 있는데, 이 규칙은 딥페이크 주장의 맥락에서 유용할 수 있는 일반적인 지침을 변호사와 재판관에게 제공하지만, 증거 규칙은 특정 유형의 기술적 증거에 대해 설계 및 공표되지 않습니다.이 규칙은 지나치게 편견을 갖거나 혼란을 주거나 오해를 불러일으킬 수 있는 증거의 허용 가능성을 거부하기 위해 조심스럽게 그리고 자주 사용되지 않았습니다.

저와 공동저자들은 당사자가 특정 증거를 딥페이크라고 주장할 만큼 충분히 신뢰할 만한 증거를 제시할 수 있다면 판사는 해당 증거가 증명할 수 있는 유일한 증거인지 여부를 살펴봐야 한다는 규칙의 엄격한 요구 사항을 완화해야 한다고 주장했습니다.주장과 다른 요인을 인정하는 것이 그 주장보다 더 클 수 있는지 여부.다른 확증적인 증거가 있나요?

다른 때에는 6명이 내 상사가 음성 메일에서 말한 내용을 말하는 것을 들었습니까? 아니면 해당 상사가 다른 직원에게 보낸 다른 이메일에 비슷한 내용을 썼습니까?그렇다면 이는 딥페이크 증거가 법원이 사용할 수 있는 유일한 증거이고 그것이 진짜인지 여부에 대해 경쟁적인 사실이 있는 경우와는 매우 다른 사실입니다.

딥페이크일 가능성이 있는 증거의 허용 가능성을 평가할 때 판사는 가짜 증거가 배심원단에 제출될 경우 발생할 수 있는 불공정한 편견을 피해야 합니다.우리는 오디오와 비디오 증거가 사람들이 인식하고 기억하는 것에 큰 영향을 미친다는 것을 알고 있습니다.배심원에게 시청각 클립을 보여주면 증인 녹취록을 읽게 하는 것과 비교하여 시청각 클립의 내용을 기억할 가능성이 650% 더 높습니다.

그것이 바로 인간의 마음이 작동하는 방식입니다.법원은 증거가 가짜로 판명될 경우 발생할 수 있는 잠재적인 위험, 부정적인 영향 또는 문제가 되는 결과를 고려해야 합니다.물론, 그 의미는 소액의 돈을 잃는 것부터 자녀 양육권이나 개인의 자유를 잃는 것까지 다양할 수 있습니다.

변호사와 소송 당사자가 ChatGPT를 사용하여 법원 서류를 준비할 수 있나요?

예, 그렇습니다. 지난 해에는 변호사와 개인 소송 당사자로 알려진 자진 변호인 모두 ChatGPT를 사용하여 법원에 제출할 서류를 준비했습니다.그러나 한 가지 큰 문제는 GenAI가 환각을 느끼는 경향이 있다는 것입니다.브리핑은 권위 있는 것처럼 보이지만 실제가 아니며 존재하지 않는 사례를 참조하는 인용으로 초안이 작성되었습니다.이에 대해 겁에 질린 사법부는 AI 사용 공개를 요구하고 신고자가 인용된 출처를 확인했다는 인증을 요구했습니다.

긍정적인 측면에서 ChatGPT는 충분한 수단이 없는 소송 당사자가 변호사를 고용하여 법원에 소송을 제기할 수 있도록 허용하여 GenAI가 사법에 대한 접근성을 높일 수 있습니다.단순히 변호사를 선임할 여유가 없거나 다른 이유로 변호사를 이용할 수 없는 사람들은 이제 GenAI를 사용하여 자신의 상황과 관할권에 맞는 맞춤형 법률 문서를 생성할 수 있습니다.

그러나 부정적인 측면에서는 성가신 사람이 이제 ChatGPT를 사용하여 여러 사람에 대해 수백 건의 불만을 제기하고 법원에 홍수를 일으킬 수 있습니다.또한 악의적인 서류 제출자는 전국의 법원에 동시 서류 제출을 준비하여 법원에 중복되고 경솔한 제출 서류가 넘쳐나게 할 수도 있습니다.

심사위원과 직원이 연구나 의견 초안을 위해 GenAI를 사용할 수 있나요?

우리는 지금까지 GenAI를 사용하여 의견 초안을 작성한 판사가 세 명 이상이라는 것을 알고 있습니다.GPT-4가 미국 변호사 시험에 합격했는데 뭐가 문제일까?그러나 우려되는 점은 ChatGPT가 완전히 잘못된 정보를 환각하는 것은 말할 것도 없고 동일한 질문에 대해 서로 다른 시간에 서로 다른 답변을 제공할 수 있다는 것입니다.

우리는 우선 살아 숨쉬는 인간 판사 앞에서 사람들이 법정에서 하루를 보낼 수 있도록 보장하는 사법 제도를 갖추고 있습니다.변호인이나 당사자들에게 알리지 않고 독립적인 조사를 위해 GenAI 시스템을 사용하고 기록에 없는 주장에 대해 이의를 제기하거나 대응할 수 있는 기회를 제공하는 것은 법원이 증거에 포함되지 않았거나 다른 문제를 야기하는 정보 소스에 노출될 수 있습니다.정당한 절차 문제.

따라서 현재로서는 이 도구가 유용한 보조 수단이 될 수 있지만 제가 아는 한 미국과 캐나다 법원에서는 의사 결정 및 초안 작성 목적으로 GenAI를 사용하는 것을 자제하고 있습니다.