학년의 시작이자, 인생의 시작입니다.신선한 라운드~의담화생성 AI는 학교에서의 새로운 역할입니다.약 3년 동안 에세이는 모든 교실 교육의 중심에서 훨씬 덜 유용한 도구로 바뀌었습니다. 한 가지 이유는 ChatGPT입니다.에세이에 ChatGPT를 사용하는 학생 수 추정달라지다, 하지만 이는 충분히 흔한 일입니다.교사에게 적응을 강요하다.

생성 AI에는 많은 한계가 있지만 학생 에세이는 자신이 매우 잘하는 서비스 범주에 속합니다. 학습 데이터에는 할당된 주제에 대한 에세이의 예가 많고 엄청난 양의 에세이에 대한 수요가 있습니다.그리고 학생 에세이의 산문 품질과 독창적인 연구에 대한 기준은 그다지 높지 않습니다.

현재로서는 AI 도구를 사용하여 에세이에 대한 부정행위를 적발하기가 어렵습니다.많은 도구에서는 텍스트가 AI에서 생성되었는지 확인할 수 있다고 광고하지만 실제로는 그렇지 않습니다.별로 신뢰할 수 없음.부터학생들을 표절 혐의로 허위 고발큰 문제입니다. 이러한 도구가 작동하려면 극도로 정확해야 하지만 실제로는 그렇지 않습니다.

하지만 여기에는 기술적인 해결책이 있습니다.2022년, 양자컴퓨팅 연구원이 이끄는 OpenAI 팀스콧 애런슨, 최종 사용자가 여기저기 단어 몇 개를 바꾸거나 텍스트를 재배열하더라도 AI 텍스트를 거의 틀림없이 만드는 '워터마킹' 솔루션을 개발했습니다.해결책은 기술적으로 약간 복잡하지만, 참아주세요. 그것도 매우 흥미롭기 때문입니다.

AI 텍스트 생성의 핵심은 AI가 지금까지 텍스트에 나타난 내용을 바탕으로 가능한 다음 토큰을 '추측'하는 것입니다.지나치게 예측하지 않고 동일한 반복 출력을 지속적으로 생성하기 위해 AI 모델은 가장 가능성이 높은 토큰을 추측하는 것뿐만 아니라 무작위 요소를 포함하여 '가능성이 더 높은' 완료를 선호하지만 때로는가능성이 낮은 것을 선택합니다.

워터마킹은 이 단계에서 작동합니다.AI가 무작위 선택에 따라 다음 토큰을 생성하는 대신 AI가 무작위가 아닌 프로세스를 사용하도록 합니다. OpenAI가 발명한 내부 '점수 계산' 기능에서 높은 점수를 얻는 다음 토큰을 선호합니다.예를 들어 문자 V가 포함된 단어를 약간 선호할 수 있으므로 이 채점 규칙으로 생성된 텍스트는 일반 인간 텍스트보다 20% 더 많은 V를 갖게 됩니다(실제 채점 기능은 이보다 더 복잡합니다).독자들은 일반적으로 이것을 알아채지 못할 것입니다. 사실 저는 이 뉴스레터에 V 표시 수를 늘리기 위해 편집했고, 제 평소 글에서 이러한 변형이 눈에 띌지 의심스럽습니다.

마찬가지로 워터마크가 표시된 텍스트는 얼핏 보면 일반 AI 출력과 다르지 않습니다.그러나 비밀 채점 규칙을 알고 있는 OpenAI가 주어진 텍스트 본문이 인간이 생성한 텍스트보다 숨겨진 채점 규칙에서 훨씬 더 높은 점수를 받는지 여부를 평가하는 것은 간단합니다.예를 들어, 채점 규칙이 문자 V에 대한 위의 예라면 검증 프로그램을 통해 이 뉴스레터를 실행하여 1,200 단어에 약 90개의 V가 포함되어 있음을 확인할 수 있습니다. 이는 V 빈도에 따라 예상한 것보다 더 많은 수치입니다.영어로 사용됩니다.이는 어려운 문제에 대한 영리하고 기술적으로 정교한 솔루션이며 OpenAI는 이를 위한 작동하는 프로토타입을 보유하고 있습니다.2년.

따라서 AI 텍스트가 인간이 작성한 텍스트로 가장하는 문제를 해결하고 싶다면 매우 쉽게 해결할 수 있습니다.그러나 OpenAI는 워터마킹 시스템을 출시하지 않았으며 업계 어느 누구도 출시하지 않았습니다.왜 안 돼?

OpenAI(그리고 OpenAI만이)가 ChatGPT용 워터마킹 시스템을 출시하여 생성 AI가 언제 텍스트를 생성했는지 쉽게 알 수 있다면 이는 학생 에세이 표절에 조금도 영향을 미치지 않을 것입니다.소문은 빠르게 퍼지고 모든 사람은 현재 사용 가능한 많은 AI 옵션 중 하나로 전환할 것입니다. Meta's Llama, Anthropic's Claude, Google's Gemini 등이 있습니다.표절은 줄어들지 않고 계속될 것이며 OpenAI는 많은 사용자 기반을 잃을 것입니다.따라서 그들이 워터마킹 시스템을 비밀로 유지한다는 것은 놀라운 일이 아닙니다.

이런 상황에서는 규제 기관이 개입하는 것이 적절해 보일 수 있습니다. 모든 생성 AI 시스템에 워터마킹이 요구된다면 이는 경쟁상 불리한 점이 아닙니다.이것이 올해 캘리포니아 주 의회에 제출된 법안의 논리입니다.캘리포니아 디지털 콘텐츠 출처 표준이는 생성적 AI 제공업체가 AI 생성 콘텐츠를 감지 가능하게 만들고, 제공업체가 생성적 AI에 라벨을 붙이고 사기성 콘텐츠를 제거하도록 요구하는 것입니다.오픈AI는찬성놀랍게도 이 회사는 이를 수행하는 시스템을 갖춘 것으로 알려진 유일한 생성 AI 제공업체이기 때문입니다.그들의 라이벌은 대부분 반대합니다.

나는 생성 AI 콘텐츠에 대한 일종의 워터마킹 요구 사항을 대체로 선호합니다.AI가 될 수 있다엄청나게 유용하다, 그러나 생산적인 용도로 사용하기 위해 인간이 만든 것처럼 가장할 필요는 없습니다.신문이 언론인을 AI로 대체하는 것을 정부가 금지하는 것이 정부의 역할은 아니라고 생각하지만, 매체가 독자들에게 읽고 있는 콘텐츠가 실제 내용인지에 대해 잘못된 정보를 제공하는 것을 확실히 원하지 않습니다.실제 인간이 만든.

일종의 워터마킹 의무를 갖고 싶지만 구현이 가능한지는 잘 모르겠습니다.최근 출시된 '개방형' AI 모델(최신 Llama 등) 중 최고, 자신의 컴퓨터에서 직접 실행할 수 있는 모델은 품질이 매우 높아 학생 에세이용으로는 확실히 충분합니다.이미 출시되어 있으며 향후 버전에 어떤 업데이트가 적용되든 누구나 현재 버전을 실행할 수 있기 때문에 돌아가서 워터마킹을 추가할 수 있는 방법이 없습니다.(이것은 제가 개방형 모델에 대해 복잡한 감정을 갖는 여러 가지 방식 중 하나입니다. 개방형 모델은 엄청난 양의 창의성, 연구 및 발견을 가능하게 하며 모든 종류의 상식적인 명의 도용 방지 또는 모든 종류의 행위를 불가능하게 합니다.아동 성적 학대 방지 자료우리가 정말 갖고 싶어할 만한 조치입니다.)

따라서 워터마킹이 가능하더라도 우리가 그것을 믿을 수는 없다고 생각합니다. 즉, 사회로서 AI 생성 콘텐츠의 편재성을 해결하는 방법을 찾아야 한다는 의미입니다.교사들은 이미 학생의 부정행위를 줄이기 위해 수업 중 에세이 요구 사항과 기타 접근 방식으로 전환하고 있습니다.우리는 또한 대학 입학 에세이에서 벗어나는 것을 보게 될 것입니다. 그리고 솔직히 말해서 그것은 좋은 제거가 될 것입니다.결코 학생을 선발하는 좋은 방법이 아닙니다..

그러나 나는 대학 입학 에세이에 대해 별로 애도하지 않을 것이며 교사들이 학생들을 평가하는 더 나은 방법을 찾을 수 있다고 생각하지만 전체 이야기에서 몇 가지 문제가 되는 경향을 발견했습니다.명의 도용이나 표절과 같은 명백한 단점 없이 AI의 이점을 활용할 수 있는 간단한 방법이 있었지만 AI 개발은 너무 빨리 진행되어 사회는 어느 정도 기회를 그냥 지나쳐 버렸습니다.개별 연구실에서는 이를 수행할 수 있지만 경쟁에서 불리하게 되기 때문에 그렇게 하지 않을 것이며 모든 사람이 이를 수행하도록 할 수 있는 좋은 방법이 없을 가능성이 높습니다.

학교 표절 논쟁에서는 위험이 낮습니다.그러나 상업적 인센티브로 인해 기업의 자체 규제가 중단되고 변화의 속도로 인해 너무 늦을 때까지 외부 규제 기관의 개입이 중단되는 AI 워터마킹 논쟁에 반영된 것과 동일한 역동성이 여전히 문제로 남아 있을 것으로 보입니다.더 높아져라.