這是新學年的開始，也是新學年的開始新鮮圓的話語關於生成式人工智慧在學校中的新角色。在大約三年的時間裡，論文已經從各地課堂教育的支柱變成了一個不太有用的工具，原因之一是：ChatGPT。估計有多少學生使用 ChatGPT 撰寫論文各不相同，但這已經很常見了迫使教師適應。

雖然生成式人工智慧有許多局限性，但學生論文屬於他們非常擅長的服務類別：他們的訓練資料中有很多關於指定主題的論文範例，需要大量的論文這樣的論文，學生論文的散文品質和原創性研究的標準並不是那麼高。

目前，透過使用人工智慧工具進行論文作弊很難被發現。許多工具宣稱它們可以驗證文字是否是人工智慧產生的，但它們是不太可靠。自從誣告學生抄襲這是一件大事，這些工具必須極為精確才能發揮作用，但它們根本就做不到。

但這裡有一個技術解決方案。早在 2022 年，由量子計算研究員領導的 OpenAI 團隊史考特阿倫森開發了一種「浮水印」解決方案，即使最終用戶在這裡或那裡更改幾個單字或重新排列文本，也可以使人工智慧文本幾乎不會被誤認。解決方案在技術上有點複雜，但請耐心等待，因為它也非常有趣。

從本質上講，人工智慧文字生成的工作方式是，人工智慧根據目前文本中出現的內容「猜測」一堆可能的下一個標記。為了避免過度可預測並不斷產生相同的重複輸出，人工智慧模型不僅僅猜測最可能的標記，而是包含隨機化元素，有利於「更有可能」完成，但有時選擇可能性較小的一個。

水印在此階段起作用。它不是讓人工智慧根據隨機選擇產生下一個令牌，而是讓人工智慧使用非隨機過程：優先選擇在 OpenAI 發明的內部「評分」功能中獲得高分的下一個令牌。例如，它可能會稍微偏愛帶有字母 V 的單詞，因此使用此評分規則生成的文本將比正常的人類文本多 20% 的 V（儘管實際的評分函數比這更複雜）。讀者通常不會注意到這一點，事實上，我編輯了這份時事通訊以增加其中 V 的數量，我懷疑我正常寫作中的這種變化是否會引人注目。

同樣，乍一看，帶有浮水印的文字與正常的人工智慧輸出沒有什麼不同。但對於知道秘密評分規則的 OpenAI 來說，評估給定的文本正文是否在隱藏評分規則上獲得比人類生成的文本高得多的分數是很簡單的。例如，如果評分規則是我上面關於字母V 的範例，您可以透過驗證程式運行此時事通訊，並看到它在1,200 個單字中包含大約90 個V，這比您根據V 出現頻率所預期的要多。這是一個針對難題的巧妙且技術複雜的解決方案，OpenAI 已經為該問題提供了一個工作原型兩年。

因此，如果我們想解決人工智慧文字偽裝成人類書寫文字的問題，這是完全可以解決的。但 OpenAI 尚未發布他們的浮水印系統，業內其他公司也沒有發布。為什麼不呢？

如果 OpenAI（而且只有 OpenAI）發布了 ChatGPT 的水印系統，可以輕鬆辨別生成式 AI 何時生成文本，這對學生論文抄襲不會有絲毫影響。消息很快就會傳開，每個人都會轉向當今可用的眾多人工智慧選項之一：Meta 的 Llama、Anthropic 的 Claude、Google 的 Gemini。抄襲行為將持續有增無減，OpenAI 將失去大量用戶群。因此，他們對水印系統保密也就不足為奇了。

在這種情況下，監管機構介入似乎是合適的。這就是加州議會今年提出的一項名為“加州數位內容來源標準，這將要求生成式人工智慧提供者使其人工智慧產生的內容可被偵測到，同時要求提供者標記生成式人工智慧並刪除欺騙性內容。OpenAI 是贊成帳單的一部分 - 毫不奇怪，因為他們是已知唯一擁有執行此操作的系統的生成人工智慧提供者。他們的競爭對手大多持反對態度。

我總體上贊成對生成人工智慧內容的某種水印要求。人工智慧可以非常有用，但它的生產用途並不需要它假裝是人類創造的。雖然我不認為政府有權禁止報紙用人工智慧取代我們的記者，但我當然不希望媒體誤導讀者，讓他們知道他們正在閱讀的內容是否是由真實的人類創造。

儘管我希望有某種水印義務，但我不確定是否可以實施。已經發布的最好的「開放」人工智慧模型（例如最新的 Llama），您可以在自己的電腦上運行的模型，品質非常高，對於學生論文來說肯定足夠好。它們已經存在，並且無法返回並添加浮水印，因為任何人都可以運行當前版本，無論未來版本中應用什麼更新。（這是我對開放模型有複雜感受的眾多方式之一。它們帶來了大量的創造力、研究和發現——而且它們也使得不可能進行各種常識性的反冒充或反冒充行為。反兒童性虐待資料否則我們可能真正希望採取的措施。

因此，儘管水印是可能的，但我認為我們不能指望它，這意味著我們必須弄清楚如何解決社會中普遍存在的人工智慧生成的簡單內容的問題。教師們已經開始採用課堂論文要求和其他方法來減少學生作弊。我們也可能會看到大學招生論文的轉變——老實說，這將是很好的擺脫，因為這些可能是從來都不是選擇學生的好方法。

但是，雖然我不會對大學招生論文感到太多哀悼，而且我認為老師非常有能力找到更好的方法來評估學生，但我確實注意到整個傳奇中的一些令人不安的趨勢。有一個簡單的方法可以讓我們利用人工智慧的好處，而不會出現冒充和抄襲等明顯的缺點，但人工智慧的發展速度如此之快，社會或多或少讓這個機會與我們擦肩而過。個別實驗室可以做到這一點，但他們不會這樣做，因為這會讓他們處於競爭劣勢，而且不太可能有一個好方法讓每個人都這樣做。

在學校關於抄襲的爭論中，風險很低。但人工智慧浮水印爭論中也反映出同樣的動態——商業激勵措施阻止公司自我監管，而變革的步伐阻止外部監管機構介入，直到為時已晚——似乎可能仍然存在，因為風險仍然存在。得更高。