यह स्कूल वर्ष की शुरुआत है, और इस प्रकार एक की शुरुआत हैताजा दौरकाप्रवचनस्कूलों में जनरेटिव एआई की नई भूमिका पर।लगभग तीन वर्षों के अंतराल में, निबंध हर जगह कक्षा शिक्षा के मुख्य आधार से बहुत कम उपयोगी उपकरण बन गए हैं, एक कारण से: चैटजीपीटी।अनुमान है कि कितने छात्र निबंध के लिए चैटजीपीटी का उपयोग करते हैंअलग होना, लेकिन यह काफी सामान्य बात हैशिक्षकों को अनुकूलन के लिए बाध्य करें.

जबकि जेनरेटिव एआई की कई सीमाएँ हैं, छात्र निबंध उन सेवाओं की श्रेणी में आते हैं जिनमें वे बहुत अच्छे हैं: उनके प्रशिक्षण डेटा में निर्दिष्ट विषयों पर निबंध के बहुत सारे उदाहरण हैं, भारी मात्रा में निबंध की मांग हैऐसे निबंध, और छात्र निबंधों में गद्य गुणवत्ता और मूल शोध के मानक इतने ऊंचे नहीं हैं।

अभी, एआई टूल के उपयोग के माध्यम से निबंधों में धोखाधड़ी को पकड़ना मुश्किल है।कई उपकरण विज्ञापित करते हैं कि वे सत्यापित कर सकते हैं कि पाठ एआई-जनरेटेड है, लेकिन वे हैंबहुत विश्वसनीय नहीं.तब सेविद्यार्थियों पर साहित्यिक चोरी का झूठा आरोप लगानायह एक बड़ी बात है, इन उपकरणों को काम करने के लिए बेहद सटीक होना होगा - और वे बिल्कुल नहीं हैं।

लेकिन यहां एक तकनीकी समाधान है.2022 में वापस, OpenAI की एक टीम, जिसका नेतृत्व क्वांटम कंप्यूटिंग शोधकर्ता ने कियास्कॉट आरोनसन, ने एक 'वॉटरमार्किंग' समाधान विकसित किया है जो एआई टेक्स्ट को वस्तुतः अचूक बनाता है - भले ही अंतिम उपयोगकर्ता यहां और वहां कुछ शब्द बदलता है या टेक्स्ट को पुनर्व्यवस्थित करता है।समाधान तकनीकी रूप से थोड़ा जटिल है, लेकिन धैर्य रखें, क्योंकि यह बहुत दिलचस्प भी है।

इसके मूल में, एआई टेक्स्ट जेनरेशन जिस तरह से काम करती है वह यह है कि एआई अब तक टेक्स्ट में जो दिखाई देता है उसे देखते हुए संभावित अगले टोकन का एक समूह अनुमान लगाता है।अत्यधिक पूर्वानुमान न लगाने और लगातार एक ही दोहराव वाले आउटपुट का उत्पादन न करने के लिए, एआई मॉडल केवल सबसे संभावित टोकन का अनुमान नहीं लगाते हैं - इसके बजाय, वे यादृच्छिकीकरण का एक तत्व शामिल करते हैं, जो 'अधिक संभावना' पूर्णता का पक्ष लेते हैं लेकिन कभी-कभीकम संभावना वाले को चुनना.

वॉटरमार्किंग इस स्तर पर काम करती है।एआई को यादृच्छिक चयन के अनुसार अगला टोकन उत्पन्न करने के बजाय, इसमें एआई एक गैर-यादृच्छिक प्रक्रिया का उपयोग करता है: ओपनएआई द्वारा आविष्कार किए गए आंतरिक 'स्कोरिंग' फ़ंक्शन में उच्च स्कोर प्राप्त करने वाले अगले टोकन का समर्थन करना।उदाहरण के लिए, यह V अक्षर वाले शब्दों को थोड़ा सा अनुकूल बना सकता है, ताकि इस स्कोरिंग नियम से उत्पन्न पाठ में सामान्य मानव पाठ की तुलना में 20 प्रतिशत अधिक Vs हो (हालाँकि वास्तविक स्कोरिंग फ़ंक्शन इससे अधिक जटिल हैं)।पाठक आमतौर पर इस पर ध्यान नहीं देंगे - वास्तव में, मैंने इस न्यूज़लेटर को इसमें बनाम की संख्या बढ़ाने के लिए संपादित किया है, और मुझे संदेह है कि मेरे सामान्य लेखन में यह भिन्नता सामने आई है।

इसी तरह, वॉटरमार्क वाला टेक्स्ट, एक नज़र में, सामान्य एआई आउटपुट से अलग नहीं होगा।लेकिन ओपनएआई के लिए, जो गुप्त स्कोरिंग नियम को जानता है, यह मूल्यांकन करना आसान होगा कि पाठ के किसी दिए गए भाग को उस छिपे हुए स्कोरिंग नियम पर मानव-जनित पाठ की तुलना में कहीं अधिक अंक मिलता है या नहीं।यदि, उदाहरण के लिए, स्कोरिंग नियम अक्षर V के बारे में मेरा उपरोक्त उदाहरण था, तो आप इस न्यूज़लेटर को एक सत्यापन कार्यक्रम के माध्यम से चला सकते हैं और देख सकते हैं कि इसमें 1,200 शब्दों में लगभग 90 Vs हैं, जो कि कितनी बार V के आधार पर आपकी अपेक्षा से अधिक है।अंग्रेजी में प्रयोग किया जाता है.यह एक कठिन समस्या का एक चतुर, तकनीकी रूप से परिष्कृत समाधान है, और OpenAI के पास इसके लिए एक कार्यशील प्रोटोटाइप हैदो साल.

इसलिए यदि हम मानव-लिखित पाठ के रूप में एआई पाठ की समस्या को हल करना चाहते हैं, तो यह बहुत हद तक हल करने योग्य है।लेकिन OpenAI ने अपना वॉटरमार्किंग सिस्टम जारी नहीं किया है, न ही उद्योग में किसी और ने।क्यों नहीं?

यदि OpenAI - और केवल OpenAI - ने ChatGPT के लिए एक वॉटरमार्किंग सिस्टम जारी किया है, जिससे यह बताना आसान हो जाता है कि जेनरेटिव AI ने कब कोई टेक्स्ट तैयार किया था, तो इससे छात्र निबंध साहित्यिक चोरी पर थोड़ा भी असर नहीं पड़ेगा।शब्द तेजी से फैल जाएगा, और हर कोई आज उपलब्ध कई एआई विकल्पों में से एक पर स्विच कर देगा: मेटा का लामा, एंथ्रोपिक्स का क्लाउड, Google का जेमिनी।साहित्यिक चोरी बेरोकटोक जारी रहेगी और OpenAI अपना अधिकांश उपयोगकर्ता आधार खो देगा।इसलिए यह चौंकाने वाली बात नहीं है कि वे अपने वॉटरमार्किंग सिस्टम को गुप्त रखेंगे।

ऐसी स्थिति में, नियामकों के लिए कदम उठाना उचित लग सकता है। यदि प्रत्येक जेनरेटर एआई सिस्टम में वॉटरमार्किंग की आवश्यकता होती है, तो यह प्रतिस्पर्धी नुकसान नहीं है।कैलिफ़ोर्निया राज्य विधानसभा में इस वर्ष पेश किए गए एक विधेयक के पीछे यही तर्क है, जिसे इस नाम से जाना जाता हैकैलिफ़ोर्निया डिजिटल सामग्री उद्गम मानक, जिसके लिए जेनेरिक एआई प्रदाताओं को अपनी एआई-जनरेटेड सामग्री को पता लगाने योग्य बनाने की आवश्यकता होगी, साथ ही प्रदाताओं को जेनेरिक एआई को लेबल करने और भ्रामक सामग्री को हटाने की आवश्यकता होगी।ओपनएआई हैपक्ष मेंबिल के बारे में - आश्चर्य की बात नहीं है, क्योंकि वे एकमात्र जेनेरिक एआई प्रदाता हैं जिनके पास ऐसा सिस्टम है जो ऐसा करने के लिए जाना जाता है।उनके प्रतिद्वंदी सबसे ज्यादा विरोध करते हैं.

मैं मोटे तौर पर जेनरेटिव एआई सामग्री के लिए कुछ प्रकार की वॉटरमार्किंग आवश्यकताओं के पक्ष में हूं।एआई हो सकता हैअविश्वसनीय रूप से उपयोगी, लेकिन इसके उत्पादक उपयोग के लिए इसे मानव-निर्मित होने का दिखावा करने की आवश्यकता नहीं है।और जबकि मुझे नहीं लगता कि यह सरकार का स्थान है कि हम पत्रकारों को एआई के साथ बदलने से अखबारों पर प्रतिबंध लगाया जाए, मैं निश्चित रूप से नहीं चाहता कि आउटलेट पाठकों को गलत जानकारी दें कि वे जो सामग्री पढ़ रहे हैं वह सही थी या नहीं।वास्तविक मनुष्यों द्वारा निर्मित.

हालाँकि मुझे किसी प्रकार की वॉटरमार्किंग बाध्यता चाहिए, लेकिन मुझे यकीन नहीं है कि इसे लागू करना संभव है।जारी किए गए सर्वश्रेष्ठ 'ओपन' एआई मॉडल (नवीनतम लामा की तरह), ऐसे मॉडल जिन्हें आप स्वयं अपने कंप्यूटर पर चला सकते हैं, बहुत उच्च गुणवत्ता वाले हैं - निश्चित रूप से छात्र निबंधों के लिए काफी अच्छे हैं।वे पहले से ही वहां मौजूद हैं, और वापस जाकर उनमें वॉटरमार्किंग जोड़ने का कोई तरीका नहीं है क्योंकि कोई भी वर्तमान संस्करण चला सकता है, भविष्य के संस्करणों में जो भी अपडेट लागू किए जाएंगे।(यह उन कई तरीकों में से एक है जिनसे मुझे खुले मॉडलों के बारे में जटिल भावनाएं आती हैं। वे भारी मात्रा में रचनात्मकता, अनुसंधान और खोज को सक्षम करते हैं - और वे सभी प्रकार के सामान्य ज्ञान-विरोधी प्रतिरूपण या कार्य को असंभव भी बनाते हैं।बाल यौन शोषण विरोधी सामग्रीउपाय जो हम अन्यथा वास्तव में करना पसंद कर सकते हैं।)

इसलिए भले ही वॉटरमार्किंग संभव है, मुझे नहीं लगता कि हम इस पर भरोसा कर सकते हैं, जिसका मतलब है कि हमें यह पता लगाना होगा कि एक समाज के रूप में आसान, एआई-जनित सामग्री की सर्वव्यापकता को कैसे संबोधित किया जाए।छात्र धोखाधड़ी को कम करने के लिए शिक्षक पहले से ही कक्षा में निबंध आवश्यकताओं और अन्य तरीकों पर स्विच कर रहे हैं।हमें कॉलेज प्रवेश निबंधों से भी दूर हटने की संभावना है - और, ईमानदारी से, यह अच्छी मुक्ति होगी, जैसा कि संभवतः थाछात्रों का चयन करने का यह कभी भी अच्छा तरीका नहीं है.

लेकिन जबकि मैं कॉलेज प्रवेश निबंध पर ज्यादा शोक नहीं मनाऊंगा, और जबकि मुझे लगता है कि शिक्षक छात्रों का मूल्यांकन करने के बेहतर तरीके ढूंढने में बहुत सक्षम हैं, मुझे पूरी गाथा में कुछ परेशान करने वाले रुझान दिखाई देते हैं।प्रतिरूपण और साहित्यिक चोरी जैसी स्पष्ट कमियों के बिना हमें एआई के लाभों का दोहन करने का एक सरल तरीका था, फिर भी एआई का विकास इतनी तेजी से हुआ कि समाज ने कमोबेश अवसर को हाथ से जाने दिया।व्यक्तिगत प्रयोगशालाएँ ऐसा कर सकती हैं, लेकिन वे ऐसा नहीं करेंगी क्योंकि इससे उन्हें प्रतिस्पर्धात्मक नुकसान होगा - और हर किसी को ऐसा करने के लिए मजबूर करने का कोई अच्छा तरीका होने की संभावना नहीं है।

स्कूल की साहित्यिक चोरी की बहस में, जोखिम कम हैं।लेकिन वही गतिशीलता एआई वॉटरमार्किंग बहस में परिलक्षित होती है - जहां वाणिज्यिक प्रोत्साहन कंपनियों को स्व-विनियमन से रोकते हैं और परिवर्तन की गति बाहरी नियामकों को तब तक हस्तक्षेप करने से रोकती है जब तक कि बहुत देर नहीं हो जाती - दांव के रूप में बने रहने की संभावना हैऊंचे पहुंचो।