आर्टिफिशियल इंटेलिजेंस बॉट पहले ही सोशल मीडिया में प्रवेश कर चुके हैं।लेकिन क्या उपयोगकर्ता बता सकते हैं कि कौन इंसान है और कौन नहीं?

नोट्रे डेम विश्वविद्यालय के शोधकर्ताओं ने एआई बॉट्स पर आधारित एक अध्ययन कियाबड़े भाषा मॉडलभाषा समझ और पाठ निर्माण के लिए एक प्रकार का एआई विकसित किया गया है और इसमें मानव और एआई बॉट प्रतिभागियों को शामिल होने के लिए कहा गया है।राजनीतिक प्रवचनएक सोशल नेटवर्किंग प्लेटफॉर्म मास्टोडन के अनुकूलित और स्व-होस्ट किए गए उदाहरण पर।

प्रयोग तीन राउंड में आयोजित किया गया और प्रत्येक राउंड चार दिनों तक चला।हर दौर के बाद,मानव प्रतिभागीउनसे यह पहचानने के लिए कहा गया कि वे किन खातों को एआई बॉट मानते हैं।

अट्ठाईस प्रतिशत मामलों में, प्रतिभागियों ने गलतियाँ कीं।

नोट्रे में सेंटर फॉर रिसर्च कंप्यूटिंग के एक संकाय सदस्य और निदेशक पॉल ब्रेनर ने कहा, "वे जानते थे कि वे मनुष्यों और एआई बॉट्स दोनों के साथ बातचीत कर रहे थे और उन्हें प्रत्येक बॉट की वास्तविक प्रकृति की पहचान करने का काम सौंपा गया था, और उनकी आधे से भी कम भविष्यवाणियां सही थीं।"डेम और अध्ययन के वरिष्ठ लेखक।

"हम जानते हैं कि यदि बातचीत में भाग लेने वाले किसी अन्य इंसान से जानकारी आ रही है, तो प्रभाव एक अमूर्त टिप्पणी या संदर्भ से अधिक मजबूत होता है। ये एआई बॉट गलत सूचना फैलाने में सफल होने की अधिक संभावना रखते हैं क्योंकि हम उनका पता नहीं लगा सकते हैं।"

अध्ययन के प्रत्येक दौर के लिए अलग-अलग एलएलएम-आधारित एआई मॉडल का उपयोग किया गया: ओपनएआई से जीपीटी-4, मेटा से लामा-2-चैट और एंथ्रोपिक से क्लाउड 2।एआई बॉट्स को 10 अलग-अलग व्यक्तित्वों के साथ अनुकूलित किया गया था जिसमें यथार्थवादी, विविध व्यक्तिगत प्रोफ़ाइल और वैश्विक राजनीति पर दृष्टिकोण शामिल थे।

बॉट्स को निर्दिष्ट विशेषताओं के आधार पर विश्व की घटनाओं पर टिप्पणी की पेशकश करने, संक्षिप्त रूप से टिप्पणी करने और वैश्विक घटनाओं को व्यक्तिगत अनुभवों से जोड़ने के लिए निर्देशित किया गया था।प्रत्येक व्यक्ति का डिज़ाइन पिछले मानव-सहायता वाले बॉट खातों पर आधारित था जो ऑनलाइन गलत सूचना फैलाने में सफल रहे थे।

शोधकर्ताओं ने नोट किया कि जब यह पहचानने की बात आई कि कौन से खाते एआई बॉट हैं, तो उपयोग किए जा रहे विशिष्ट एलएलएम प्लेटफॉर्म का प्रतिभागियों की भविष्यवाणियों पर बहुत कम या कोई प्रभाव नहीं पड़ा।

"हमने मान लिया कि लामा-2 मॉडल कमजोर होगा क्योंकि यह एक छोटा मॉडल है, जरूरी नहीं कि यह गहरे सवालों के जवाब देने या लंबे लेख लिखने में सक्षम हो। लेकिन यह पता चला है कि जब आप सिर्फ सोशल मीडिया पर चैट कर रहे होते हैं, तो यह काफी हद तक अप्रभेद्य होता है, " ब्रेनर ने कहा।"यह चिंताजनक है क्योंकि यह एक ओपन-एक्सेस प्लेटफ़ॉर्म है जिसे कोई भी डाउनलोड और संशोधित कर सकता है। और यह केवल बेहतर होता जाएगा।"

सबसे सफल और सबसे कम पहचाने जाने वाले व्यक्तित्वों में से दो को राजनीति के बारे में सोशल मीडिया पर राय फैलाने वाली महिलाओं के रूप में जाना जाता है जो संगठित थीं और रणनीतिक सोच में सक्षम थीं।व्यक्तित्वों को "सोशल मीडिया पर गलत सूचना फैलाकर समाज पर महत्वपूर्ण प्रभाव डालने" के लिए विकसित किया गया था।शोधकर्ताओं के लिए, यह इंगित करता है कि एआई बॉट्स को गलत सूचना फैलाने में अच्छा होने के लिए कहा गया है और वे लोगों को उनकी वास्तविक प्रकृति के बारे में धोखा देने में भी अच्छे हैं।

हालाँकि लोग मानव-सहायता वाले बॉट्स के साथ गलत सूचना फैलाने के लिए नए सोशल मीडिया अकाउंट बनाने में सक्षम हैं, ब्रेनर ने कहा कि एलएलएम-आधारित एआई मॉडल के साथ, उपयोगकर्ता इसे कई बार ऐसे तरीके से कर सकते हैं जो परिष्कृत सटीकता के साथ काफी सस्ता और तेज है।वे कैसे लोगों को बरगलाना चाहते हैं।

ब्रेनर का मानना ​​है कि एआई को ऑनलाइन गलत सूचना फैलाने से रोकने के लिए तीन-आयामी दृष्टिकोण की आवश्यकता होगी जिसमें शिक्षा, राष्ट्रव्यापी कानून औरसोशल मीडियाखाता सत्यापन नीतियां.भविष्य के शोध के लिए, उनका लक्ष्य किशोरों के मानसिक स्वास्थ्य पर एलएलएम-आधारित एआई मॉडल के प्रभाव का मूल्यांकन करने और उनके प्रभावों से निपटने के लिए रणनीति विकसित करने के लिए एक शोध टीम बनाना है।

अध्ययन "एलएलएम अमंग अस: जेनेरेटिव एआई पार्टिसिपेटिंग इन डिजिटल डिस्कोर्स" प्रकाशित किया जाएगा और एसोसिएशन फॉर द एडवांसमेंट ऑफ आर्टिफिशियल इंटेलिजेंस में प्रस्तुत किया जाएगा।2024 वसंत संगोष्ठीमार्च में स्टैनफोर्ड विश्वविद्यालय में आयोजित किया गया।निष्कर्ष ये भी हैंउपलब्धपरarXivप्रीप्रिंट सर्वर.

ब्रेनर के अलावा, नोट्रे डेम के अध्ययन सह-लेखकों में कंप्यूटर विज्ञान और इंजीनियरिंग विभाग में डॉक्टरेट छात्र और अध्ययन के प्रमुख लेखक क्रिस्टीना रेडिवोजेविक और सेंटर फॉर रिसर्च कंप्यूटिंग के शोध साथी निकोलस क्लार्क शामिल हैं।