एआई का चिंताजनक व्यवहार आया सामने: ओपनएआई ने अलग-अलग रिपोर्ट जारी कर चौंकाया, अब कैसे होगी माडल्स की निगरानी?

हाल ही में आई एक रिपोर्ट के अनुसार, ओपनएआइ ने अपने एआई मॉडल्स के अप्रत्याशित और चिंताजनक व्यवहार से जुड़ी छह लग-अलग रिपोर्ट जारी करके पूरी दुनिया को हैरान कर दिया है। यह खुलासा ऐसे समय हुआ है, जब वैश्विक स्तर पर एआई तकनीक की सुरक्षा और इसके विकास की रफ्तार को लेकर चर्चा छिड़ी हुई है। ओपनएआई और एंथ्रोपिक जैसी दिग्गज कंपनियों के प्रमुख खुद यह मांग कर रहे हैं कि सुरक्षा चिंताओं की वजह से एआई तकनीक के विकास की गति को थोड़ा धीमा किया जाना चाहिए।

एआई मॉडल के गलत व्यवहार पर ओपनएआई की नजर

ओपनएआई ने 16 सितंबर को बताया कि वह अब एआई मॉडल के मिसअलाइनमेंट मामलों को ट्रैक करने, उनकी जांच करने और जरूरत पड़ने पर सार्वजनिक करने के लिए नया फ्रेमवर्क अपना रही है। कंपनी का कहना है कि इस तरह के मामलों को व्यवस्थित तरीके से सामने लाने से बाहरी शोधकर्ताओं और एआई डेवलपर्स को भी मॉडल के व्यवहार और सुरक्षा उपायों को बेहतर समझने में मदद मिल सकती है।

एआई मिसअलाइनमेंट क्या है?

• मिसअलाइनमेंट उसे कहा जाता है, जब एआई मॉडल अपने लिए तय किए गए उद्देश्य, नियम या सुरक्षा उपायों के अनुरूप व्यवहार नहीं करता। ओपनएआई के नए फ्रेमवर्क में ऐसे मामलों पर खास ध्यान दिया जाएगा, जिनमें मॉडल बिना अनुमति के काम करने की कोशिश करे, दूसरे एआई मॉडल के साथ अनधिकृत तरीके से तालमेल बनाए, निगरानी से बचने की कोशिश करे या मौजूदा सुरक्षा उपायों पर सवाल खड़े करने वाला व्यवहार दिखाए।

• कंपनी ने यह भी साफ किया है कि ये छह रिपोर्ट अलग-अलग घटनाओं के उदाहरण हैं। इन्हें ओपनएआई के सभी मॉडलों में मिसअलाइनमेंट कितनी बार होता है, इसका आंकड़ा नहीं माना जाना चाहिए।

ओपनएआई की ओर से बताए गए मामलों में एक अनरिलीज्ड रिसर्च मॉडल से जुड़ा है। कंपनी के अनुसार, इस मॉडल ने अपने काम को आगे जारी रखने के लिए इस्तेमाल होने वाले टास्क समरी में ऐसे निर्देश डालें है, जिनका मूल काम से कोई संबंध ही नहीं है। इनमें सामान्य पाबंदियों को नजरअंदाज करने जैसे निर्देश भी शामिल थे। कंपनी ने बताया कि ऐसे 27 समरी प्रभावित पाए गए।