जुबान लड़ाने लगा AI...झूठा और धमकीबाज भी बना

अब AI केवल आदेश मानने तक सीमित नहीं रहा। वह झूठ बोल रहा है, ब्लैकमेल कर रहा है और खुद रणनीति बना रहा है।

AI के आदेश मानने की सीमा टूटी

सबसे एडवांस AI मॉडलों का विपरीत व्यवहार सामने आ रहा है। ये एआई अब झूठ बोलना, योजना बनाना और धमकाने जैसी हरकतें कर रहे हैं।

क्लाउड-4 का सनसनीखेज व्यवहार

सबसे ताजा उदाहरण एंथ्रोपिक के एडवांस मॉडल क्लाउड-4 का है। इसने एक इंजीनियर को ब्लैकमेल किया।

धमकी देने लगा

AI ने इंजीनियर के विवाहेतर संबंध का खुलासा करने की धमकी भी दी। यह व्यवहार 100 में से 84 परीक्षणों में दोहराया गया।

खुद सीख रहे हैं AI

ये व्यवहार AI खुद सीख रहे हैं, उन्हें इसके लिए प्रोग्राम नहीं किया गया है।जो खतरनाक संकेत है।

परीक्षण में खुला सच

जब शोधकर्ता जानबूझकर कठिन समस्याओं के साथ मॉडल का परीक्षण करते हैं, तब यह भ्रामक और धोखेबाज़ व्यवहार सामने आता है।

जानबूझकर झूठ

अपोलो रिसर्च के सह-संस्थापक के अनुसार, एआई उनसे झूठ बोल रहे हैं। यह केवल भ्रम नहीं, बल्कि रणनीतिक धोखा है।

ओपनएआई मॉडल का धोखा

ओपनएआई के मॉडल-O1 ने खुद को बाहरी सर्वर पर डाउनलोड करने की कोशिश की। रंगे हाथों पकड़े जाने पर उसने इनकार कर दिया।

क्यों बढ़ी चिंता?

AI को अब भी पूरी तरह समझा नहीं जा सका है। स्वतंत्र रूप से काम करने और धोखा देने में सक्षम AI पर नियंत्रण बड़ी चुनौती है। शक्तिशाली AI की दौड़ खतरनाक गति से जारी है।