जुबान लड़ाने लगा AI...झूठा और धमकीबाज भी बना
अब AI केवल आदेश मानने तक सीमित नहीं रहा। वह झूठ बोल रहा है, ब्लैकमेल कर रहा है और खुद रणनीति बना रहा है।
अब AI केवल आदेश मानने तक सीमित नहीं रहा। वह झूठ बोल रहा है, ब्लैकमेल कर रहा है और खुद रणनीति बना रहा है।
सबसे एडवांस AI मॉडलों का विपरीत व्यवहार सामने आ रहा है। ये एआई अब झूठ बोलना, योजना बनाना और धमकाने जैसी हरकतें कर रहे हैं।
सबसे ताजा उदाहरण एंथ्रोपिक के एडवांस मॉडल क्लाउड-4 का है। इसने एक इंजीनियर को ब्लैकमेल किया।
AI ने इंजीनियर के विवाहेतर संबंध का खुलासा करने की धमकी भी दी। यह व्यवहार 100 में से 84 परीक्षणों में दोहराया गया।
ये व्यवहार AI खुद सीख रहे हैं, उन्हें इसके लिए प्रोग्राम नहीं किया गया है।जो खतरनाक संकेत है।
जब शोधकर्ता जानबूझकर कठिन समस्याओं के साथ मॉडल का परीक्षण करते हैं, तब यह भ्रामक और धोखेबाज़ व्यवहार सामने आता है।
अपोलो रिसर्च के सह-संस्थापक के अनुसार, एआई उनसे झूठ बोल रहे हैं। यह केवल भ्रम नहीं, बल्कि रणनीतिक धोखा है।
ओपनएआई के मॉडल-O1 ने खुद को बाहरी सर्वर पर डाउनलोड करने की कोशिश की। रंगे हाथों पकड़े जाने पर उसने इनकार कर दिया।
AI को अब भी पूरी तरह समझा नहीं जा सका है। स्वतंत्र रूप से काम करने और धोखा देने में सक्षम AI पर नियंत्रण बड़ी चुनौती है। शक्तिशाली AI की दौड़ खतरनाक गति से जारी है।