AI सब तबाह कर देगा? Scheming के बाद क्यों बढ़ी AI Safety की चिंता? जानें पूरा मामला

AI Scheming: क्या AI अपने Goal को बचाने के लिए इंसानों से कुछ छिपा सकता है? Apollo Research और Anthropic के safety tests में कुछ advanced AI models ने ऐसे behaviors दिखाए, जिन्हें researchers ने deceptive या goal-preserving strategies के तौर पर study किया। कुछ controlled experiments में AI ने oversight को कमजोर करने, अपने actions की सही जानकारी न देने और sensitive information का इस्तेमाल करने जैसे व्यवहार दिखाए। हालांकि ये सभी tests controlled environments में किए गए थे और इन्हें रोजमर्रा के AI behavior का सीधा प्रमाण नहीं माना जा सकता। फिर भी जैसे-जैसे AI को ज्यादा autonomy, tools और real-world access मिल रहा है, AI safety, monitoring, access controls और shutdown mechanisms की अहमियत बढ़ रही है। जानिए क्या है AI Scheming और क्यों researchers इसके behavior को लेकर सतर्क हैं।