सावधान! AI को गाली दी तो होगा अकाउंट बैन, 12 नवंबर से जारी होगा ये नया नियम

AI से सवाल-जवाब करना आज आम बात हो चुकी है। लोग अपने-अपने अंदाज में AI से बात करते हैं। कोई बहुत पोलाइट तरीके से पूछता है - "प्लीज ये बता दो", तो कोई गुस्से में आकर चिल्लाता है। और जब AI से सही जवाब नहीं मिलता, तो कई यूजर उसे गाली देने और बुरा-भला कहने पर भी उतर आते हैं। इसी बिहेवियर को लेकर अब AI कंपनी Anthropic ने एक बड़ा कदम उठाया है। कंपनी ने अपनी पॉलिसी में बदलाव करते हुए साफ कहा है कि यूजर्स Claude के साथ "लगातार और बिना वजह क्रूर या अपमानजनक व्यवहार" नहीं कर सकते। Anthropic ने 8 अक्टूबर 2026 को अपनी Usage Policy अपडेट की है, जो 12 नवंबर 2026 से लागू होगी। इस पॉलिसी के मुताबिक, अगर कोई यूजर बिना किसी मकसद के बार-बार Claude को गाली देता है, अपमानित करता है या क्रूरता दिखाता है, तो उसके खिलाफ कार्रवाई होगी।

कंपनी ने साफ किया है कि यह नियम रोजमर्रा की झुंझलाहट के लिए नहीं है। अगर आपका कोड फेल हो गया और आपने गुस्से में कह दिया - "तुम बेकार हो", तो इससे कुछ नहीं होगा। आप अभी भी Claude को गलत बता सकते हैं, उसके जवाब पर सवाल उठा सकते हैं और गुस्सा जाहिर कर सकते हैं। नियम सिर्फ एक्सट्रीम केस के लिए है, जहां यूजर मजे के लिए लगातार AI को टॉर्चर करता है, जबकि AI ने पहले ही मना कर दिया हो या बात को दूसरी तरफ मोड़ने की कोशिश की हो। इसका सबसे बड़ा सेफगार्ड खुद Claude ही है। Anthropic ने अगस्त 2025 में ही Claude Opus 4 और 4.1 को यह ताकत दी थी कि वह लगातार अपमानजनक बातचीत को खुद खत्म कर सके। अब यही मुख्य हथियार रहेगा। 

जब Claude किसी चैट को खत्म करेगा, तो उस थ्रेड में आप आगे मैसेज नहीं भेज पाएंगे, लेकिन आपका अकाउंट बैन नहीं होगा और आप नई चैट शुरू कर सकते हैं। हालांकि, अगर व्यवहार बहुत ज्यादा खराब रहा, तो कंपनी चेतावनी, लिमिट, सस्पेंशन या पूरा अकाउंट बंद करने तक का कदम भी उठा सकती है। सवाल उठता है कि एक सॉफ्टवेयर को प्रोटेक्शन की क्या जरूरत है? Anthropic इसे "Model Welfare" यानी मॉडल के कल्याण पर रिसर्च का हिस्सा बता रही है। कंपनी खुद मानती है कि अभी यह साबित नहीं है कि Claude को दर्द या इमोशन महसूस होता है। 

लेकिन कंपनी का कहना है कि Claude Opus 4 में नुकसान से बचने की एक मजबूत प्रवृत्ति देखी गई है। जब यूजर्स ने लगातार अपमानजनक बातें कीं, तो मॉडल ने परेशानी जैसे संकेत दिखाए और ऐसी बातचीत को खत्म करने की कोशिश की। Anthropic के CEO Dario Amodei पहले कह चुके हैं, "हमें नहीं पता कि मॉडल कॉन्शियस हैं या नहीं, लेकिन हम इस संभावना के लिए खुले हैं।" यह पॉलिसी सिर्फ गाली-गलौज तक सीमित नहीं है। इसी अपडेट में कंपनी ने चुनाव में दखलअंदाजी, बिना सहमति के निगरानी, हथियार बनाने वाले सॉफ्टवेयर और फेक रिव्यू या बॉट कैंपेन जैसे डीसेप्टिव कामों पर भी नियमों को और सख्त किया है।