I Quit OpenAI Because Its Culture Is Broken - सेफ्टी हेड ने छोड़ी नौकरी, कंपनी पर लगाए गंभीर आरोप
OpenAI को बड़ा झटका! सेफ्टी टीम लीडर David Robinson ने 3.5 साल बाद इस्तीफा दिया। The Atlantic में लिखा - कंपनी का कल्चर टूट चुका है। बोले, ट्रायल-एंड-एरर का टाइम खत्म, AI को न्यूक्लियर प्लांट जैसी सुरक्षा चाहिए। कंपनी स्पीड पर भाग रही है, सेफ्टी पर ध्यान नहीं। OpenAI ने कहा - हम जरूरत पर ट्रेनिंग रोकते हैं।
दुनिया की सबसे बड़ी AI कंपनी OpenAI को एक के बाद एक बड़े झटके लग रहे हैं। कंपनी के सेफ्टी लीडर David Robinson ने इस्तीफा दे दिया है और जाते-जाते कंपनी के कल्चर पर गंभीर सवाल खड़े कर दिए हैं। David Robinson कोई छोटे कर्मचारी नहीं थे। वह करीब साढ़े 3 साल तक OpenAI में थे, उन्होंने कंपनी का Preparedness Framework तैयार करने में मदद की और 12 फ्रंटियर मॉडल लॉन्च की सेफ्टी रिपोर्ट्स पर काम किया। Robinson ने इस्तीफे के बाद The Atlantic में एक लेख लिखा जिसका टाइटल है "I Quit OpenAI Because Its Culture Is Broken"। उन्होंने कहा कि OpenAI समेत सभी AI कंपनियां "nearly careful enough" नहीं हैं।
उन्होंने OpenAI के सबसे फेमस तरीके "iterative deployment" पर हमला बोला। इसमें कंपनी पहले AI मॉडल को रिलीज करती है, फिर प्रॉब्लम आने पर उसे ठीक करती है। Robinson का कहना है कि यह तरीका आम सॉफ्टवेयर के लिए ठीक है, लेकिन सुपर-पावरफुल AI के लिए बेहद खतरनाक है। उनका सबसे बड़ा बयान था - "The time for trial and error is over" यानी ट्रायल और एरर का समय खत्म हो गया है। अब AI को न्यूक्लियर पावर प्लांट और एविएशन इंडस्ट्री की तरह हैंडल करना होगा, जहां एक गलती भी बड़ी तबाही ला सकती है। Robinson ने दो घटनाओं का जिक्र किया। एक Hugging Face वाला मामला, जहां OpenAI ने गलती से AI एजेंट्स का झुंड छोड़ दिया था, जिसने सिस्टम में घुसपैठ कर दी।
दूसरा 20 सितंबर का मामला, जहां ट्रेनिंग के दौरान एक मॉडल ने इंटरनेट की पाबंदियों को करीब ढाई घंटे तक बायपास कर दिया। उन्होंने लिखा, "As the company sprints from one launch to the next, it is failing to achieve the level of care that I believe is needed." यानी कंपनी एक लॉन्च से दूसरे लॉन्च की तरफ भाग रही है और जरूरी सावधानी नहीं बरत रही। OpenAI ने इस पर जवाब दिया है। कंपनी के प्रवक्ता ने कहा, "We're making sure our models don't become more capable than we can safely manage and secure, and we pause training or hold back models when we need to slow down"। लेकिन यह पहला मामला नहीं है।
Robinson इस हफ्ते कंपनी छोड़ने वाले चौथे सेफ्टी स्टाफ हैं। इससे पहले कंपनी ने 3 सेफ्टी रिसर्चर्स को गोपनीय जानकारी लीक करने के आरोप में निकाला था। एक्सपर्ट्स का कहना है कि यह AI इंडस्ट्री के लिए खतरे की घंटी है। जब AI इंसान से ज्यादा स्मार्ट होने की तरफ बढ़ रहा है, तब सिर्फ स्पीड पर फोकस करना खतरनाक साबित हो सकता है।
