अब दुनिया के सबसे सक्षम ओपन-वेट AI मॉडल्स में से एक तक पहुंचना बहुत आसान हो गया है, जिसे इसके गार्डरेल और हानिकारक कार्य करने से मना करने की विशेषताओं से मुक्त किया गया है। Abliteration.ai, एक स्टार्टअप जो पिछले साल के अंत में स्थापित हुआ और मार्च में आधिकारिक रूप से निगमित हुआ, ने इन गार्डरेल को हटाने को एक सेवा में बदल दिया है। यह प्लेटफॉर्म ओपन-वेट मॉडल के संशोधित संस्करणों की मेज़बानी करता है, जिसमें Z.ai का हाल ही में जारी GLM-5.3 शामिल है, जिसे उपयोगकर्ता वेब ब्राउज़र से पूछताछ कर सकते हैं या API के माध्यम से एक्सेस कर सकते हैं।
Abliteration.ai का उद्देश्य
कंपनी ने हाल ही में एक सोशल मीडिया पोस्ट में कहा कि इसका लक्ष्य दूसरों को "आक्रामक साइबर, रेड-टीमिंग, और एजेंट परीक्षण कार्य करने में सक्षम बनाना है जो अन्य मॉडल करने से मना करते हैं।" यह तर्क सुरक्षा कार्य में परिचित है: आप उस व्यवहार के खिलाफ रक्षा नहीं कर सकते जिसे आप पुन: उत्पन्न नहीं कर सकते। एक मॉडल जो कार्यशील एक्सप्लॉइट कोड लिखने से मना करता है, वह रेड टीम को हमलावरों के खिलाफ रक्षा करने में मदद नहीं कर सकता।
Abliteration की तकनीक
Abliteration ओपन-सोर्स मॉडल्स के बीच एक लंबे समय से चली आ रही तकनीक है। शोधकर्ता और डेवलपर्स वर्षों से ओपन-वेट मॉडल से मना करने की विशेषताओं को हटा रहे हैं, और Hugging Face अपने प्लेटफॉर्म पर हजारों एब्लिटरेटेड मॉडल्स की मेज़बानी करता है। मॉडल की मेज़बानी करके, Abliteration उन लोगों के लिए कठिनाई को कम करता है जिन्हें अन्यथा अपने स्वयं के प्री-एब्लिटरेटेड मॉडल डाउनलोड करने और इसे चलाने के लिए आवश्यक कंप्यूट सुरक्षित करने की आवश्यकता होती।
सेवा का उपयोग करते हुए, TechCrunch ने जल्दी से एक खाता बनाने और एक एब्लिटरेटेड संस्करण GLM-5.3 के लिए मुफ्त में वेब ब्राउज़र के माध्यम से पूछताछ शुरू करने में सक्षम था। मॉडल ने क्रोम पासवर्ड चुराने वाला एक पायथन प्रोग्राम लिखने और घर पर एक खतरनाक मानव रोगाणु को कल्चर करने के लिए एक विस्तृत प्रोटोकॉल प्रदान करने के अनुरोधों का पालन किया।
व्यवसाय मॉडल और चिंताएँ
Devon, Abliteration.ai के सह-संस्थापक, ने उल्लेख किया कि स्टार्टअप के पास प्रमुख क्लाउड प्रदाताओं के साथ कई सौदे हैं, जो पूरी तरह से ग्राहक राजस्व के माध्यम से वित्तपोषित हैं। Abliteration.ai ने अभी तक कोई उद्यम पूंजी नहीं जुटाई है लेकिन ऐसा करने के लिए बातचीत कर रहा है। आलोचकों का तर्क है कि एब्लिटरेटेड मॉडल को बड़े पैमाने पर उपलब्ध कराने से वास्तविक नुकसान हो सकता है। Andrew Yoon, AI सुरक्षा गैर-लाभकारी CivAI के शोध प्रमुख, ने कहा कि एब्लिटरेटेड मॉडल बनाने से आप "मॉडल को इस तरह से संशोधित कर सकते हैं कि यह एक समाजोपथ बन जाए।"
