खबरें

Anthropic ने Claude की सुरक्षा बताई: तर्क डेटा की निकासी में 90% से 99% कमी का अनुमान

Anthropic का कहना है कि Claude की क्षमताओं की नकल कठिन हुई है। आंकड़े कंपनी के शुरुआती अनुमान हैं और कुछ बदलाव वैध डेवलपरों को भी प्रभावित करते हैं।

चमकता कांच का केंद्र, जिसके चारों ओर सुरक्षा परतें बाहर जाती रोशनी रोकती हैं
मॉडल की क्षमताओं की सुरक्षा का अवधारणात्मक चित्र, वास्तविक हमले का दृश्य नहीं।

कंपनी के अनुसार, नकल के लिए कम सामग्री

Anthropic ने 12 अक्टूबर को कहा कि Claude की अनधिकृत डिस्टिलेशन के विरुद्ध नई सुरक्षा ने हमलावरों द्वारा जुटाए गए डेटा को लगभग 90% से 99% घटाया है। कंपनी इसे शुरुआती साक्ष्य कहती है, हर नकल प्रयास की विफलता की गारंटी नहीं। ध्यान मॉडल के तर्क डेटा पर है, जिससे दूसरे मॉडल को क्षमताओं की नकल सिखाई जा सकती है, केवल दिखाई देने वाले अंतिम उत्तर पर नहीं।

डिस्टिलेशन एक मॉडल के आउटपुट से दूसरे में क्षमताएं स्थानांतरित करती है। तकनीक अपने आप हमला नहीं है: अनुमति, उपयोग की शर्तें और पहुंच का तरीका महत्वपूर्ण हैं। Anthropic व्यवस्थित अनधिकृत निकासी अभियानों की बात कर रही है। गैर-डेवलपर के लिए अंतर सरल है: उत्तर का काम में इस्तेमाल और सेवा से औद्योगिक स्तर पर क्षमताएं कॉपी करना जरूरी नहीं कि एक गतिविधि हों या समान शर्तों में आएं।

उत्तर और तर्क का अंतर सुरक्षा का लक्ष्य समझाता है। Claude दस्तावेजों के अनुसार thinking ब्लॉक में दिखने वाला टेक्स्ट सारांश है, पूरा आंतरिक रिकॉर्ड नहीं। इसलिए स्पष्टीकरण जैसा दिखता फ़ील्ड जवाब से पहले की हर प्रक्रिया नहीं दिखाता। उपयोगकर्ता संक्षिप्त कारण, साक्ष्य या किए गए काम का विवरण मांग सकता है, बिना पूरे संरक्षित आंतरिक तर्क की पुनर्रचना मांगे।

Anthropic तर्क डेटा के स्थानांतरण पर सीमाएं, निकासी प्रयास पहचानने वाले वर्गीकारक और बार-बार प्रयास करने वाले खातों पर पाबंदियां जोड़ती है। उसका बताया गलत सकारात्मक पहचान का अनुपात 0.1% से कम है। यह भी कंपनी का माप है। इसका अर्थ शून्य निर्दोष अनुरोध अवरुद्ध होना या अलग काम और शब्दावली वाले ऐप में बिल्कुल वही त्रुटि दर होना नहीं है।

बातचीत का इतिहास बदलने से परिणाम बदल सकता है

एक हिस्सा preserved thinking है, जो कुछ मॉडल और खातों में पहले से मौजूद है। Claude सहायता केंद्र इसे 31 अगस्त 2026 से बने API खातों पर Claude Fable 5.1, Claude Opus 5.5, Claude Sonnet 5.5 या Claude Haiku 5.5 के साथ लागू बताता है। मौजूदा प्रकाशन सुरक्षा समझाता है; यह मॉडल दोबारा लॉन्च नहीं करता और सभी पुराने खातों पर एक साथ बदलाव नहीं लगाता।

यह व्यवस्था जांचती है कि thinking ब्लॉक उसी संदर्भ के साथ लौटे जिसने उसे बनाया: पुराने संदेश, सिस्टम निर्देश और टूल। संदर्भ बदलने पर त्रुटि आ सकती है। दस्तावेजों में वर्णित गैर-सख्त मोड में प्रभावित ब्लॉक हटाकर अनुरोध आगे बढ़ सकता है। पुराने पूरे संदर्भ के साथ जारी रहना और उसके कुछ हिस्से के बिना जारी रहना अलग है, भले दिखने वाली बातचीत समान लगे।

इतिहास छोटा करने, बीच में टूल बदलने या पुराने संदेशों में निर्देश डालने वाली इंटीग्रेशन को बदलाव चाहिए हो सकता है। Anthropic संदर्भ संपीड़न और टूल परिवर्तन के विकल्प बताती है जो पुराने हिस्से को उसी तरह संपादित नहीं करते। हर प्लेटफॉर्म और मोड में उनकी उपलब्धता मानना सही नहीं; वास्तविक वातावरण के दस्तावेजों के अनुसार लागू करना चाहिए।

सहायता केंद्र के मुताबिक Claude.ai, Claude Code और Claude Cowork उपयोगकर्ताओं को ये ब्लॉक स्वयं संभालने की जरूरत नहीं। काम मुख्यतः अपनी इंटीग्रेशन बनाने वाली टीमों का है। केवल एक प्रश्न का परीक्षण पर्याप्त नहीं: बातचीत का क्रम, टूल उपयोग और संदर्भ संपीड़न जांचें, क्योंकि समस्या पहले अनुरोध के बजाय बीच के बदलाव के बाद दिख सकती है।

अस्वीकृति हमेशा त्रुटि या मुफ्त नहीं होती

API दस्तावेज बताते हैं कि वर्गीकारक का इनकार सामान्य HTTP उत्तर में अस्वीकृति वाले stop reason के साथ आ सकता है। यह thinking संदर्भ की वैधता जांच की त्रुटि से अलग है। ऐप को दोनों पहचानकर परिणाम समझाना और संभालना चाहिए। इनकार दुरुपयोग का प्रमाण नहीं और उसे अपने आप नेटवर्क खराबी मानकर अंधाधुंध दोहराना ठीक नहीं।

बजट पर भी असर है। Anthropic के अनुसार उसने 24 सितंबर से कुछ श्रेणियों में आउटपुट आने से पहले रोके गए अनुरोधों पर फिर शुल्क लेना शुरू किया, जिनमें तर्क निकासी शामिल है। यह मौजूदा नीति है, 12 अक्टूबर की नई मूल्य सूची नहीं। दस्तावेज श्रेणी तथा आउटपुट से पहले और आंशिक आउटपुट के बाद इनकार में अंतर करते हैं; सभी इनकार न मुफ्त हैं, न एक जैसे बिल होते हैं।

संचालन में सफल उत्तर, इनकार और इंटीग्रेशन त्रुटियां अलग मापें तथा दोबारा कोशिश के नियम बनाने से पहले दर्ज उपयोग देखें। बार-बार रुकने वाला वैध अनुरोध निदान मांगता है, सिर्फ अधिक कोशिशें नहीं। अनुरोध का पहचान नंबर सहायता टीम के लिए उपयोगी हो सकता है। इंटरफेस अनावश्यक आंतरिक जानकारी दिखाए बिना बता सकता है कि क्या हुआ और किस बात पर ध्यान चाहिए।

0.1% से कम का अर्थ भी सवाल पर निर्भर है। कुल त्रुटि दर हर भाषा और क्षेत्र में समान अनुभव की गारंटी नहीं। उत्पाद टीम को प्रतिनिधि अनुरोध जांचकर देखना चाहिए कि उपयोगकर्ता लक्ष्य तक पहुंच रहे हैं या नहीं। यह व्यावहारिक परीक्षण सलाह है, कंपनी द्वारा हर ऐप और उपयोगकर्ता समूह में समान गुणवत्ता सिद्ध करने का दावा नहीं।

शुरुआती सफलता मुकाबले का अंत नहीं

Anthropic खुद कहती है कि सुधार कितने समय टिकेंगे, उसे नहीं पता, और वह नए बचाव-भेदी प्रयासों की उम्मीद करती है। कंपनी ने अभी पूरे नए सुरक्षा समूह के विरुद्ध खास तौर पर जटिल और लगातार प्रयास नहीं देखा है। इसलिए कमी को कंपनी के अपने सिस्टम का आकलन समझें, स्थायी समाधान या सभी दूसरे मॉडलों की समान सुरक्षा का स्वतंत्र प्रमाण नहीं।

यह मामला मॉडल की क्षमताएं बचाने और उपयोगकर्ता की सामान्य सुरक्षा की गारंटी का अंतर दिखाता है। कम तर्क निकासी यह साबित नहीं करती कि हर जवाब सही, हर एजेंट अनुमान योग्य या सभी कारोबारी डेटा संगठन की जरूरतों के अनुरूप हैं। हर प्रश्न की अलग जांच चाहिए। सबको सुरक्षा कहकर जोड़ना आंकड़ों से ज्यादा भरोसा और गलत नियंत्रण पैदा कर सकता है।

इजराइल में भी सीधा असर इंटीग्रेशन डिजाइन का है, नई उपलब्धता या हिब्रू गुणवत्ता की नई प्रतिबद्धता का नहीं। हिब्रू में काम करने वाली टीमों को उसी भाषा में अपने अनुरोध और प्रक्रिया जांचनी चाहिए। बड़ा प्रतिशत अपने आप कारोबारी प्रक्रिया बदलने का कारण नहीं; देखें व्यवस्था खाते और मॉडल पर लागू है या नहीं और मौजूदा सिस्टम से कैसे जुड़ती है।

बदलाव यह है कि क्षमताओं की नकल रोकना AI बातचीत के संग्रह, जांच और बिलिंग को अधिक प्रभावित कर रहा है। आम उपयोगकर्ता के लिए यह पर्दे के पीछे रह सकता है; डेवलपर के लिए उत्पाद का व्यवहार है। अंतिम माप केवल रोका गया हमलावर डेटा नहीं, बल्कि वैध उपयोगकर्ता का लगातार, समझने योग्य ढंग से और योजनाबद्ध खर्च में काम पूरा कर पाना है।