Anthropic ने FlashProve नाम का ओपन-सोर्स शोध प्रोटोटाइप पेश किया है। उसका सवाल सरल है: क्या AI का जवाब सचमुच उसी मॉडल ने बनाया जिसे चलाने का प्रदाता ने वादा किया था? उद्देश्य ऐसा क्रिप्टोग्राफिक प्रमाण जोड़ना है जो मॉडल के वेट्स दिखाए बिना जांचा जा सके। कंपनी इसे शुरुआती शोध प्रगति बताती है, तैनाती के लिए प्रतिबद्ध उत्पाद नहीं।
समस्या के लिए उत्तर का मनगढ़ंत होना जरूरी नहीं। प्रदाता सस्ता मॉडल लगा सकता है या बेंचमार्क में अधिक शक्तिशाली मॉडल चला सकता है, जबकि टेक्स्ट से बदलाव न दिखे। स्रोत का प्रमाण अपनी निर्धारित शर्तों में यह जांच सकता है कि गणना किस सिस्टम ने की। वह सामग्री की सत्यता नहीं जांचता।
वेट्स प्रकाशित किए बिना गणना की पहचान
सरल रूप में लैब मॉडल के लिए एक क्रिप्टोग्राफिक कमिटमेंट प्रकाशित करती है, जो फिंगरप्रिंट जैसा है। बाद का प्रमाण गणना को उससे जोड़ता है। लक्ष्य स्थानीय डिवाइस पर अपेक्षाकृत हल्की जांच है, बिना हर गणना दोहराए या व्यावसायिक रूप से मूल्यवान वेट्स उजागर किए।
फिंगरप्रिंट का भरोसेमंद स्रोत जरूरी है। जिस कमिटमेंट को वादा किए मॉडल से नहीं जोड़ा जा सकता, उसके विरुद्ध सही प्रमाण भी बेचे जा रहे उत्पाद की पहचान स्थापित नहीं करता। गणितीय प्रक्रिया में भी संदर्भ देने वाले की पहचान मायने रखती है।
हस्ताक्षर का उदाहरण उपयोगी है। उसे सत्यापित करने से दस्तावेज पर हस्ताक्षर करने वाला पहचाना जा सकता है, हर वाक्य सच नहीं हो जाता। इसी तरह मॉडल गलत उत्तर बना सकता है और वैध प्रमाण पुष्टि कर सकता है कि उसी ने बनाया। यह वादे की सीमा है, जरूरी नहीं कि खराबी हो।
सीमित शोध, समर्थित सेवा नहीं
Anthropic की संरचना की शर्तें और सीमाएं हैं, जिनमें 1,024 टोकन का संदर्भ तथा मॉडल प्रस्तुति और डिकोडिंग संबंधी मान्यताएं शामिल हैं। वेट्स छिपाने से पूरी आर्किटेक्चर नहीं छिपती। प्रोटोकॉल का औपचारिक प्रमाण उसके तेज क्रियान्वयन में कोई दोष न होने का आश्वासन भी नहीं है।
रिपॉजिटरी की स्थिति भी महत्वपूर्ण है: FlashProve पर रखरखाव नहीं हो रहा और योगदान स्वीकार नहीं किए जा रहे। कोड प्रकाशित होने से अध्ययन संभव है, लेकिन यह समर्थन, सुरक्षा अपडेट या हर मॉडल की अनुकूलता वाली व्यावसायिक सेवा नहीं है। इसे Claude की सक्रिय सुविधा नहीं समझना चाहिए।
संभावित लाभ उत्तर के पीछे के सिस्टम पर भरोसे की अतिरिक्त परत है। वास्तविक सेवाओं को संचालन के अनुरूप प्रमाण, विश्वसनीय पहचान संदर्भ और जांचा गया क्रियान्वयन चाहिए होगा। उत्तर की जांच अलग काम रहेगी, खासकर जब उससे बातचीत के बाहर असर वाला निर्णय लिया जाए।