Anthropic ha presentado FlashProve, un prototipo de investigación de código abierto para responder a una pregunta: ¿la respuesta de IA procede realmente del modelo prometido por el proveedor? Propone adjuntar una prueba criptográfica comprobable sin revelar los pesos. La empresa habla de avances intermedios, no de un producto cuyo despliegue haya comprometido.
El problema no requiere una respuesta inventada. Un proveedor podría sustituir un modelo por otro más barato, o utilizar uno más potente durante una evaluación, sin que el texto revele el cambio. La prueba de procedencia ayudaría a identificar el sistema que realizó el cálculo bajo las condiciones cubiertas. No determina si el contenido es verdadero.
Una huella del cálculo sin publicar los pesos
De forma simplificada, el laboratorio publica un compromiso criptográfico del modelo, parecido a una huella. Después, una prueba conecta el cálculo con ese compromiso. El objetivo es verificarlo con pocos recursos en un dispositivo local, sin repetir todos los cálculos ni divulgar los pesos comercialmente valiosos.
La huella necesita un origen fiable. Una prueba válida respecto a un compromiso que no puede vincularse al modelo prometido no acredita la identidad del producto. Incluso en un proceso matemático importa quién proporciona el punto de referencia.
Una firma ayuda a entenderlo: autenticarla puede identificar al firmante sin convertir cada frase del documento en verdad. Del mismo modo, un modelo puede producir una respuesta errónea y una prueba válida confirmar que la produjo. Es un límite de la promesa, no necesariamente un fallo.
Investigación limitada, no un servicio con soporte
La construcción de Anthropic tiene supuestos y restricciones, entre ellos un contexto de 1.024 tokens y condiciones sobre la representación del modelo y la decodificación. Ocultar pesos no oculta toda la arquitectura. Una garantía formal del protocolo tampoco equivale a demostrar que su implementación rápida carece de defectos.
Importa también el estado del repositorio: FlashProve figura como no mantenido y no acepta contribuciones. Publicar código permite estudiarlo, pero no equivale a un servicio comercial con soporte, actualizaciones de seguridad o compatibilidad con cualquier modelo. No debe tratarse como una función activa de Claude.
El posible aporte es otra capa de confianza sobre el sistema que responde. Los servicios reales necesitarían pruebas adaptadas a su operación, una referencia de identidad fiable y una implementación examinada. Evaluar la respuesta seguiría siendo una tarea distinta, especialmente cuando fundamenta decisiones fuera de la conversación.