Amazon ha bloqueado la capacidad de Muse, el agente personal de IA de Meta, para comprar en Amazon.com.
Según GeekWire, el bloqueo empezó a aparecer durante la noche del domingo al lunes, cuando los usuarios recibieron un mensaje que indicaba que acceder mediante un agente de IA no autorizado infringía las condiciones de uso de Amazon.
Parece una disputa puntual entre dos gigantes tecnológicos.
En realidad, plantea una pregunta mucho mayor: ¿qué ocurre cuando un agente de IA actúa en nombre del usuario dentro de una web que no quiere que operen agentes?
Qué ha bloqueado Amazon
Meta lanzó a principios de septiembre Muse, un agente personal de IA pensado para realizar tareas por el usuario.
Más adelante ese mes, la empresa amplió Muse también a Mac.
Tras recibir permisos del usuario, el sistema puede trabajar con archivos, mensajes, calendarios, correos electrónicos y otras herramientas.
Uno de sus posibles usos es navegar y realizar acciones en internet.
Amazon decidió impedir que el agente comprara en su web.
Según Amazon, Meta no informó suficientemente de que el acceso a la web se realizaba mediante Muse.
Amazon también sostiene que el agente no se identificaba durante la navegación y que parecía recopilar y guardar las credenciales de los usuarios.
Meta ofrece otra versión.
La empresa afirma que Muse no puede ver contraseñas ni datos de pago y que las credenciales facilitadas por el usuario se almacenan de forma segura.
Son afirmaciones de ambas empresas, no una comprobación técnica independiente de AI24.
Por qué importa para el futuro de los agentes
Los agentes de IA deberían ser distintos de un chatbot convencional.
En lugar de que el usuario formule una pregunta y reciba una respuesta, un agente puede abrir webs, hacer clic, introducir información y ejecutar acciones.
Cuando eso ocurre, surge una nueva pregunta:
¿Basta con el permiso del usuario?
Amazon puede argumentar que su web es un servicio privado y que un agente automático debe respetar sus reglas.
Meta puede argumentar que el agente simplemente representa a un usuario que le ha autorizado a actuar en su nombre.
Es previsible que esta disputa se repita en muchas webs y servicios.
¿Debe identificarse el agente?
Una de las principales quejas de Amazon es que Muse no se identificaba como agente al navegar.
Este punto puede adquirir más importancia a medida que se multiplican los agentes autónomos.
Una web puede tratar de forma diferente a una persona, un bot sencillo, un rastreador y un agente de IA que actúa en nombre de un usuario real.
Si todos los agentes deben identificarse, las webs podrán elegir cuáles permiten y cuáles bloquean.
Por otra parte, eso dará a las plataformas un poder considerable para decidir qué agentes pueden operar dentro de sus servicios.
¿Y las contraseñas?
La disputa se vuelve aún más delicada cuando un agente necesita acceder a una cuenta.
Amazon expresó inquietud por la forma en que Muse gestiona las credenciales.
Meta afirma que el agente no puede ver las contraseñas ni los datos de pago y que la información se guarda en un almacenamiento seguro.
Meta también describe mecanismos como Muse Secure VM (un entorno informático aislado en la nube) y otro agente, llamado Sentinel, que comprueba las acciones antes de ejecutarlas en internet.
También aquí se trata de descripciones de Meta, no de una evaluación de seguridad independiente.
Disponibilidad en Israel
Por ahora, Muse se ha lanzado en Estados Unidos.
Según la información publicada, el servicio no está disponible oficialmente para usuarios de Israel.
Meta no anunció durante el lanzamiento una fecha para ampliarlo a Israel.
Qué se puede aprender ya
Este caso muestra que un agente de IA no es solo un modelo inteligente.
Para ser realmente útil, también depende de:
- Permisos
- Políticas de las webs
- Gestión de identidades
- Almacenamiento de contraseñas
- Consentimiento de servicios externos
- Límites jurídicos y técnicos
El modelo puede ser excelente, pero si la web a la que intenta conectarse lo bloquea, la tarea se detiene.
Qué no han aclarado aún Amazon y Meta
No está claro si el bloqueo de Amazon es temporal o permanente.
Tampoco está claro si Meta modificará Muse para que se identifique expresamente ante las webs.
Se desconoce asimismo si Amazon estará dispuesta a permitir el acceso en el futuro mediante un acuerdo comercial o técnico.
Probablemente este no sea el último enfrentamiento.
A medida que los agentes de IA empiecen a realizar más tareas en el mundo real, «¿quién dio permiso al agente?» se convertirá en una de las preguntas centrales del sector.