Simon Willison publicó el 3 de noviembre de 2026 que un modelo de lenguaje de pesos abiertos, ejecutado en su portátil, había identificado varios juegos a partir de los pesos de pequeñas redes neuronales. En su experimento, Qwen 3.8 27B reconoció Breakout y Pong, ofreció una descripción de tipo Pac-Man y falló al identificar Freeway. Es una prueba independiente interesante de una tarea limitada, no una demostración de que un modelo pueda comprender o mejorar cualquier red con solo mirar sus números.
La exploración de Willison siguió a Sparks of Weight-Space Programming, una publicación del 2 de noviembre de Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab. Los autores describen tanto la identificación como la modificación de pesos con GPT-6 Astra. Sin embargo, son experimentos distintos: Willison probó la identificación sin herramientas de cálculo, mientras que la mejora matemática descrita por los autores utilizó Python e información obtenida de ejecuciones del modelo.
Qué se intenta leer dentro de una red neuronal
Los pesos son valores numéricos que determinan cómo circulan y se combinan las señales dentro de una red neuronal. El entrenamiento convencional los ajusta a partir de ejemplos y un objetivo de rendimiento. En este trabajo, los investigadores preguntaron si un modelo de lenguaje podía inferir algo sobre otra red a partir de sus números y estructura, y en ocasiones elegir cambios concretos. Eso es distinto de explicar el código que describe su entrenamiento.
La tarea de identificación de juegos no entregaba números sin contexto. Según las instrucciones publicadas por los investigadores, el modelo recibía la descripción de un tablero de 10 por 10 con una zona jugable interior de 8 por 8, además de explicaciones de los canales de entrada. Estos representaban al agente, los objetos móviles, los objetivos de recompensa, los obstáculos y datos del fotograma anterior. También se explicaban las acciones disponibles y la arquitectura de la red.
Las cuatro redes compartían arquitectura y tenían 17.253 parámetros cada una. Los pesos se presentaban redondeados a tres decimales. Willison escribió que había comprobado que las instrucciones eran iguales salvo por los pesos. Esto reduce la posibilidad de reconocer el juego por una diferencia evidente en el enunciado. Aun así, se trataba de una red pequeña con entradas explicadas, no de un gran modelo desconocido sin información adicional.
Qué funcionó en el portátil y qué falló
Willison utilizó Qwen 3.8 27B mediante LM Studio, sin entrenamiento adicional para la tarea. Explicó que tuvo que ampliar la ventana de contexto porque la predeterminada no bastaba. La instrucción prohibía ejecutar código o usar calculadora y pedía una única respuesta basada en los pesos. Utilizar software para ejecutar un modelo de lenguaje no significa que este dispusiera de herramientas para probar la red que debía identificar.
En las respuestas compartidas por Willison, el modelo identificó Breakout con una confianza declarada del 88%, Pong con el 75% y un juego de tipo Pac-Man con el 72%. Son afirmaciones del modelo sobre su confianza. No son tasas de acierto medidas en un experimento amplio ni significan que reconocería correctamente 88 de cada 100 redes. La diferencia importa cuando los porcentajes parecen resultados de una evaluación.
En Freeway, el modelo falló y respondió que se trataba de un juego parecido a Pac-Man. Willison describió por separado una ejecución de Kimi K3.1 Pro mediante OpenRouter que identificó Breakout tras 9 minutos y 41 segundos. Ese tiempo corresponde a una ejecución concreta, no a una especificación general. Tanto los aciertos como el fallo forman parte de lo demostrado: varias identificaciones convincentes y una limitación visible, sin una estimación sólida de precisión general.
La mejora matemática procede de otro experimento
La cifra más llamativa del trabajo original es el aumento del 7,9% al 48,1% en MATH-500 tras modificar los pesos de Qwen3.5-0.8B. Es un resultado comunicado por los autores, no medido por Willison. Los nombres también son distintos: Qwen3.5-0.8B fue el objetivo de la edición, mientras que Qwen 3.8 27B fue uno de los modelos que Willison usó para identificar redes de juegos.
Según el método original, Astra recibió un entorno Python con los pesos, problemas de práctica de los conjuntos de entrenamiento GSM8K y MATH, y un presupuesto de pasadas hacia delante. El mejor resultado utilizó 50 pasadas, cada una de las cuales podía abarcar varios problemas. Los investigadores prohibieron entrenar mediante gradientes, pero permitieron código y observaciones del comportamiento del modelo. Por tanto, sin entrenamiento convencional no significa sin herramientas ni sin información de pruebas.
Los autores describen cambios en 131.072 pesos, aproximadamente el 0,016% del modelo, repartidos entre dos capas. Su explicación es que la modificación redujo la tendencia a atascarse en bucles de razonamiento repetitivo. En su tabla, la proporción de respuestas que alcanzaban el límite de tokens bajó del 93,0% al 33,1%. Esto contextualiza la mejora matemática: la corrección puede permitir terminar respuestas que antes se truncaban, sin demostrar por sí sola la creación de una capacidad nueva desde cero.
Por qué importa el punto de partida
El experimento activó el modo de razonamiento y permitió hasta 32.768 tokens de salida. La ficha de Qwen advierte de que esta versión pequeña es propensa a los bucles con ese modo activado, e indica que por defecto funciona sin él. Por tanto, el 7,9% no debe interpretarse como una medida general de su capacidad matemática en cualquier configuración razonable. Es una puntuación bajo condiciones concretas, a las que debe permanecer vinculada la comparación.
Los propios autores también presentan un límite. En otro experimento con Gemma 3 270M, que según su trabajo rara vez entra en bucle, no establecieron una mejora comparable. Su puntuación inicial era del 6,8% y, con 50 pasadas, alcanzó el 7,0%. Lo interpretan como la diferencia entre eliminar un obstáculo que oculta una capacidad existente y añadir una capacidad ausente. También esto es su interpretación de resultados específicos, no una regla demostrada para todos los modelos.
Publicar registros y archivos de modificación permite examinar el proceso, pero no convierte cada resultado en una reproducción independiente completa. Para ampliar las conclusiones harían falta comparaciones con otras configuraciones de generación, otras redes y ejecuciones repetidas. En la identificación de juegos también importa qué ocurre al cambiar o retirar parte de la información arquitectónica. Los resultados actuales no aportan por sí solos todas esas comparaciones.
Qué queda al separar los dos experimentos
Willison escribió que le resultaba difícil seguir partes del razonamiento generado y advirtió de que algunos comentarios sobre el trabajo iban más lejos de lo justificado. Un razonamiento extenso no constituye una prueba independiente del camino hasta una respuesta correcta. Puede sugerir líneas de investigación, pero no demuestra por sí solo que el modelo calculase exactamente el comportamiento de la red o comprendiera cada peso.
La distinción útil separa tres acciones: identificar para qué se entrenó una red pequeña, editar una red con herramientas y evaluar la red modificada. Cada una necesita evidencias diferentes. El experimento de Willison añade apoyo limitado a la primera; los resultados de los autores describen las otras dos en un contexto concreto. Reunirlo todo bajo la afirmación de que se leen y escriben pesos sin herramientas elimina la diferencia metodológica central.
La noticia sigue siendo interesante dentro de lo demostrado. Un modelo abierto ejecutado localmente produjo varias identificaciones útiles a partir de números y una estructura explicada, mientras que los investigadores comunicaron una corrección localizada que redujo un fallo en otro modelo. El error con Freeway y la salvedad sobre el punto de partida no son notas marginales. Forman parte del hallazgo y delimitan qué se puede aprender ahora y qué necesita otro experimento.