Mueon anunció el 15 de octubre que había recaudado 65 millones de dólares en una ronda de Serie A para desarrollar una infraestructura informática que combina computación, memoria y otros componentes en unidades 3D modulares. El dinero ampliará los equipos y avanzará la plataforma a las pruebas del sistema y la preparación para la producción. Este sigue siendo un programa de desarrollo: el anuncio no presenta un sistema ahora disponible para la compra generalizada ni prueba que los clientes ya hayan logrado ahorros particulares.
La ronda fue liderada por Maverick Silicon, con Intel Capital y otros inversores. Según el anuncio de financiación de Intel Capital, la financiación acumulada de la compañía ha superado los $80 millones. En el corazón del desarrollo están las unidades llamadas Cubelets, que están diseñadas para reducir la distancia física que viaja la información entre los componentes del sistema. Para cualquier persona que desarrolle u opere servicios de IA, este es un intento de lidiar con los costes de infraestructura por debajo de la propia capa de modelo.
Por qué es importante la distancia entre los componentes
Un modelo de IA necesita computación, pero también acceso continuo a la información. El procesador no funciona solo: los datos deben provenir de la memoria, moverse entre los componentes y almacenarse para su posterior procesamiento. Por lo tanto, evaluar un sistema solo por la potencia del acelerador deja de lado parte del trabajo que necesita hacer. Un sistema de cómputo rápido puede esperar aún para la información en otro lugar en el proceso.
Mueon sugiere considerar la computación y la memoria como parte de un diseño de sistema integrado. En lugar de empezar con un solo componente y conectar las otras partes a su alrededor, la empresa diseña unidades que combinan varias funciones estrechamente juntas. Las conexiones, la fuente de alimentación y la disipación de calor se incluyen en el mismo esfuerzo de ingeniería. Según la compañía, esto puede cambiar la densidad de cálculo y el costo de transferencia de datos dentro del sistema.
La proximidad por sí sola no garantiza un resultado comercial. Colocar más componentes en un volumen más pequeño también puede cambiar los requisitos de enfriamiento, la accesibilidad al mantenimiento y cómo se puede expandir el sistema. Por lo tanto, la pregunta práctica es cómo funciona el diseño bajo carga continua y software real. Un diagrama de arquitectura explica la idea, pero un cliente también necesita saber cómo se comporta el sistema a lo largo del tiempo.
Qué se pretende lograr con la financiación
Según el anuncio, el dinero ayudará a expandir los equipos de ingeniería y operaciones, avanzar en la validación del sistema y profundizar el trabajo con los clientes. La compañía describe actividades en la arquitectura de chips y sistemas, integración avanzada de componentes, software y coordinación de trabajo entre ellos. Otro camino es la prueba con socios tecnológicos e industriales en el camino del prototipo al producto fabricado.
La distinción entre las etapas es importante. Financiar el desarrollo no es lo mismo que financiar un suministro comercial que ya ha comenzado. La prueba de un solo componente es diferente de la prueba de un sistema completo, y un sistema que opera bajo condiciones experimentales aún necesita adaptarse a la cadena de suministro y la rutina operativa. El anuncio sitúa a Mueon en un camino de desarrollo y validación, sin pretender que todas esas etapas se hayan completado.
El software también es parte de la historia. El nuevo hardware puede ser físicamente interesante y aún requiere mucho trabajo para ejecutar cargas de trabajo de IA existentes. Mueon describe el desarrollo de una capa de software y orquestación que soportará marcos de trabajo y procesos de implementación familiares. Para los equipos de desarrollo, el alcance de las personalizaciones requeridas será parte del costo real de la adopción del sistema.
Cómo leer el objetivo de eficiencia
Mueon presenta un objetivo de hasta 10 veces la mejora en eficiencia energética y costo, dentro de un espacio similar al de un rack de servidores. Este es un objetivo que la compañía presenta, no un resultado independiente que se pueda aplicar a cualquier modelo o a cualquier centro de datos. Las palabras "hasta" permiten diferencias entre cargas de trabajo, configuraciones del sistema y condiciones de comparación. No hay ninguna base en el aviso para garantizar al cliente un ahorro uniforme.
Para entender tal cifra, valdrá la pena examinar exactamente lo que se midió cuando se disponga de resultados detallados. El costo por componente, el costo por hora de operación y el costo por tarea completada son preguntas diferentes. Incluso un gran número de operaciones no garantiza que una tarea de negocio se haya completado correctamente. Un sistema puede producir más resultados, pero si necesitan ser re-ejecutados, los ahorros en una capa pueden desaparecer en otra.
El mismo principio se aplica a la electricidad. Una comparación útil debería explicar qué componentes se incluyeron en la medición, cuáles eran los requisitos de enfriamiento y cuál era la carga en el momento de la prueba. Estas son preguntas para evaluar la plataforma cuando tengamos datos detallados del sistema. Estas preguntas no implican que la empresa tenga costes ocultos o que su enfoque fracasará. En esta etapa, definen lo que se necesita para pasar de una promesa de ingeniería a una decisión de compra.
Qué pueden hacer los equipos ahora mismo
Los operadores de servicios de IA no tienen actualmente ninguna razón para cambiar de proveedor solo por la ronda de financiación. Una acción más útil es definir el cuello de botella existente: tiempo de respuesta, límite de memoria, capacidad paralela o costo por tarea completada con éxito. Una vez que se documente el requisito, será posible comparar una nueva plataforma con el mismo punto de partida, en lugar de cambiar el objetivo de prueba cada vez.
Un equipo que prueba nuevo hardware puede preparar una carga de trabajo representativa que incluya casos difíciles, no solo una breve demostración. Es aconsejable documentar la calidad de los resultados, el tiempo de espera y el esfuerzo requerido para la implementación y el mantenimiento. No hay necesidad de predecir qué arquitectura ganará. El objetivo es permitir que los datos muestren si el cambio en la infraestructura resuelve el problema por el cual se consideró el traslado en primer lugar.
Lo que significa apostar en todo el sistema.
La financiación de Mueon apoya un intento de cambiar la forma en que los componentes informáticos se conectan entre sí. Se une a una pregunta más amplia que ocupa a todos los proveedores de servicios: cuánto trabajo útil se puede hacer dentro de los límites de dinero, energía y espacio. Para el usuario del servicio de IA, el cambio solo será significativo si se traduce en un servicio más confiable, más disponible o más barato en el futuro en términos claros.
Por ahora, la compañía ha asegurado recursos adicionales para avanzar en las pruebas de su enfoque. Las preguntas restantes dependerán de los datos del sistema, la viabilidad de fabricación y el trabajo con los clientes. Por lo tanto, la financiación merece la atención de los equipos de infraestructura de IA, al tiempo que mantiene una clara distinción entre la financiación ya anunciada, el sistema en desarrollo y los beneficios que la compañía espera proporcionar.
Junto con el rendimiento, la disponibilidad de soporte, mantenimiento y proceso de recuperación también debe considerarse antes de tomar una decisión de compra.