Vitalik Buterin, cofundador de Ethereum, dice que la inteligencia artificial (IA) local está cerca de encargarse de muchas tareas diarias. Probó el modelo Qwen3.8-Flash-Next de Alibaba en su propio portátil y publicó los resultados de velocidad.
A diferencia de ChatGPT, esta configuración nunca se conecta a un servidor en la nube. El modelo se encuentra en la computadora, y la máquina responde a las solicitudes por sí sola.
La prueba de IA local de Vitalik Buterin refleja velocidad utilizable
Su portátil utiliza el chip Strix Halo de AMD. Normalmente, las computadoras dividen el trabajo entre un procesador y una tarjeta gráfica separada, y cada uno usa su propia memoria. Strix Halo pone ambos componentes en un solo chip de silicio y les permite compartir un solo espacio de memoria.
Este diseño es importante porque el modelo de IA necesita caber en la memoria para poder funcionar. Una tarjeta gráfica común tiene entre 8 y 24 gigabytes, que es muy poco para un modelo de este tamaño.
Las computadoras con Strix Halo pueden traer hasta 128 gigabytes que cualquier parte del chip puede usar. Así, un portátil puede manejar un modelo que antes solo podía correr en servidores.
Las velocidades que publicó son suficientemente rápidas para trabajos normales. Las respuestas a preguntas cortas fueron rápidas y fáciles de leer. Pero el sistema se vuelve más lento cuando una solicitud tiene decenas de miles de palabras, así que los documentos muy largos siguen siendo el punto débil.
Alibaba publicó los pesos abiertos el 26 de agosto. El equipo dice que el modelo tiene 125 mil millones de parámetros pero solo activa seis mil millones a la vez, lo que permite que el modelo use menos memoria.
Buterin lo nombró Qwen3.8-Flash, aunque Alibaba publica la versión descargable como Qwen3.8-Flash-Next. Su versión más grande, Qwen3.8-Max, obtuvo buenos resultados en los benchmarks en agosto.
¿Por qué la privacidad cambia la ecuación?
Buterin ve otra ventaja más allá de la velocidad. Un modelo local responde en el propio dispositivo, así que ningún proveedor recibe la solicitud.
Para trabajos más complejos, él propone dividir el trabajo. El modelo local manejaría lo que pueda y luego quitaría los datos sensibles de lo que envíe a un sistema más grande alojado en la nube.
“usa tu modelo local para organizar las consultas a modelos potentes y así tus preguntas no filtran tu información personal”
En la práctica, el modelo local podría quitar nombres, direcciones de wallet o códigos privados de una pregunta antes de mandarla, y solo enviaría la parte general. Este filtro reducirá la cantidad de información que sale del dispositivo, aunque no garantiza que nunca se envíe un dato confidencial por error.
Esta propuesta coincide con su historial. Buterin ha advertido sobre la vigilancia durante la discusión sobre el control de chats en la UE, y los usuarios de criptomonedas han pedido más restricciones a los agentes por motivos similares.
Una demanda colectiva presentada en mayo acusa a OpenAI de compartir las preguntas de los usuarios de ChatGPT con Meta y Google.
Los proveedores en la nube siguen dominando el avance tecnológico. Sin embargo, cada mejora en el rendimiento local hace que más tareas rutinarias se puedan hacer fuera de sus servidores, y el hardware económico con memoria compartida sigue creciendo en popularidad.
La pregunta abierta es qué tanto control está dispuesta la gente a aceptar a cambio de capacidad.
