AMD quiere seguir haciendo dinero con la IA pero en el mercado de consumo, y para ello ya está preparando el lanzamiento de su Ryzen AI Halo. En esencia, hablamos de un Mini-PC basado en la plataforma Strix Halo orientado a desarrolladores de IA de manera local. El equipo de AMD busca así hacerse un hueco respecto a otros fabricantes que ya están en este nicho. Por no hablar de otros sistemas más cerrados como el NVIDIA DGX Spark. Incluso gracias a la memoria unificada de los Mac, los Mac Studio y Mac Mini se están comenzando a comprar más para ejecutar IA a nivel local, que por usuarios más convencionales.
La clave aquí es que no estamos ante un ordenador de sobremesa o Mini-PC convencional, sino ante una plataforma de referencia AMD. Es decir un equipo compacto enteramente fabricado y ensamblado por AMD. Este integra todo el hardware necesario para funcionar, pasando desde la APU, con abundante memoria unificada, soporte oficial para Windows y Linux, ROCm, modelos preoptimizados y un enfoque claro en ejecutar LLMs y flujos de IA generativa sin depender de la nube.
El AMD Ryzen AI Halo saldrá a la venta el próximo mes de junio según los informes
Realmente, a nivel de hardware, el AMD Ryzen AI Halo no deja de ser como cualquier otro ordenador. La diferencia es que ofrece un hardware de consumo vitaminado para IA. Y claro, es la excusa perfecta para AMD vender un hardware de consumo, originalmente diseñado para portátiles y Mini-PC de alto rendimiento, a precio de hardware para IA.
El AMD Ryzen AI Halo incluye en su interior la APU AMD Ryzen AI Max+ 395. Este incluye un procesador de 16 núcleos Zen 5 y 32 hilos. Esta CPU funciona a una frecuencia Base de 3,00 GHz y Boost de hasta 5,10 GHz. Cuenta con 16 MB de caché L2, 64 MB de caché L3, TDP base de 55 W y cTDP configurable entre 45 y 120 W. TSMC los ha fabricado a 4 nm, soporta AVX-512, algo relevante para determinadas cargas CPU, aunque el gran atractivo de esta plataforma está en la combinación de CPU, iGPU, NPU y memoria unificada. Ya que todo ello combinado es lo que le convierte en una opción para ejecutar la IA de manera local.
En IA, combinando la CPU, iGPU y una NPU AMD XDNA2, promete ofrecer un rendimiento de hasta 126 TOPS totales. Realmente no es mucha cosa si pensamos en que esto es para cumplir con requisitos como Copilot+. Lo que importa realmente, para LLMs de gran tamaño, es la iGPU integrada a la que poder alimentar con casi toda la memoria RAM del sistema. Gracias a ello, AMD indica que su Ryzen AI Halo es capaz de ejecutar modelos de hasta 200.000 millones de parámetros localmente. En documentación del Ryzen AI Max+, se habla de hasta 235.000 millones de parámetros en ciertos modelos y configuraciones de cuantización. La letra pequeña es importante. Estas cifras dependen de cuantización, contexto, formato del modelo y rendimiento tolerable. Es decir, no significa que cualquier modelo de modelo de 200.000 millones vaya a funcionar a velocidad de centro de datos.
No hay comentarios:
Publicar un comentario
Por favor sé respetuoso/a y escribe adecuadamente. Gracias.