De la nube al PC: la nueva carrera para ejecutar inteligencia artificial directamente en las computadoras

Durante los últimos años, buena parte de la inteligencia artificial que utilizamos depende de centros de datos. Cuando una persona conversa con un chatbot, genera una imagen o utiliza una herramienta de IA, gran parte de ese procesamiento ocurre en servidores remotos y no en su propia computadora.

Pero esa lógica empieza a cambiar. El desarrollo de modelos más complejos y, especialmente, de agentes capaces de realizar tareas de varios pasos está aumentando el interés por ejecutar una parte de esas operaciones directamente en los dispositivos.

La idea no es necesariamente reemplazar la nube, sino repartir el trabajo. Algunas tareas pueden procesarse en el equipo del usuario, mientras otras continúan dependiendo de servidores externos. Para las empresas, esta arquitectura también plantea cuestiones relacionadas con la privacidad de los datos, la velocidad de respuesta y el costo de mantener servicios de inteligencia artificial a gran escala.

El cambio se vuelve más evidente con los llamados agentes de inteligencia artificial. A diferencia de un chatbot tradicional, que principalmente responde a una consulta, un agente puede mantener un contexto, utilizar distintas herramientas y completar una serie de acciones con una intervención humana más limitada.

Ese funcionamiento exige más memoria y capacidad de procesamiento. Por eso, fabricantes de chips y computadoras están intentando trasladar una mayor parte de esas capacidades al dispositivo.

AMD, por ejemplo, acaba de ampliar esta estrategia con sus procesadores Ryzen AI Max y Ryzen AI Max PRO 400. La compañía señala que las nuevas configuraciones pueden incorporar hasta 192 GB de memoria unificada y que el modelo Ryzen AI Max+ PRO 495 puede ejecutar localmente modelos de más de 300.000 millones de parámetros bajo determinadas condiciones de cuantización.

La cifra resulta relevante porque, hasta hace poco, ejecutar modelos de ese tamaño estaba asociado principalmente con infraestructura especializada o servicios de computación en la nube. En este caso, AMD plantea que parte de ese procesamiento puede realizarse en una computadora convencional de escritorio o en una estación de trabajo.

Eso no significa que cualquier modelo de inteligencia artificial pueda ejecutarse de manera local. El rendimiento depende del hardware, del modelo utilizado, de su nivel de cuantización y del software que lo acompaña. Incluso AMD señala que sus cifras de capacidad pueden variar según la configuración del sistema y otros factores.

La tendencia también se puede observar en los equipos que están llegando al mercado.

HP, por ejemplo, presentó la ZBook Ultra G3a, una estación de trabajo portátil de 16 pulgadas que utiliza procesadores AMD Ryzen AI Max PRO 400 y puede configurarse con hasta 192 GB de memoria unificada. HP señala que el equipo está orientado a ejecutar modelos de lenguaje y agentes de IA localmente.

Framework, por su parte, ofrece su Framework Desktop con procesadores Ryzen AI Max y ha anunciado una configuración de hasta 192 GB de memoria. La compañía plantea el equipo como una computadora compacta capaz de ejecutar modelos de IA localmente.

También hay propuestas de menor tamaño. GMKtec presentó el EVO-X5 Pro con el Ryzen AI Max+ PRO 495 y hasta 192 GB de memoria unificada. La empresa afirma que puede ejecutar modelos de cientos de miles de millones de parámetros completamente sin conexión; estas capacidades dependen del modelo, software y configuración utilizados.

Lenovo, mientras tanto, anunció el ThinkCentre X Ultra como parte de una nueva generación de computadoras de escritorio orientadas a combinar procesamiento local y servicios de inteligencia artificial en la nube.

El movimiento muestra que la competencia ya no se limita a fabricar procesadores más rápidos. También gira alrededor de dónde se ejecuta la inteligencia artificial y cuánta capacidad puede concentrarse dentro de una computadora.

La nube seguirá siendo necesaria para los modelos y servicios que requieren enormes cantidades de infraestructura. Pero mientras los chips incorporan más capacidad para IA y los equipos aumentan su memoria disponible, una parte cada vez mayor del procesamiento puede comenzar a ocurrir más cerca del usuario.

En ese escenario, la computadora deja de ser únicamente el lugar desde el que se accede a una inteligencia artificial alojada en internet y empieza a convertirse también en parte de la infraestructura que la ejecuta.