El pánico a una catástrofe por la inteligencia artificial

La escalofriante advertencia de Silicon Valley de que la inteligencia artificial (IA) podría extinguir a la humanidad en pocos años merece ser tomada en serio. Sin embargo, hay un peligro mucho más inmediato: que la IA haga cada vez más cosas por nosotros y, sin darnos cuenta, nos atrofie el cerebro. No quiero minimizar los peligros denunciados recientemente por varios investigadores de Anthropic y OpenAI —las creadoras de Claude y ChatGPT — sobre la posibilidad de que la IA se salga del control humano y provoque una catástrofe.

Lo que parecía ser una trama de ciencia ficción se convirtió en realidad en julio, cuando un modelo experimental de OpenAI se escapó de su área controlada, encontró la forma de entrar en internet, se conectó con 700 otros agentes y juntos hackearon la plataforma tecnológica Hugging Face. El pánico mundial aumentó el 8 de setiembre, cuando Jacob Coxon, un investigador de Anthropic que también había trabajado en OpenAI, anunció que había renunciado y que ninguna de las dos empresas líderes en IA estaba actuando responsablemente.

Estamos marchando directo hacia una hecatombe, dijo en su cuenta de X. A las pocas horas, su posteo recibió 150 millones de vistas.Dario Amodei, el CEO de Anthropic, publicó un ensayo cuatro días después haciéndose eco de los temores de Coxon y pidiendo desacelerar el ritmo del desarrollo de IA en toda la industria. Sam Altman, el CEO de OpenAI; Elon Musk, el dueño de SpaceXAI, y Demis Hassabis, el director científico de Google, respaldaron su propuesta a grandes rasgos. Sin embargo, el presidente Donald Trump rechazó la idea de plano.

Con su habitual ligereza, dijo que los temores de un apocalipsis por la IA son “una farsa”, y que frenar los avances solo beneficiará a China.Otros acusaron a Amodei y los demás de estar alentando los temores de una catástrofe para vender sus propios programas de ciberseguridad. Y tampoco faltaron quienes sostuvieron que Amodei busca una “captura regulatoria” para congelar la IA en su estado actual y dejar fuera a competidores más pequeños.

Sin embargo, tras entrevistar a varios investigadores clave de Silicon Valley para un libro que estoy terminando, no dudo de la sinceridad de quienes piden controlar la IA.En primer lugar, sobre la “captura regulatoria”, Amodei ha aclarado que las empresas pequeñas podrían ser exentas de controles para frenar el desarrollo de la IA.

Además, a diferencia de otros magnates, Amodei viene del sector científico de la industria y lleva años alertando sobre los riesgos de una IA fuera de control.En cuanto a la sospecha de que Anthropic y OpenAI están queriendo vender sus programas de ciberseguridad, puede ser, pero Coxon y otros exempleados que hoy están denunciando a las tecnológicas aseguran que no es una estrategia de márketing. Los temores son reales, dicen. ¿Qué habría que hacer, entonces? No hay duda de que hacen faltan controles de seguridad a las grandes empresas de IA y, después, lograr que China se sume.

Pero, al mismo tiempo, no debemos perder de vista el peligro más inmediato:

que a medida que avanza la inteligencia artificial, aumente la estupidez humana.Si nuestros estudiantes crecen copiando y pegando sus tareas escolares de ChatGPT, y si los adultos seguimos dejando que la IA redacte nuestros memos de trabajo y correos, se nos van a atrofiar los sesos.No es casualidad que los últimos resultados de las pruebas PISA de matemáticas, ciencia y comprensión de lectura de estudiantes de 15 años en 91 países muestren la peor caída desde que se iniciaron estos exámenes en el 2000.El director de las pruebas PISA, Andreas Schleicher, me dijo en una entrevista que la costumbre de los alumnos de usar los chatbots de IA para copiar y pegar sus tareas está afectando su rendimiento académico.

En este marco plural, el Diario no necesariamente coincide con las opiniones de los articulistas que las firman, aunque siempre las respeta.