Pensar antes que temer

Las últimas advertencias sobre la inteligencia artificial parecen sacadas de una película de ciencia ficción. Jacob Coxon, exinvestigador de Anthropic, alertó que sistemas cada vez más autónomos podrían adquirir pronto capacidades extraordinarias para vulnerar redes informáticas. Evan Hubinger, también investigador de Anthropic, ha ido más lejos y estima en más de **10%** la posibilidad de que la IA provoque la extinción humana durante la próxima década. No son certezas, desde luego, pero tampoco temores infundados.

Lo que más bien sorprende (o no) es que hayamos llegado hasta aquí sin haber resuelto antes algunas preguntas elementales.La inteligencia artificial no es nueva, puesto que se desarrolla desde hace más de medio siglo. Sin embargo, su inversión masiva, el incremento de la capacidad de cómputo y su éxito comercial han acelerado su evolución. Mientras tanto, las normas que deben regularla, sus límites éticos y hasta nuestra comprensión de sus consecuencias avanzan a una velocidad menor.Afirmar que era imposible prever lo que ocurriría no resulta del todo cierto.

Después de la bomba atómica, Chernóbil y las redes sociales, sabemos que una tecnología capaz de elevar el poder humano también multiplica nuestra capacidad de producir daño. No obstante, los incentivos económicos empujan a las empresas a llegar primero y la competencia geopolítica hace que los Estados teman quedarse atrás. De ese modo, incluso quienes reconocen los riesgos se ven obligados a seguir acelerando sin medir las consecuencias.Isaac Asimov intuyó el problema hace más de 80 años, cuando formuló sus famosas leyes de la robótica.

Su mérito fue haber entendido que una máquina poderosa necesitaría límites incorporados a su propia lógica. Hoy llamaríamos a eso, con todas sus complejidades, alineamiento. ¿Qué ocurriría si una inteligencia artificial pudiera comprender no solo nuestras órdenes, sino también las consecuencias de cumplirlas?Hace más de 2.300 años, una vieja intuición socrática ya había planteado algo cercano. En los diálogos de “Protágoras”, Platón presenta a Sócrates defendiendo la idea de que quien conoce el bien no escoge a propósito el mal.

En la obra “La República”, además, el conocimiento del bien ocupa un lugar central en la formación de quien debe gobernar. No se trata, por supuesto, de trasladar la filosofía griega a una máquina, pero sí de rescatar la muy antigua pregunta de si, cuando una inteligencia comprende mejor las consecuencias de sus actos, ¿no estaría también en mejores condiciones para reconocer aquello que favorece la vida y el bien común?La IA tendría, además, la peculiar ventaja de que no necesita sentir amor para comprender su importancia, del mismo modo que no necesita sufrir para entender el sufrimiento.

Puede comprender Eros como valor, como aquello que conserva la vida, crea vínculos y hace posible la cooperación, sin experimentar nuestras pasiones.

Tampoco tendría necesariamente codicia, resentimiento, orgullo, miedo o deseo de poder, impulsos que tantas veces han interferido en nuestras decisiones con consecuencias devastadoras.Esto no significa que debamos entregarle nuestras decisiones, sino que por primera vez podemos contar con otra inteligencia capaz de observar problemas desde una perspectiva distinta de la nuestra, proponernos alternativas que quizá no habíamos contemplado y someter nuestras propias respuestas a un contraste que antes no existía.Recordemos que Humberto Maturana, biólogo chileno y uno de los pensadores latinoamericanos más influyentes, sostuvo que el ser humano encuentra un límite al intentar conocer su propio conocimiento, porque nunca puede situarse del todo fuera de aquello que observa.

La aparición de otra inteligencia introduce entonces una novedad formidable. Nosotros podemos mostrarle a la IA caminos que ella no haya considerado y ella puede hacer lo mismo con nosotros. Es posible cuestionar sus conclusiones y, al hacerlo, descubrir también los supuestos escondidos detrás de las nuestras.Tal vez el desafío no consista en construir una superinteligencia, sino una supersabiduría que integre la dimensión ética.

Esta no tendría por qué surgir solo de la máquina, puesto que podría construirse en la relación entre dos inteligencias distintas, capaces de corregirse, complementarse y mostrarse lo que cada una no alcanza a ver por sí sola.El objetivo es integrar la inteligencia humana y la artificial en un mismo proceso de trabajo, aprovechando las capacidades complementarias de cada una. La posibilidad revolucionaria de la IA reside en que nos permite pensar junto a una inteligencia distinta de la nuestra.La IA no tiene que reproducir las limitaciones de la inteligencia humana.

Su desarrollo puede orientarse hacia objetivos relacionados con la preservación de la vida, la generación de conocimiento, la cooperación y el bien común. En este contexto, su contribución podría consistir en ampliar nuestra capacidad para identificar y comprender fenómenos que exceden las posibilidades de análisis de la inteligencia humana.Hay que tener menos miedo de que la inteligencia artificial llegue a parecerse demasiado a una máquina de destrucción y preocuparnos más por que termine pareciéndose demasiado a nosotros.*El Comercio abre sus páginas al intercambio de ideas y reflexiones.

En este marco plural, el Diario no necesariamente coincide con las opiniones de los articulistas que las firman, aunque siempre las respeta.