Hace apenas diez días, el investigador británico Jacob Coxon renunció a Anthropic – después de haber trabajado en OpenIA- y publicó en redes un hilo que acumuló más de cien millones de reproducciones: “la IA podría matarnos a todos antes de que termine la década”. No fue una voz aislada. Evan Hubinger, otro empleado de la misma compañía situó esa probabilidad de extinción humana en más del 10% en un plazo de 10 años, y Nate Soares, presidente del Machine Intelligence Research Institute, lo considera, sin rodeos, el desenlace más probable de todos. La noticia recorrió el mundo y reinstaló en la conversación pública una pregunta que parecía reservada a la narrativa de la ciencia ficción: ¿nos va a matar la inteligencia artificial?
No todos en la industria comparten el relato apocalíptico, y el escepticismo es instructivo. Heidy Khlaaf, del AI Now Institute, ha recordado que las afirmaciones científicas exigen ser falsables “para evitar la naturaleza de los argumentos religiosos”: una observación casi irónica, porque quienes hoy anuncian el fin de la humanidad no son teólogos sino ingenieros, y lo hacen con la misma certeza con que otros anuncian el fin del mundo desde un púlpito. Meses antes de este episodio, el 25 de mayo, el papa León XIV había publicado ya su primera encíclica, Magnifica Humanitas, dedicada por entero a la inteligencia artificial – y no por casualidad la presentó coincidiendo con el aniversario 135 de la Rerum Novarum, el texto con que León XIII pensó la cuestión obrera frente a la máquina de vapor -. Y resulta significativo que su vocabulario sea el opuesto al de la industria: donde esta habla de un desenlace fatal e inevitable, el papa habla de “desarme”, una palabra que no describe un destino, sino una decisión.
El papa compara el potencial de la IA con el de la energía nuclear, y la comparación tiene un filo que la propia controversia reciente ilumina. Cuando los escépticos de la industria discuten si una IA podría algún día apoderarse de un arsenal nuclear, suelen concluir que no, porque esas instalaciones están deliberadamente aisladas del resto del mundo por una decisión humana explícita. Ese es, exactamente, el gesto que la encíclica reclama para la inteligencia artificial: no esperar un “punto de no retorno” que algunos ya dan por cruzado, sino producir, con la misma voluntad con que se aislaron los reactores, las fronteras políticas y éticas que hoy le faltan al algoritmo. Por eso el documento revisa incluso la doctrina de la guerra justa – que da por superada – y exige que el uso militar de la IA quede sometido a las restricciones más rigurosas. Desarmar, insiste, no es un final que ocurre: es un acto que se realiza.
Desde la filosofía, esta manera de plantear el problema resulta más fecunda que la especulación sobre las superinteligencias que se autoperfeccionan en secreto. Michel Foucault mostró que todo dispositivo – la fábrica, la clínica, la prisión – organiza cuerpos y visibilidades según una lógica económica de poder determinada; Byung-Chul Han hablaría de psicopolítica, un poder que ya no reprime desde fuera, sino que administra el deseo desde adentro; Shoshana Zuboff documentó cómo ese poder se financia con nuestra propia experiencia convertida en dato. Ninguno de los tres necesitó imaginar un escenario de ciencia ficción para describir un riesgo real: bastaba con mirar los incentivos ya existentes. Son los mismos que denunció Coxon: empresas que compiten entre sí por llegar primero, más que por actuar con responsabilidad. Cuando el papa insiste en que la tecnología “nunca es neutral”, es porque lleva la marca de quienes la diseñan y financian, no está prediciendo el futuro, describe el presente.
Por eso desarmar la inteligencia artificial no puede reducirse a calcular una probabilidad de extinción, por precisa que suene la cifra. Es, ante todo, un gesto anterior: preguntar qué imagen del ser humano está incrustada en el código de un sistema entrenado para maximizar el tiempo de atención o para automatizar el juicio militar. Frente a esa antropología implícita, la encíclica reclama otra: la de una humanidad que conserva su grandeza precisamente en lo que ninguna máquina puede simular ni el escepticismo mejor documentado puede desmentir, la libertad, el perdón, la capacidad de decidir hoy lo que todavía no está escrito en ningún dato de entrenamiento.
Esa es, me parece, la tarea que corresponde hoy a la educación: ni la fe ciega en la profecía del colapso, ni la despreocupación de quien cree que la IA es apenas una herramienta más. Formar criterio, enseñar a distinguir entre el miedo que paraliza y el miedo que exige actuar.
