El papa León XIV llamó a gobiernos, empresas tecnológicas y organizaciones sociales a abordar con seriedad los riesgos asociados al rápido desarrollo de la inteligencia artificial (IA) y advirtió que descartar anticipadamente los escenarios planteados por especialistas no constituye, a su juicio, una respuesta responsable.

El pontífice abordó el tema este lunes durante una rueda de prensa con periodistas en el viaje de regreso de su visita a Francia. Consultado sobre las advertencias formuladas por expertos de la industria tecnológica, sostuvo que estas merecen atención y no deberían ser desestimadas como una estrategia destinada únicamente a obtener beneficios económicos.

“Las preocupaciones planteadas por muchos expertos, especialistas en inteligencia artificial, deben tomarse en serio”, afirmó León XIV.

“No creo que sean noticias falsas, como algunos han dicho, para intentar obtener algún beneficio, ya sea financiero o de otro tipo”, agregó.

Pese a sus advertencias, el Papa evitó presentar una visión alarmista. Consultado sobre si los riesgos asociados a la tecnología lo habían llevado a una situación de temor, respondió que no se encuentra en “modo pánico” y que, por ahora, “duerme tranquilo”.

León XIV mencionó durante la conversación al director ejecutivo de Nvidia, Jensen Huang, a propósito de informaciones que había leído ese mismo lunes sobre nuevas herramientas destinadas a establecer límites de seguridad para sistemas de inteligencia artificial.

Según relató el pontífice, Huang habría planteado la posibilidad de incorporar salvaguardas destinadas a evitar que los sistemas de IA sobrepasen determinados límites y provoquen los daños que algunos especialistas consideran posibles.

“Este es un problema que creo que debemos abordar en profundidad”, señaló León XIV.

Las declaraciones se producen en medio de una discusión dentro de la industria tecnológica sobre qué mecanismos deberían utilizarse para controlar los sistemas de inteligencia artificial más avanzados y quién debe asumir la responsabilidad principal de establecer esas reglas.

De acuerdo con los antecedentes proporcionados, ejecutivos de empresas como Anthropic y OpenAI han planteado la necesidad de desacelerar de manera coordinada determinados desarrollos para permitir que los mecanismos de seguridad avancen a un ritmo comparable. Otros representantes del sector, entre ellos Huang, han defendido un papel más relevante de las propias compañías en la evaluación de la seguridad de sus modelos.

León XIV cuestionó esa última aproximación al recordar que el ejecutivo de Nvidia también se ha mostrado contrario a determinadas restricciones gubernamentales.

“Es el mismo que dice que no se deben imponer límites ni regulaciones gubernamentales”, señaló el pontífice.

El Papa planteó que la discusión no debería quedar restringida a las compañías que desarrollan la tecnología. A su juicio, resulta necesario incorporar a autoridades políticas, organizaciones de la sociedad civil y especialistas para analizar tanto los efectos que ya está produciendo la inteligencia artificial como los escenarios que podrían presentarse en el futuro.

León XIV llamó a seguir “invitando a líderes políticos, líderes en IA, organizaciones sociales y asociaciones a reunirse y analizar lo que ya está sucediendo y lo que podría ocurrir en el futuro”.

“Simplemente decir ‘oh, no va a suceder’ y cerrar los ojos ante ello, creo que probablemente no sea la manera más responsable de proceder”, agregó.

El pontífice también se refirió al trabajo desarrollado dentro del Vaticano para estudiar la incorporación y las consecuencias de estas tecnologías. Según explicó, la Santa Sede creó una comisión sobre inteligencia artificial que inicialmente tuvo como objetivo coordinar el uso de estas herramientas dentro de sus propias instituciones, además de identificar beneficios y eventuales riesgos.

De acuerdo con León XIV, la discusión posteriormente se amplió y ha dado paso a contactos con distintos actores interesados en promover el diálogo, la investigación y el estudio sobre mecanismos de seguridad.

El Papa vinculó esos esfuerzos con su encíclica Magnifica Humanitas, dedicada, según los antecedentes proporcionados, a los desafíos relacionados con la inteligencia artificial. Tras su publicación, aseguró haber recibido numerosos contactos y afirmó que se está promoviendo el estudio de fórmulas destinadas a impedir que el desarrollo tecnológico alcance escenarios capaces de amenazar a la humanidad.

Pese a la gravedad de algunos de los riesgos mencionados, León XIV se declaró “relativamente optimista” respecto de la capacidad de gobiernos, empresas y especialistas para establecer mecanismos de prevención.

“Creo que hay suficientes personas seriamente interesadas en eso y dispuestas a analizarlo más allá de las cuestiones, una vez más, de poder, quién llega primero”, afirmó.

El pontífice insistió, sin embargo, en que ese optimismo debe ir acompañado de acciones concretas y de una discusión que no dependa exclusivamente de la competencia empresarial o tecnológica.

“Tenemos que seguir trabajando. No podemos quedarnos de brazos cruzados y fingir que no va a pasar nada”, concluyó.

Las declaraciones sitúan al Vaticano dentro del debate internacional sobre la gobernanza de la inteligencia artificial, en momentos en que desarrolladores, gobiernos y organizaciones discuten el equilibrio entre innovación, regulación y prevención de riesgos. Las afirmaciones sobre posibles escenarios extremos corresponden a advertencias y posiciones expresadas en ese debate y no implican que tales consecuencias estén establecidas como hechos futuros. (NP-ChatGPT-Emol-Agencias)