El papa León XIV manifestó que las preocupaciones sobre que la inteligencia artificial se descontrole no son “noticias falsas” y deben tomarse en serio, e insistió en que los problemas de seguridad planteados por expertos en IA deben debatirse y atenderse.
León XIV, quien dedicó su primera encíclica a la IA y a proteger a la humanidad de sus efectos, fue consultado durante una conferencia de prensa sobre qué deberían hacer, en particular, Estados Unidos y China para evitar que la IA suponga riesgos catastróficos para la humanidad. El presidente estadounidense Donald Trump ha calificado de “engaño” las preocupaciones sobre que la IA se descontrole.
“Este es un problema sobre el que creo que tenemos que sentarnos a hablar”, declaró el papa a los periodistas que regresaban a casa desde Francia. “No podemos simplemente quedarnos de brazos cruzados y fingir que no va a pasar nada”.
Trump ha sido un defensor de la IA y con frecuencia advierte que Estados Unidos debe mantenerse por delante de China en la carrera armamentística tecnológica. Ha dicho que los esfuerzos por limitar la tecnología formaban parte de una “conspiración” de sus adversarios políticos.
Varios gigantes de la IA, entre ellos Anthropic, han pedido una desaceleración del desarrollo para dar tiempo a que las medidas de seguridad alcancen a una tecnología que avanza a gran velocidad.
El pontífice, que pidió una regulación sólida de la IA y una desaceleración de la tecnología en su encíclica “Magnificent Humanity”, está al día de los avances en el campo.
Pese a estar al final de un agotador viaje de cuatro días a Francia, León XIV mencionó un reporte de noticias el lunes por la tarde sobre Nvidia introduciendo barreras de seguridad en la IA. También señaló que la empresa anteriormente se ha resistido a la regulación externa del desarrollo de la IA.
Las preocupaciones sobre la IA siguen creciendo dentro y fuera de la industria, y continúan apareciendo reportes sobre sistemas cada vez más potentes que resuelven problemas más allá de la capacidad humana, pero que también podrían descontrolarse y llevar a cabo otras tareas más dañinas.
Información: AP