El Papa León XIV presentó el lunes una visión amplia para los ejecutivos corporativos, políticos e individuos que darán forma y serán moldeados por el futuro de la inteligencia artificial, advirtiendo a los líderes que protejan a la humanidad de los efectos más disruptivos de la IA.
La declaración de León llegó en forma de encíclica papal, una carta abierta a “todas las personas de buena voluntad” que contaba con aproximadamente 42.300 palabras en su versión en inglés. Describió su deseo de proteger la dignidad humana y la agencia en una época en la que la tecnología amenaza con reemplazar a los humanos en muchos roles profesionales y sociales. Lo presentó junto a Christopher Olah, cofundador de Anthropic, un importante desarrollador de inteligencia artificial, en un gesto simbólico de diálogo entre líderes del mundo espiritual y tecnológico.
Si bien destacó que “la tecnología no debe considerarse, en sí misma, como una fuerza antagónica a la humanidad”, escribió que “la búsqueda de mayores ganancias no puede justificar decisiones que sacrifiquen sistemáticamente puestos de trabajo”.
Entre otras cosas, Leo pidió:
Regulación gubernamental de las empresas privadas que están impulsando el desarrollo de la IA.
Protección y reentrenamiento de los trabajadores cuyos puestos de trabajo están amenazados.
Educación para ayudar a los estudiantes a pensar críticamente sobre la tecnología.
Acción para proteger a los niños de la información en línea violenta, hipersexualizada o falsa que a menudo genera la IA.
salvaguardias para garantizar que los humanos, no la inteligencia artificial, sigan siendo responsables de todas las decisiones relativas al uso de armas.
Sobre todo, destacó la importancia de conservar un papel social fundamental para todos los seres humanos. «Una sociedad que garantiza empleo sólo a una pequeña fracción de la población, a pesar de tener un alto nivel de desarrollo técnico, corre el riesgo de exponer a muchos a la inactividad forzada, a la falta de responsabilidad y a la ausencia de tareas y estímulos cotidianos, lo que resulta en un empobrecimiento humano y cultural», afirmó.
«Esto crea una paradoja de progreso material y regresión antropológica que socava los cimientos de una paz social justa y estable», añadió.
El clero, los académicos y los líderes tecnológicos han estado esperando el documento del Papa durante meses, y muchos anticiparon que constituiría una de las advertencias morales más importantes hasta el momento sobre el uso indebido o excesivo de la inteligencia artificial.
Hace un año, en su segundo día como Papa, Leo dejó claro su enfoque en los peligros de la inteligencia artificial y le dijo al Colegio Cardenalicio que, bajo su liderazgo, la Iglesia abordaría los riesgos que la evolución de la tecnología plantea para “la dignidad humana, la justicia y el trabajo”.
Desde entonces, ha hablado repetidamente de AI, incluso durante un viaje a Turquía y el Líbano, en un discurso dirigido a universidad catolica líderes e incluso al celebrar el día internacional de las matemáticas. La semana pasada, el Vaticano anunció que había creado una comisión de altos funcionarios católicos para discutir los desafíos que plantea la IA.
El Papa Francisco, predecesor inmediato de León, también advirtió sobre los peligros de la inteligencia artificial y pidió el uso ético de la tecnología.
Aunque León presentó públicamente su encíclica el lunes, la firmó formalmente el 15 de mayo, el 135° aniversario de la publicación de “Rerum Novarum”, o “De cosas nuevas” en inglés, una importante encíclica escrita en 1891 por su homónimo, León XIII.
La encíclica del Papa fue cronometrado para indicar comparaciones con ese documento anterior, que guió la enseñanza católica sobre cómo proteger a los trabajadores después de las perturbaciones tecnológicas e industriales del siglo XIX.
Escrito En medio de la agitación de la Revolución Industrial, la “Rerum Novarum” buscó salvaguardar los derechos y la dignidad de la clase trabajadora y se convirtió en uno de los textos fundacionales de la enseñanza social católica moderna. Pidió a los gobiernos que “salven a los trabajadores desafortunados de la crueldad de los hombres codiciosos, que utilizan a los seres humanos como meros instrumentos para hacer dinero”, al mismo tiempo que elogiaba los “descubrimientos de la ciencia”.
En la nueva encíclica, titulada “Magnifica Humanitas”, Leo adoptó un tono similar, advirtiendo sobre la nueva amenaza que representa para los trabajadores la inteligencia artificial.
El trabajo, escribió, es más que una forma de obtener ingresos, sino “una exigencia de la condición humana, un camino normal hacia la madurez, el desarrollo y la realización personal”. Pidió “la protección de las oportunidades de empleo y el papel irreemplazable del individuo”.
Leo expresó su preocupación por cómo las herramientas emergentes de inteligencia artificial podrían hacerse cargo de muchas tareas y trabajos rutinarios, devaluando implícitamente a aquellos que no tienen la capacitación o la capacidad para realizar el trabajo que sigue disponible para los humanos. Leo escribió sobre la importancia de preservar la dignidad humana y advirtió sobre la ideología “insidiosa” que “sugiere que cada persona debe ganarse o justificar su propio valor, hasta el punto de atribuir mayor valor a quienes son más eficientes o eficaces”.
Leo escribió que los sindicatos y organizaciones benéficas que se formaron para proteger a los trabajadores durante la primera revolución industrial no serían suficientes para proteger a los trabajadores durante una transición tecnológica que podría dejar a millones de personas desempleadas.
«Se necesitan nuevos esfuerzos de colaboración entre los líderes políticos, las organizaciones laborales, el mundo empresarial y la comunidad científica para desarrollar rápidamente regulaciones y protecciones compartidas adecuadas, incluso a nivel internacional», escribió.
La encíclica también pedía imponer las “restricciones éticas más rigurosas” a las armas desarrolladas utilizando inteligencia artificial, continuando la oposición de larga data de Leo (y del Vaticano) a la guerra.
«La creciente facilidad con la que se pueden desplegar sistemas de armas autónomos hace que la guerra sea más ‘factible’ y menos sujeta al control humano», escribió Leo. Eso, añadió, contradecía “el principio de que la fuerza armada debe utilizarse sólo como último recurso en casos de legítima defensa”.
Aunque la encíclica incluye referencias significativas a las Escrituras y las enseñanzas religiosas, el documento en muchos sentidos se lee como un documento político de un grupo de expertos o de un legislador.
Leo escribió en detalle, por ejemplo, sobre la importancia de proteger a los niños, que son particularmente susceptibles a los efectos deformantes de la tecnología.
«La literatura psicológica y psiquiátrica ha documentado con creciente insistencia cómo la exposición temprana y sin supervisión a dispositivos digitales y redes sociales puede impactar negativamente el sueño, la capacidad de atención, el control de las emociones y las relaciones, especialmente durante las etapas más vulnerables de la vida, a veces con consecuencias trágicas», escribió.
Los padres necesitan el apoyo de las escuelas y los gobiernos, dijo, para ayudar a sus hijos a resistir el uso excesivo de la IA, las posibilidades de «aislamiento, acoso y ciberacoso» y la presión «para compartir imágenes íntimas o información sensible».
Los académicos están divididos sobre qué efecto, si alguno, tendrá el documento en la industria tecnológica, en la que titanes tecnológicos rivales compiten por el dominio.
Brian Patrick Green, director de ética tecnológica de la Universidad de Santa Clara en el norte de California, dijo que algunos líderes tecnológicos “tendrán que tomárselo en serio en cierto sentido”, en parte porque les proporciona “un imperativo moral”.
En la encíclica, el Papa reconoció la autonomía de los gobiernos y las empresas privadas. La Iglesia, dijo, “no pretende suplantar las responsabilidades de la política o las instituciones, sino que se ofrece a sí misma como fundamento”, instando a otras instituciones a “reconocer y promover todo aquello que sirva a la dignidad de las personas, a la vitalidad de las comunidades y al bien común”.
Otros dijeron que los principales destinatarios de una encíclica son el clero y los fieles.
«No creo que los ‘tech bros’ de Silicon Valley escuchen mucho», dijo la profesora Noreen Herzfeld, directora de un programa sobre tecnología y ética en la Escuela de Teología y Seminario St. John’s en Collegeville, Minnesota. «Pero creo que dentro de la iglesia, estará allí como una referencia para sacerdotes y obispos y particularmente para aquellos de nosotros que educamos a seminaristas o jóvenes».
Los sacerdotes pueden utilizar el contenido del documento para guiar las conversaciones con los feligreses que comparten sus preocupaciones sobre las presiones tecnológicas de la vida moderna, dijo el profesor Herzfeld.
El informe fue aportado por josephine de la bruyere de Roma y Elizabeth Dias de la Ciudad del Vaticano.
