El Papa León XIV pidió que la inteligencia artificial "no domine al ser humano"

La encíclica fija la postura de la Iglesia ante lo que el propio pontífice describió, días después de su elección, como el mayor desafío de la época. No es un tratado técnico ni una condena de la tecnología, cuyo valor reconoce, sino una actualización de la Doctrina Social de la Iglesia. León XIV firmó el texto el 15 de mayo, en el 135.º aniversario de la Rerum Novarum de León XIII, el documento de 1891 que respondió a la Revolución Industrial y del que el actual papa toma nombre y referencia.

Su tesis es que las innovaciones tecnológicas “pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”. La IA, escribe, “alimenta la brecha entre los incluidos y los excluidos”.

Es una tesis que, anticipan algunos especialistas, hará del texto una referencia del debate. “Estoy convencido de que será un documento decisivo para nuestra época, profundo y profético”, afirmó a la agencia AP Paolo Carozza, profesor de Derecho en Notre Dame y presidente del consejo de supervisión de Meta, que lo describió como un llamado a construir un mundo en el que la tecnología “sirva a los seres humanos en lugar de degradarlos”.

El núcleo de la crítica es la concentración de poder en el sector privado. Patentes, algoritmos, plataformas digitales, infraestructuras y datos quedan, según el texto, “concentrados en las manos de unos pocos”. Son esas empresas las que definen “condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”.

“Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público”, advierte el papa, que ve en ello el riesgo de “nuevas dependencias, exclusiones, manipulaciones y desigualdades”.

Frente a eso pide reglas concretas: “No basta con invocar la ética de manera abstracta; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad”. Y resume: "Una IA más moral no es suficiente si esa moralidad es determinada por unos pocos“.

Esa concentración tecnológica tiene, para el papa, un correlato económico. La riqueza mundial, advierte, “se concentra cada vez más en menos manos, lo que agranda las desigualdades”, y en la era de la IA y la robótica ya no es posible confiar únicamente en la "mano invisible" del mercado. León XIV insta a los responsables políticos a orientar las políticas hacia “el bien común” y a promover “el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación”.

La advertencia no es abstracta. OpenAI y Anthropic, las dos principales competidoras del sector, figuran entre las empresas privadas más valiosas de Estados Unidos, con valoraciones de cientos de miles de millones de dólares, superiores al PIB de numerosos países. El papa apeló en varias ocasiones a los desarrolladores y a los responsables políticos a “frenar” y reflexionar sobre lo que están haciendo, y a orientar su trabajo no hacia el beneficio o el poder propios, sino hacia el bien de la humanidad.

El documento se presentó este lunes en el Vaticano con la presencia del cofundador de Anthropic, Christopher Olah, empresa que mantiene un litigio con la administración de Donald Trump tras negarse a permitir el uso militar irrestricto de su tecnología. La inclusión de Anthropic en el acto —parte de un diálogo de una década entre el Vaticano y Silicon Valley sobre el costo humano de la IA— fue criticada por quienes la leyeron como un aval pontificio; fuentes vaticanas la equipararon a la audiencia con un jefe de Estado, es decir, un reconocimiento y no un respaldo.

Fuente: Infobae