En medio de la gran evolución de la Inteligencia Artificial y el tema sobre qué tan rápido debería avanzar esta tecnología, apareció una voz que pocos esperaban ver tan metida en el ecosistema tech: el Papa León XIV.
El Sumo Pontífice acaba de publicar su primera gran encíclica, llamada Magnifica Humanitas. En este texto, la Iglesia fija su postura oficial ante el mundo y, esta vez, el tema central es cómo cuidar a las personas frente al crecimiento salvaje de los sistemas inteligentes.
El mensaje es contundente: hay que «desarmar» a la IA para que no termine dominando al ser humano.
La tecnología no siente pero ya decide cosas importantes
El Papa no está peleado con la modernidad. En su texto reconoce que estos sistemas son herramientas valiosas que ya forman parte de nuestro día a día.
Nos ayudan a gestionar datos, mejoran la comunicación y agilizan procesos en las empresas a una velocidad que nuestra mente ni sueña alcanzar. El problema real, según explica, es cuando empezamos a creer que esa capacidad de cálculo es igual a la inteligencia humana.
La IA no tiene cuerpo. No sabe lo que es el dolor, la alegría o el cansancio. Y lo más importante: carece por completo de conciencia moral.
No entiende conceptos tan humanos como el amor, la amistad, el trabajo o la responsabilidad; solo imita funciones. Por eso, delegar decisiones importantes a un algoritmo de forma ciega y sin críticas nos pone en un terreno muy peligroso.
El fuerte impacto ambiental de los centros de datos
Hay un lado oscuro de la IA del que casi nadie habla en los comerciales de tecnología, pero que en Magnifica Humanitas se toca con mucha seriedad: el medio ambiente. Diseñar y entrenar modelos de lenguaje grandes requiere una infraestructura gigantesca.
- Las computadoras consumen cantidades de energía que dan miedo.
- El gasto de agua para enfriar los servidores es altísimo.
- La huella de carbono de estas empresas está presionando los recursos naturales del planeta.
Por esta razón, el líder de la Iglesia católica hizo un llamado urgente a buscar soluciones técnicas que sean sostenibles. No podemos mejorar la tecnología destruyendo el planeta en el proceso.
Algoritmos que discriminan y el peligro en la guerra
Otro punto fuerte del documento es la ética en el desarrollo del software. Las herramientas tecnológicas no son neutrales; reflejan los valores, prejuicios y descuidos de las personas que las programan.
Si no hay una supervisión humana constante y transparente, corremos el riesgo de que las computadoras refuercen la exclusión social y la desigualdad.
La advertencia más severa se la llevó el uso militar de estos sistemas. El Papa fue tajante al decir que jamás se deberían delegar decisiones de vida o muerte a un código informático.
Para él, ningún algoritmo del mundo puede hacer que una guerra sea moralmente aceptable, por lo que exige frenar en seco la carrera armamentista basada en armas autónomas.
Una alianza inesperada en el Vaticano para frenar los riesgos
Pero la historia no se quedó solo en el papel. Durante un evento reciente en el Vaticano, se vio al Papa agradeciendo en persona a Christoph Olah, uno de los fundadores de Anthropic.
Esta alianza llama mucho la atención porque esa empresa es una de las que más fuerte suena en Silicon Valley cuando se habla de seguridad y de poner límites éticos al desarrollo tecnológico.
Parece que la Iglesia y este laboratorio de IA van a trabajar de la mano. Buscan crear marcos legales robustos que protejan la dignidad humana y eviten que unos cuantos monopolios controlen todos los datos y la potencia de cálculo del mundo.
Al final, se trata de que la tecnología sirva para el bien común, y no para el dominio comercial o geopolítico de unos cuantos.
Con información de BBC
