León XIV advirtió sobre los riesgos de la inteligencia artificial: “Las máquinas son herramientas, no personas”
El papa León XIV lanzó una advertencia sobre el avance de la inteligencia artificial y el poder que están adquiriendo los sistemas autónomos. Durante un encuentro con especialistas internacionales en el Vaticano, sostuvo que las máquinas deben seguir siendo consideradas herramientas y que la responsabilidad por sus acciones debe recaer en las personas que las desarrollan y utilizan.
"Las máquinas son herramientas, no personas", afirmó el pontífice durante su discurso del viernes 30 de octubre, en el marco de un diálogo sobre el futuro de la tecnología y las responsabilidades de la comunidad científica y las instituciones públicas.
En ese sentido, cuestionó las propuestas de otorgar personalidad jurídica o derechos a los sistemas de inteligencia artificial. Según explicó, estas tecnologías no tienen experiencias humanas, no sienten alegría ni dolor y tampoco comprenden conceptos como el amor, la amistad o la responsabilidad.
Para León XIV, reconocerles derechos podría ocultar la responsabilidad de sus creadores y dejar a las personas afectadas por sus decisiones sin alguien concreto a quien reclamar.
Supervisión humana y límites a la tecnología
El Papa también insistió en que los agentes de inteligencia artificial deben funcionar bajo una supervisión humana efectiva, informada y responsable.
Advirtió que existen decisiones que nunca deberían delegarse en sistemas automatizados, especialmente aquellas relacionadas con la vida humana, la libertad y el uso de la fuerza.
En esa línea, reiteró su postura a favor de prohibir las armas autónomas letales y sostuvo que el desarrollo tecnológico debe estar orientado al bien común y al respeto de la dignidad humana.
"El futuro de la inteligencia artificial no está predeterminado", señaló, al remarcar que las personas tienen la responsabilidad de orientar, modificar y, cuando sea necesario, rechazar determinadas aplicaciones.
Finalmente, reclamó estándares compartidos, supervisión independiente y mecanismos claros de rendición de cuentas para garantizar que las decisiones vinculadas con la IA puedan ser revisadas y cuestionadas cuando provoquen daños.