Se celebró en La Haya una cumbre sobre «Inteligencia Artificial responsable en el ámbito militar». Francesca Di Giovanni: los sistemas basados en IA no pueden tomar decisiones porque carecen de impulso moral. Cada ataque armado debe sopesarse y debe ser legítimo. La propuesta de creación de una Agencia Internacional
«Los esfuerzos dedicados a dotar de inteligencia artificial a los ejércitos deben ir acompañados de un esfuerzo aún mayor para potenciar nuestros corazones y nuestras mentes a fin de evitar por completo los conflictos». Así lo subrayó Francesca Di Giovanni, Subsecretaria para el Sector Multilateral de la Sección para las Relaciones con los Estados y las Organizaciones Internacionales, jefa de la delegación de la Santa Sede, al intervenir en La Haya durante una cumbre sobre «Inteligencia artificial responsable en el ámbito militar».
La realidad no puede reducirse a la simulación
Incluso hablar de inteligencia artificial «responsable», explica Di Giovanni, parece contradictorio. De hecho, la Santa Sede «reitera la urgente necesidad de mantener y justificar la diferencia entre personas y objetos». En efecto, los sistemas basados en la IA «no pueden pensar, sentir, decidir ni asumir la responsabilidad de sus actos, ya que carecen de impulso moral. En el mejor de los casos, sólo pueden ejecutar instrucciones y simular comportamientos, mientras que «la realidad nunca puede reducirse a una mera simulación de sí misma».
Todo ataque armado debe sopesarse y legitimarse
«Si se delegan importantes poderes de decisión sobre el uso de la fuerza en un sistema de armas cuyo comportamiento es imprevisible o cuya finalidad y ámbito de funcionamiento no están bien definidos o no se conocen» -el ejemplo es el de los sistemas de armas autónomos dotados de capacidades de autoaprendizaje-, «el vínculo crucial entre ‘acciones’, efectos y responsabilidades se vería inevitablemente comprometido», sobre todo porque, reitera la Santa Sede, «cada ataque armado debe ser cuidadosamente sopesado y su legitimidad debe ser probada».
Promover la IA para reducir las desigualdades
Esto no quiere decir que la Santa Sede pretenda obstaculizar la investigación, el desarrollo y el uso de las tecnologías. Al contrario, éstas deberían orientarse «hacia un horizonte más adecuado y útil, que no se base únicamente en criterios de utilidad o eficiencia, sino en la promoción del bien común de la humanidad y para la humanidad, respetando la dignidad humana y favoreciendo nuestro desarrollo humano integral». Por eso se sugiere la creación de una Agencia Internacional para la Inteligencia Artificial que promueva sus usos pacíficos en las diversas aplicaciones civiles para reducir las desigualdades y, prevenir sus usos nocivos, limitando sus consecuencias indeseables.
Fuente: https://www.vaticannews.va/