El Pentágono define la ética para la IA en guerra mientras la industria tecnológica se divide

El Departamento de Defensa de Estados Unidos ha formalizado un marco ético para el uso de la Inteligencia Artificial (IA) en conflictos armados, en un intento por equilibrar la innovación tecnológica con la responsabilidad humanitaria. A través de cinco principios clave, el Pentágono busca establecer un estándar global para la IA militar, aunque la iniciativa ha generado una profunda división en la industria tecnológica, con algunas empresas negándose a colaborar en proyectos bélicos.

Los cinco pilares de la guerra algorítmica

Adoptados oficialmente el 24 de febrero de 2020, los principios éticos buscan garantizar que el control humano permanezca en el centro de las operaciones militares automatizadas. Estas directrices, que surgieron de recomendaciones de la Junta de Innovación en Defensa, establecen que todo uso de la IA por parte de las fuerzas armadas estadounidenses debe ser:

• Responsable: El personal militar debe ejercer un juicio adecuado y asumir la responsabilidad final sobre las acciones de los sistemas de IA.
• Equitativo: Se deben tomar medidas deliberadas para minimizar y mitigar cualquier sesgo no intencionado en los algoritmos.
• Rastreable: Los sistemas deben ser comprensibles para el personal, con metodologías, datos y procesos auditables.
• Confiable: Las capacidades de la IA deben tener un propósito claro y definido, y ser sometidas a pruebas rigurosas de seguridad y eficacia.
• Gobernable: Los sistemas deben ser diseñados con la capacidad de detectar y evitar consecuencias no deseadas, incluyendo una opción para desactivarlos si es necesario.

Con esta estrategia, Estados Unidos busca diferenciarse de adversarios como China y Rusia, cuyas aplicaciones de IA militar, según funcionarios de defensa, plantean serias preocupaciones sobre derechos humanos y normas internacionales.

Tensión y fractura en Silicon Valley

A pesar de los esfuerzos por establecer un marco ético, la relación entre el Pentágono y la industria tecnológica es compleja. La controversia se hizo evidente cuando la firma de IA Anthropic, creadora del modelo Claude, se negó a participar en ciertos acuerdos militares. La compañía exigió garantías estrictas de que su tecnología no se utilizaría para la vigilancia masiva o en el desarrollo de armas letales autónomas, condiciones que no lograron concretarse.

En contraste, OpenAI, la empresa detrás de ChatGPT, sí alcanzó un acuerdo con el Departamento de Defensa para que sus modelos se utilicen en redes clasificadas. Dicho acuerdo, sin embargo, incluyó salvaguardas que reflejan las preocupaciones de la industria, como la garantía de "responsabilidad humana en decisiones sobre el uso de la fuerza". Esta división subraya el dilema ético que enfrentan las empresas de tecnología entre los lucrativos contratos de defensa y sus principios corporativos.

Las consecuencias de un error

El debate no es meramente teórico. Incidentes en conflictos recientes han puesto de manifiesto los riesgos mortales de la dependencia de la IA. Un ataque a una escuela en Irán, que causó la muerte de más de 150 personas, habría involucrado sistemas de IA que identificaron erróneamente el edificio como un objetivo militar. Este tipo de tragedias resalta la importancia crítica de la supervisión humana y la fiabilidad de los datos, demostrando cómo un algoritmo defectuoso puede tener consecuencias devastadoras.

El Pentágono, a través de sus directores de políticas de capacidades emergentes, insiste en que la colaboración con el sector privado y la integración de consideraciones éticas desde las primeras fases del desarrollo son fundamentales. El objetivo es crear sistemas que potencien la toma de decisiones de los combatientes sin ceder el control final a las máquinas.

Mientras Estados Unidos avanza en la implementación de su estrategia de IA, la cuestión de fondo persiste: ¿es posible desarrollar armas "éticas" o la automatización de la guerra inevitablemente conduce a una escalada de riesgos incontrolables? El equilibrio entre la superioridad militar y la salvaguardia de vidas inocentes sigue siendo el desafío central en la era de la guerra algorítmica.