A lo largo de las últimas décadas, se ha observado que la integración de la IA en sistemas de seguridad y defensa se ha ido volviendo cada vez más integral, convirtiéndose en una poderosa herramienta para reforzar las infraestructuras de seguridad y optimizar las tácticas de defensa. Desde la cibernética hasta los sistemas estratégicos de defensa, la IA está remodelando la dinámica de las operaciones al permitir una mayor precisión, velocidad y capacidad de respuesta en situaciones críticas (Reis et al., 2021).
Es en este contexto donde la gobernanza de la IA adquiere un peso significativo. La implementación exitosa de proyectos de seguridad y defensa basados en IA requiere una gobernanza efectiva que asegure un uso ético, legal y responsable de la IA, y que garantice que la adopción de estas tecnologías se alinea con los intereses organizativos y se gestiona adecuadamente para minimizar riesgos.
Principios de la gobernanza de la IA en seguridad y defensa
Los principios para la IA de la Organización para la Cooperación y el Desarrollo Económico (OECD Principles on Artificial Intelligence, OECD, 2024) juegan un papel crucial al ofrecer un marco orientador para la implementación y gobernanza de la IA. Estos principios destacan la importancia de la inclusión y el respeto a los derechos humanos, la transparencia, la robustez, la seguridad y la rendición de cuentas en el desarrollo y utilización de sistemas de IA.
Al adherirse a estos principios, las organizaciones pueden asegurar que sus proyectos de seguridad y defensa no solo sean efectivos y eficientes, sino también que cumplan con altos estándares éticos y legales, contribuyendo así a la confianza pública y la aceptación de estas tecnologías. Implementar una gobernanza basada en estos principios de la OCDE ayuda a gestionar adecuadamente los riesgos asociados y a alinear la adopción de tecnologías de IA con los objetivos estratégicos y los valores fundamentales de la organización.
A estos efectos, la gobernanza de la IA implica la elaboración de políticas y regulaciones establecidas para guiar el desarrollo y uso de sistemas de IA, con énfasis en asegurar que correspondan responsablemente con los principios éticos, los edictos normativos y las expectativas de la sociedad.
En primer lugar, la ética y la responsabilidad en el desarrollo y aplicación de IA tienen que estar en el centro de todas las discusiones relacionadas con la gestión. Evitar sesgos y el uso indebido de tecnologías de IA resulta crucial, no solo para garantizar la equidad y la justicia social, sino también para mantener la confianza de la sociedad en estos sistemas.
En segundo lugar, la transparencia y la explicabilidad de los sistemas de IA son primordiales para asegurar su viabilidad a largo plazo. Esto implica una comunicación clara y comprensible de cómo funcionan estos algoritmos y su potencial para tomar decisiones. Con ello, se asegura un grado significativo de claridad operativa, ayudando a que los usuarios, sean estos oficiales de defensa o ciudadanos comunes, comprendan y confíen en las capacidades de la IA.
A estos efectos, ninguna organización puede abordar estos desafíos por sí sola. La colaboración entre entidades público-privadas desempeña un papel crucial en el fortalecimiento de la gobernanza de la IA, movilizando competencias transversales y agregando perspectivas que un único actor podría pasar por alto (Ho et al., 2023).
Desafíos y obstáculos en la implementación de la gobernanza de la IA
La gobernanza de la IA en el área de seguridad y defensa emerge como un componente capital de la estructura actual de gobernanza corporativa. Este hecho subyace en la noción de que la simbiosis entre IA y seguridad ha entrado en un escenario de creciente complejidad, mostrando diseños de gobernanza sofisticados y empíricos que se asientan en el epicentro del diálogo contemporáneo (Anderljung et al., 2023).
En este contexto particular, diferentes desafíos y obstáculos surgen en la implementación de la gobernanza de la IA, añadiendo niveles adicionales de intricado análisis. Uno de los más significativos de estos es la dualidad de uso de la IA: mientras por un lado, la IA puede proporcionar beneficios enormes en términos de eficacia y eficiencia para cuestiones de seguridad, por otro lado, existe un riesgo real de militarización de la IA que podría resultar en consecuencias perdurables y potencialmente devastadoras.
A estos efectos, el Departamento de Estado de los Estados Unidos (2023) impulsó el año pasado la llamada "Declaración política sobre el uso responsable de la inteligencia artificial y la autonomía en el ámbito militar". Con más de 50 países signatarios, la declaración destaca el compromiso de los estados de utilizar la IA de manera ética y responsable en el contexto militar. Subraya la importancia de adherirse al derecho internacional y asegurar la transparencia, responsabilidad y gobernanza adecuada en el desarrollo y despliegue de tecnologías de IA. Entre las medidas propuestas, encontramos la siguiente:
- Los Estados deberían asegurarse de que sus organizaciones militares adopten y pongan en práctica estos principios para desarrollar, implementar y utilizar las capacidades de IA de manera responsable.
Precisamente uno de los países firmantes fue España, en donde los casos y aplicaciones actuales demuestran un avance considerable en la manera en que la IA está transformando los proyectos de defensa y vigilancia. Los sistemas de IA están desempeñando roles significativos, desde la recopilación y análisis de inteligencia hasta la automatización de vigilancia, ofreciendo un aumento sustancial en la eficacia operativa y la toma de decisiones (De la Cuesta, 2024).
Con el continuo desarrollo de tecnologías autónomas diversas como los drones y los sistemas de reconocimiento facial, surge una profunda necesidad de una gestión rigurosa que asegure tanto su utilización ética y segura como el cumplimiento de pautas normativas. Este ámbito de la gobernanza de la IA está en continua evolución y mejora, ajustándose a las cambiantes condiciones y requerimientos de los proyectos de seguridad y defensa en un mundo cada vez más digitalizado.
Conclusión
La gobernanza de la IA en el ámbito de la seguridad y la defensa es, en este contexto global dinámico, un componente ineludible del gobierno corporativo contemporáneo.
Dada la naturaleza omnipresente de la IA y su creciente interacción con numerosos elementos de nuestra vida cotidiana, el papel rector de la gobernanza de la IA se ha vuelto absolutamente crucial. Este principio es particularmente relevante en los proyectos de seguridad y defensa, donde la IA tiene el potencial de transformar radicalmente las operaciones, la estrategia y la táctica.
Destacar la importancia de una sólida gobernanza de la IA en este campo es en gran medida sinónimo de abogar por una mayor seguridad y efectividad operativa, así como por la reducción de eventuales riesgos y vulnerabilidades. La gobernanza de la IA no sólo robustece la ciberseguridad, sino que también puede orientar la investigación y desarrollo, y mejorar los sistemas de decisión en términos de seguridad y defensa.
Con el fin de consolidar y fortalecer esta forma de gobernanza, es esencial que las empresas e instituciones den pasos concretos hacia una política integral de gobernanza de la IA. Esto puede implicar la adopción de regulaciones basadas en principios éticos y técnicos, la implementación de mecanismos de rendición de cuentas y transparencia, y la generación de un diálogo inclusivo sobre las implicaciones de la IA en la seguridad y la defensa.
Este escenario futuro debe considerarse como una oportunidad para la expansión y mejora de las estrategias de gobernanza de la IA, lo que permite asegurar la prosperidad y seguridad globales en este nuevo siglo digital. (Dr. Luis A. García Segura, Director del Máster Universitario en Protección de Datos y Seguridad, Coordinador del Máster Universitario en Ciberdelincuencia)
Referencias
- Anderljung, M., Barnhart, J., Leung, J., Korinek, A., O'Keefe, C., Whittlestone, J., Avin, S., Brundage, M., Bullock, J B., Cass-Beggs, D., Chang, B., Collins, T., Fist, T., Hadfield, G K., Hayes, A., Ho, L L., Hooker, S., Horvitz, E., Kolt, N., . . . Wolf, K. (2023, January 1). Frontier AI Regulation: Managing Emerging Risks to Public Safety. Cornell University. https://doi.org/10.48550/arxiv.2307.03718
- De la Cuesta, P. (2024). Defensa se vuelca en la Inteligencia Artificial: «Tendrá gran influencia en el campo de batalla». Disponible en: https://www.abc.es/espana/defensa-vuelca-inteligencia-artificial-gran-influencia-campo-20240110193858-nt.html
- Departamento de Estados de los Estados Unidos (2023). Declaración política sobre el uso responsable de la inteligencia artificial y la autonomía en el ámbito militar. Disponible en: https://www.state.gov/declaracion-politica-sobre-uso-responsable-de-inteligencia-artificial-y-autonomia-en-el-ambito-militar/
- Ho, L L., Barnhart, J., Trager, R F., Bengio, Y., Brundage, M., Carnegie, A., Chowdhury, R., Dafoe, A., Hadfield, G K., Levi, M., & Snidal, D. (2023, January 1). International Institutions for Advanced AI. Cornell University.
- OECD (2024). Recommendation of the Council on Artificial Intelligence. Available at: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
- Reis, J., Cohen, Y., Melão, N., Costa, J., & Jorge, D. (2021, May 27). High-Tech Defense Industries: Developing Autonomous Intelligent Systems. Multidisciplinary Digital Publishing Institute, 11(11), 4920-4920. https://doi.org/10.3390/app11114920
