Utilisation responsable de l'intelligence artificielle dans les environnements militaires

L'étude, intitulée "Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance" (Considérations éthiques pour l'utilisation militaire de l'intelligence artificielle dans la reconnaissance visuelle), examine les questions et les principes éthiques qui doivent être pris en compte lors de l'utilisation de l'intelligence artificielle dans des scénarios militaires. L'accent est mis en particulier sur les lignes directrices FATE (Fairness, Accountability, Transparency and Ethics). Ces lignes directrices visent à garantir que les systèmes basés sur l'IA sont utilisés de manière transparente, équitable et responsable dans le secteur militaire.

L'une des contributions de l'étude est d'intégrer les valeurs européennes et allemandes dans la discussion sur les principes éthiques des applications militaires de l'IA. Outre les principes établis tels que la traçabilité, la responsabilité et la fiabilité, ceux-ci comprennent également des principes tels que la proportionnalité et la gérabilité. Les principes éthiques sont examinés dans trois cas d'utilisation réalistes dans les domaines aérien, terrestre et maritime. Des méthodes telles que l'analyse automatisée des données de capteurs et l'IA explicable (XAI) sont utilisées pour placer les scénarios dans le contexte direct du portefeuille de produits et de la faisabilité technique d'HENSOLDT. L'étude conclut que les principes éthiques peuvent être pris en compte lors de l'utilisation de l'IA dans un environnement militaire. Cela s'applique, par exemple, à des technologies telles que l'IAO ou les interfaces homme-machine basées sur les grands modèles de langage (LLM). En fin de compte, la responsabilité d'une décision incombe à l'être humain qui garde le contrôle de l'IA.

"Notre recherche représente une étape importante dans le débat sur la manière d'utiliser l'intelligence artificielle de manière responsable dans le paysage complexe et dynamique des scénarios militaires", a déclaré le Dr Michael Teutsch, stratège et responsable de l'IA chez HENSOLDT. "Elle montre comment nous pouvons, en tant qu'entreprise, contribuer à aligner les avancées technologiques sur les normes éthiques, en trouvant un équilibre entre les avantages de l'IA et le respect des exigences morales et juridiques."

L'étude est disponible ici.