Transformez la voix en ordre de combat ! OpenAI serait impliqué dans la compétition pour le projet de nuée de drones de l'armée américaine

Selon plusieurs personnes proches du dossier, OpenAI aurait collaboré avec deux entreprises de technologie de défense sélectionnées par le Pentagone, participant à leur appel d’offres pour développer un logiciel de combat en essaim de drones à commande vocale pour l’armée américaine.

Selon deux de ces sources, la technologie d’OpenAI serait uniquement utilisée pour convertir les commandes vocales du commandant de théâtre en instructions numériques que les drones peuvent exécuter, et ne serait pas utilisée pour le contrôle direct de l’essaim de drones, l’intégration d’armes ou le verrouillage de cibles.

Ce projet fait partie d’un « défi » annoncé par le Pentagone en janvier dernier, d’une valeur d’un milliard de dollars. L’objectif est de livrer un prototype préliminaire capable de commander un essaim de drones, doté de la capacité de prendre des décisions et d’exécuter des missions sans intervention humaine. Selon des sources, ce défi de six mois sera mené par étapes en fonction des performances et de l’intérêt des participants.

Selon des informateurs, au moins deux soumissions à l’appel d’offres comportaient le logo d’OpenAI. Jusqu’à présent, l’implication d’OpenAI n’avait jamais été divulguée dans ce contexte.

Cependant, certains proches du dossier indiquent qu’OpenAI n’a pas encore décidé dans quelle mesure il souhaitait s’engager, ni finalisé d’accords avec les entreprises de défense concernées. L’un d’eux précise qu’OpenAI fournirait uniquement une version open source de ses modèles, et non la version la plus avancée, tout en ajoutant que la société pourrait offrir un support pour l’installation.

Un porte-parole d’OpenAI a déclaré que la société n’avait pas soumis de candidature elle-même, sa participation se limitant à la phase initiale. Il a ajouté que deux partenaires actuels d’OpenAI avaient choisi d’inclure dans leur soumission le modèle open source de l’entreprise. Si l’un d’eux était sélectionné, OpenAI veillerait à ce que l’utilisation de tout outil soit conforme à sa politique d’utilisation.

Selon les informations, l’une des soumissions comportant le logo d’OpenAI a été menée par Applied Intuition, une entreprise de défense et partenaire stratégique d’OpenAI. La soumission mentionne également deux autres sociétés : Sierra Nevada Corporation et Noda AI.

Les documents montrent qu’Applied Intuition fournirait une interface de regroupement et une partie des instructions numériques, Sierra Nevada étant responsable de l’intégration du système, et Noda AI, soutenue par du capital-risque, fournirait un logiciel de « coordination » pour contrôler l’essaim de drones.

Une illustration dans le dossier montre qu’OpenAI fournirait un système de commandement et de contrôle pour le « centre de commandement des missions », dont le logiciel serait intégré dans un module « coordinateur », situé entre l’opérateur humain et la machine.

Quoi qu’il en soit, la participation d’OpenAI au projet de drones en essaim pour l’armée américaine indique que ses activités de défense cherchent à étendre l’utilisation de ses outils d’IA par le secteur militaire. Plus tôt cette semaine, le Pentagone a annoncé un partenariat avec OpenAI pour ouvrir l’accès à ChatGPT à 3 millions de personnel du département de la Défense.

Bien que la technologie actuelle permette déjà de contrôler plusieurs drones simultanément, le développement d’un logiciel capable de commander une opération en environnement maritime ou aérien, permettant aux drones de se déplacer et de poursuivre des cibles de façon autonome, reste un défi majeur. Les équipes participant à l’appel d’offres du Pentagone doivent prouver que leur technologie peut convertir les commandes vocales du commandant en actions, permettant aux drones d’exécuter collectivement des missions en situation de combat.

Un responsable de la défense cité dans l’annonce du Pentagone a clairement indiqué que le projet visait à renforcer l’aspect offensif, affirmant que l’interaction homme-machine « influencera directement la létalité et l’efficacité de ces systèmes ». Il a donné comme exemple des instructions telles que « faire déplacer tous les USV (véhicules de surface sans pilote) vers l’est de 5 kilomètres ».

Malgré la volonté du Pentagone d’accélérer l’adoption de l’intelligence artificielle et des technologies autonomes, plusieurs sources proches du dossier ont indiqué que l’intégration de chatbots et d’instructions vocales dans les plateformes d’armement suscite des inquiétudes chez certains responsables militaires. Ils soulignent qu’il est essentiel de limiter l’intelligence artificielle générative au domaine de la traduction, en interdisant son contrôle direct des drones.