Articles Tagués ‘diux’

maven1

Après mon dernier poisson d’avril (oui, c’en était un et il a mieux fonctionné que je ne le pensais), je reprends le fil des « véritables » nouvelles (je rappelle que le premier avril est le seul jour où les internautes sont supposés vérifier une information avant de la croire – sic).

En l’occurrence, une nouvelle qui commence à faire du bruit, et qui a déclenché l’ire des employés de Google ; le géant du net, désormais l’un des pionniers du « deep learning », fournit sa technologie au Pentagone, notamment pour réaliser l’analyse d’images prises par des drones ou des satellites.

Cela fait un certain temps qu’on le rappelle : l’intelligence artificielle est aujourd’hui tirée par le marché civil, et en particulier le grand public. Les investissements se poursuivent et même s’amplifient dans des sociétés proposant des technologies d’apprentissage machine ou d’intelligence artificielle. Dernière en date, la « licorne » chinoise SenseTime qui vient d’annoncer avoir procédé à une levée de fonds de 600 M$, pour une valorisation de la société à 4.5 milliards (oui, milliards) de dollars… Nul doute d’ailleurs que le vaste programme d’espionnage des citoyens chinois – digne du meilleur épisode à mon sens de la série Black Mirror (« the fall ») –  a contribué à valoriser les programmes de reconnaissance faciale et d’analyse d’images.

maven9

L’avance de sociétés comme Facebook, Apple ou Google dans le domaine de l’IA n’est plus à prouver. C’est donc naturellement que le Pentagone s’est tourné vers Google quand il a réalisé qu’il ne pourrait traiter manuellement le torrent d’informations (images et vidéos) déversé par les drones militaires.

Le programme s’appelle donc Maven, et est réalisé depuis 2017 par une équipe mixte (Google et le DoD américain) baptisée AWCFT pour Algorithmic Warfare Cross-Functional Team. En 2017, Greg Allen et Taniel Chan avaient publié ce rapport dont je vous conseille la lecture – le même Greg Allen a récemment déclaré que si le ministère de la défense américain a bien financé de manière importante le développement de nouveaux capteurs image pour les drones aériens, il a en revanche un peu négligé les outils d’analyse nécessaires afin de donner du sens aux données recueillies.

Pour mieux en juger, voici quelques chiffres : l’armée américaine s’est équipée de 11 000 drones aériens (!). Chacun de ces drones génère un déluge de données images (au total, l’équivalent de 37 années de vidéo)…et 99% de ces données ne sont analysées par personne. En France, le général Ferlet, commandant la Direction du Renseignement Militaire, a également évoqué le sujet sur Europe 1 en décembre dernier: « Il y a une explosion exponentielle des données à traiter. Mais je ne suis pas naïf, je n’aurais pas une augmentation exponentielle des moyens humains pour traiter ces données. Il faudra donc trouver d’autres moyens, basés sur l’intelligence artificielle. Ce sera ma priorité numéro une dans les années à venir ».

maven5

Retour donc au projet Maven. Son premier objectif : utiliser l’IA et l’apprentissage machine pour détecter et identifier des objets (véhicules…) dans les vidéos transmises par les drones. En tout, dans cette première phase du projet, 38 catégories d’objets ciblés ont été définies. Pour ce faire, du logiciel bien sûr, mais pas seulement. A priori, Google fournirait des API Tensorflow aux équipes du ministère.

maven6

Rappelons que Tensorflow, développé par Google, est un outil open source de référence dans le domaine de l’apprentissage machine – éventuellement, la société pourrait fournir également du hardware, en l’espèce, des circuits Tensor (circuit intégré développé par Alphabet/Google spécifiquement pour l’IA).

maven7

L’idée est d’accélérer au maximum le projet Maven, un projet déjà tendu puisque six mois après son lancement, l’été dernier, le projet était supposé déjà opérationnel (en particulier dans la lutte contre le terrorisme en Irak et en Syrie).

Bon, le projet Maven ne plait pas à tous ; des milliers d’employés de Google ont ainsi signé une pétition demandant à l’entreprise de mettre fin à sa collaboration avec le Pentagone. A cela, certains rétorquent que justement, l’objectif de Maven était d’éviter des frappes mal ciblées, et des dégâts collatéraux en optimisant l’efficacité des drones. Gonflé.

maven3

Mais les risques de dérive sont réels. S’il s’agit de classer des images pour présenter ensuite à des analystes humains les plus susceptibles de fournir des informations tactiques, alors il faut être certain (1) que le système ne peut pas être piraté (car on peut « orienter » l’apprentissage) et d’ailleurs (2) qu’il n’y a pas de biais natifs dans la base d’apprentissage.

Revenons sur le « hacking » des systèmes d’IA ; c’est par exemple ce que l’on appelle aujourd’hui des « BadNets » : des réseaux de neurones dont la base d’apprentissage a été volontairement altérée pour introduire des signaux destinés à permettre à un hacker de modifier la réponse du système dans certaines conditions. Ainsi, à titre d’illustration, en utilisant des micro-modifications de pixels, un hacker peut permettre à un système de détection faciale de laisser passer les images de terroristes sans lever d’alarme. Je vous conseille par exemple la lecture de cet article qui démontre comment on peut arriver à faire en sorte qu’un réseau de neurones dont l’apprentissage a été altéré puisse dans certaines conditions prendre un panneau Stop pour un panneau de limitation de vitesse (je vous laisse imaginer les conséquences pour un véhicule autonome).

maven2

Au-delà, cette méthode (utiliser un partenariat avec l’industrie privée pour accélérer le tempo de développement d’une application de défense) illustre bien la philosophie prédominante aujourd’hui : en l’occurrence, c’est la structure DIUX (Defense Information Unit Experimental) située au cœur de la Silicon Valley qui est chargée d’identifier et d’organiser les transferts possibles.

cool

Une approche qui pourrait fonctionner en France (c’est en tout cas dans la lignée des annonces réalisées autour de l’innovation de défense par la Ministre des armées) – à condition toutefois de mettre en place des dispositifs permettant à l’Etat d’acheter très rapidement des solutions commerciales, pour expérimentation immédiate. Une approche novatrice qui, je le pense, est indispensable pour aller au-delà des intentions, et capturer l’innovation de manière optimale. Faute de quoi, il sera difficile d’établir de véritables passerelles entre ces deux mondes qui aujourd’hui, au-delà des réticences « philosophiques » qu’il ne m’appartient pas de commenter, se côtoient sans véritablement s’intégrer.

swarm7

Nous avons déjà parlé dans ce blog d’essaims de drones (voir par exemple cet article sur le programme Gremlins de l’US Air Force, ou celui-ci traitant des drones CICADA). Cette fois ci, il s’agit de la démonstration de la viabilité du concept par une expérimentation en grandeur nature.

Rappelons déjà ce que c’est qu’un essaim de drones : il ne s’agit pas simplement de mettre de nombreux drones ensemble, mais surtout de les faire fonctionner de manière intelligente, adaptative et coordonnées. C’est une problématique étudiée depuis longtemps : dans les années 1990, de nombreux travaux – notamment ceux du Pr Rodney Brooks au MIT (Massachussetts Institute of Technology) – traitaient de la robotique en essaim.

swarm6

L’idée est de s’inspirer des capacités des animaux sociaux, et notamment des insectes. Elle consiste à considérer que chaque individu est relativement simple dans son comportement, mais capable de communiquer et de se coordonner avec ses congénères pour produire un comportement complexe et coopératif.  Les avantages de l’adaptation d’une telle approche sont nombreux : la simplicité des unités élémentaires (et donc leur coût), la redondance, la capacité à couvrir des zones importantes (par exemple pour réaliser de la surveillance, ou de la saturation de communications).

L’US Air Force vient d’annoncer qu’ils ont mené le plus grand test d’essaim à ce jour : 3 avions F18/SuperHornet ont ainsi largué 103 (!) drones Perdix pour une simulation de mission coopérative de surveillance. Et avec succès.

swarm5

Le drone Perdix est un drone simple, développé lors du programme PERDIX doté de 20 millions de dollars (donc un petit programme) – il est aujourd’hui dans sa sixième version. Chaque drone, d’une envergure de 30 cm, pèse 300g environ et est construit en kevlar et en fibres de carbone. A l’origine conçu par le MIT, le Perdix (sans « r ») est capable de voler à 112km/h, et est doté d’une micro-caméra et d’une batterie au lithium. Le drone est développé à partir de composants sur étagère (composants de smartphones, en particulier) et est fabriqué en utilisant des techniques de fabrication additive (impression 3D).

swarm3

Le Perdix ne possède pas d’intelligence « locale » : un système distribué réparti leur confère une intelligence collective, chaque drone se synchronisant ensuite avec ses voisins immédiats. Si la mission est donc claire, la manière de la remplir dépend de la configuration de l’essaim, et s’adapte en conséquence (ci-après, une image de l’une des configurations). C’est d’ailleurs la seconde expérimentation : lors de la première, 90 drones avaient montré avec succès leur capacité au vol collaboratif.

swarm2

Comme on le voit dans la vidéo ci-après, la démonstration a montré avec succès que l’essaim pouvait adopter différentes configurations de vol correspondant à une simulation de mission de surveillance.

Au-delà de l’exercice lui-même, le programme Perdix est innovant, car il s’appuie sur le DIUx (Defense Innovation Unit eXperimental), une structure créée il y a deux ans dans la Silicon Valley par le Secrétaire d’Etat à la défense actuel, Ashton Carter (lui-même ancien chercheur en physique théorique). La structure cherche d’ailleurs aujourd’hui un industriel capable de produire plus de 1000 drones Perdix.

SD visits in California

DIUx est un poste avancé de la défense américaine en Silicon Valley, chargé de s’assurer que des technologies critiques n’échappent pas à la Défense américaine. Il rassemble des spécialistes en technologies, des industriels et des investisseurs en capital risque. DIUx répond à la difficile question du financement de l’innovation de défense, en s’assurant que des start-ups innovantes peuvent accéder à des programmes gouvernementaux sans en subir les inconvénients (notamment la longueur des cycles). La démarche est intéressante et mérite d’être étudiée pour notre pays – reste à voir si, aux Etats-Unis, elle survivra à la prochaine présidence…