L’IA au service des armes ? C’est le débat qui agite aussi bien les chercheurs que les profanes. Et chez Google, 3100 salariés sont à couteaux tirés contre un projet de l’entreprise associant deep learning et drones pour le compte du Pentagone.
Un projet militaire provoque l’ire des employés de Google, dont une lettre ouverte à Sundar Pichai a été signée par 3100 salariés du géant. Ce programme, baptisé Project Maven, consiste pour Google à mettre au point avec le Département de la Défense un système de reconnaissance d’images basé sur TensorFlow. Système ensuite utilisé par le Pentagone pour analyser les captures prises par des drones et y reconnaître personnes, objets et lieux.
Répondant aux inquiétudes de certains salariés, Diane Greene, vice-présidente en charge de Google Cloud, indiquait que cette technologie ne permet pas de « piloter des drones » et « ne sera pas utilisée pour lancer des armes ». La lettre reconnaît que s’il ne s’agit effectivement pas d’application directe, « la technologie est conçue pour les militaires et, une fois livrée, elle pourrait facilement servir ces tâches ».
Don’t Be Evil
Alors « Google rejoindra les rangs d’entreprises telles que Palantir, Raytheon et General Dynamics », notent les opposants au projet. Ils ajoutent que « développer cette technologie pour aider le gouvernement américain dans la surveillance militaire - et ses résultats potentiellement mortels - n'est pas acceptable ». La lettre demande que le projet soit abandonné et que des engagements soient pris par Google pour que ni lui ni ses contractants ne conçoivent jamais de « technologie militaire ».
D’autant qu’il s’agit d’un débat extrêmement virulent : celui de l’utilisation de l’intelligence artificielle à des fins militaires. Un débat qui se transporte de l’autre côté du Pacifique, en Corée du Sud. La Korea Advanced Institute of Science and Technology a en effet annoncé l’ouverture d’un laboratoire consacré aux applications militaires (et en particulier dans l’armement) de l’intelligence artificielle. Une cinquantaine de chercheurs ont d’ores et déjà annoncé qu’ils boycotteraient l’université.