« Nous pensons que l’IA peut bénéficier au monde de façon extraordinaire, mais seulement en se tenant aux plus hauts standards éthiques ». C’est ce qu’on peut lire dans un billet de blog posté sur le site de DeepMind, la filiale de Google dédiée à la recherche en intelligence artificielle. On y apprend également la création d’une nouvelle unité, qui sera chargée d’assister les ingénieurs. Elle est baptisée DeepMind Ethics & Society (DMES) et sa mission est ni plus ni moins que d’éviter les dérives potentielles que pourraient entraîner l’IA.
DMES sera composée de huit personnes employées à plein temps, s'appuyant sur six conseillers externes à l’entreprise. L’équipe sera pluridisciplinaire, et dirigée conjointement par Verity Harding et Sean Legassick. Des intervenants, comme les professeurs Jeffrey Sachs (Columbia), Diane Coyle (Manchester) ou Nick Bostrom (Oxford), viendront donc distiller leurs conseils de manière ponctuelle.
Le sujet de l’éthique dans l’IA revient régulièrement sur la table ces derniers temps. Les déclarations fracassantes et parfois alarmistes d’Elon Musk notamment donnent du grain à moudre aux plus réticents. Le spectre de futures armes (létales) autonomes peut effectivement faire froid dans le dos. C’est pourquoi l’éthique, au sens large, se diffuse doucement chez les principaux chefs de file de l’IA qui sont en grande majorité des géants du numérique américains : Microsoft, IBM, Google, Facebook et consorts.
Si nous sommes à un stade que l’on peut qualifier « d’IA faible » pour le moment, la recherche avance rapidement. Les entreprises citées plus haut injectent des millions de dollars car l’enjeu business est également à prendre en compte pour chacune d’entre elles. Rappelons que le concept de singularité technologique avance à grands pas. Popularisé par Ray Kurzweil, militant transhumaniste et accessoirement chercheur sur l’IA chez Google, il définit en fait le moment à partir duquel l’IA dépassera l'intelligence humaine. On parle concrètement de 2029.