Intelligence artificielle : la défense américaine se penche sur les questions éthiques

Soutenir et encadrer l'émergence de l'intelligence artificielle.

Fin février, le département à la défense (DoD) américain a décidé de définir des principes éthiques qui devront être respectés lors du développement de technologies intégrant de l'intelligence artificielle. Des recommandations ont ainsi été publiées, faisant suite à des travaux conduits sur une période de 15 mois, mais également à la publication de la stratégie sur l'IA du DoD. Plus généralement, les Etats-Unis se sont dotés d'une stratégie IA à l'échelle nationale, visant à positionner le pays en tête sur ces questions et technologies.

Cinq domaines d'intérêt.

La définition de ces principes éthiques a été réalisée après l'organisation d'échanges entre les différents acteurs du domaine, à la fois industriels, académiciens, agences étatiques et plus généralement l'opinion publique. Cinq grands axes de réflexion ont ainsi été définis, afin d'encadrer les applications d'intelligence artificielle. On parle dès lors d'une intelligence artificielle responsable, mais dont la responsabilité reviendrait avant tout aux personnels du DoD, engagées aussi bien lors du développement, du déploiement et de l'emploi de systèmes intégrant de l'IA. Des solutions qui devront notamment être pensées au regard du droit américain et plus largement du droit international. Un concept d'équité est également rattaché à l'IA afin d'éviter que les algorithmes développés puissent être biaisés et que les solutions proposées par l'intelligence artificielle puissent être influencées. La question de la traçabilité de l'IA a également été mise sur la table, dans un objectif de compréhension de sa fonction, de la façon dont elle a été développée et en respect du type d'emploi pour lequel l'algorithme a été imaginé. La fiabilité figure également parmi les principes éthiques définis afin de garantir la sûreté et sécurité des systèmes qui intégreront de l'IA. Enfin, le DoD met par ailleurs le concept de gouvernance de l'intelligence artificielle au premier plan. L'homme doit ainsi rester dans la boucle afin de conserver la capacité « de désengager ou désactiver des systèmes déployés qui démontreraient une attitude inattendue », met en avant le DoD.