[ad_1]
Au début de l’année, le ministère de la défense des Etats-Unis a annoncé l’adoption de ses principes éthiques pour l’intelligence artificielle. ZDNet a suivi ce processus depuis qu’il a pris de l’ampleur.
Pour avoir un aperçu de ce que le nouveau cadre signifie pour l’utilisation croissante de l’IA dans les guerres, j’ai contacté Justin Neroda chez Booz Hamilton, qui est vice-président et responsable de l’activité Analytique et IA de la société. Justin Neroda a précisé que ces principes ne sont en aucun cas abstraits. En fait, l’intelligence artificielle est actuellement utilisée dans diverses applications de la défense nationale. Citons par exemple la fonction d’IA qui crée des cyberdéfenses plus efficaces, son utilisation pour prévoir et réparer les équipements militaires avant qu’ils ne tombent en panne, ainsi que les mises en œuvre destinées à améliorer les performances et l’état de préparation des soldats.
« Au départ, l’IA était axée sur les opérations de back-office et a montré qu’elle pouvait effectivement accroître l’efficacité de ces opérations », explique M. Neroda. « Aujourd’hui, on se concentre de plus en plus sur l’opérationnalisation de l’IA afin de sortir les pilotes et les prototypes du laboratoire et de les mettre en œuvre dans des opérations où ils peuvent avoir un impact accru ».
La conception de solutions d’IA implique un cadre
Comme le souligne l’expert en intelligence artificielle, un facteur clé de l’expansion continue des applications d’IA dans la défense est l’amélioration de l’automatisation et des normes associées au processus structuré de développement, de test, de déploiement et de surveillance des solutions AI/ML. C’est vraiment là que se concentre une grande partie du travail actuellement.
Les principes du DOD pour l’adoption éthique de l’IA établissent un cadre de facteurs qui doivent être pris en considération lors de la conception de solutions d’IA pour la défense, et ils mettent en évidence les éléments qui sont essentiels pour maintenir l’éthique au premier plan lors de la mise en œuvre de solutions d’IA. Ces principes ont une grande portée, mais, d’une manière générale, ils incluent le mandat que l’IA soit équitable et traçable. En d’autres termes, les niveaux de biais dans les données de formation utilisées pour le développement de l’IA, qui est une faiblesse majeure de toute application de données importantes, doivent être identifiables et mesurables.
« Cela nécessite une gestion robuste de la configuration des données de formation des modèles afin de garantir que les modèles formés puissent être directement liés aux données de formation », explique Justin Neroda.
Mécanismes de contrôle
Un principe de fiabilité. « Pour mesurer le niveau de fiabilité, des mesures standards seront requises et convenues, puis contrôlées en permanence au cours du développement et du déploiement afin de s’assurer que la fiabilité est maintenue à un niveau acceptable compte tenu du risque d’utilisation de l’IA ».
La gouvernabilité est également une question clé. L’IA devra disposer d’une capacité de contrôle qui prouve un niveau de compétence. Plus que cela, elle devra disposer d’un mécanisme permettant de se désengager et de revenir à des approches alternatives ou de déclencher une reconversion automatisée lorsque le niveau de compétence n’est pas atteint.
La bonne nouvelle, peut-être, dans un monde qui se sent de plus en plus fracturé et isolé, est que les États-Unis n’agissent pas unilatéralement. En fait, les États-Unis et l’Europe ont adopté cette année des principes d’IA très similaires. Les États-Unis ont également rejoint récemment le groupe d’experts du G7 sur l’IA chargé d’établir des directives éthiques pour l’utilisation de l’IA, qui a été créé pour guider l’adoption responsable de l’IA sur la base de principes communs de droits de l’homme, d’inclusion, de diversité, d’innovation et de croissance économique.
Viser la performance
Cependant, tous les régimes ne sont pas d’accord sur l’IA. « D’autres pays ont adopté une position plus agressive à l’égard de l’IA dans la manière dont ils l’ont mise en œuvre », explique M. Neroda, « mais si l’on avance à ce rythme sans tenir compte de choses comme les principes de l’IA, à long terme, soit les applications de l’IA ne répondront pas aux seuils de performance requis, soit elles risquent d’aboutir à des mises en œuvre non optimales de l’IA et nécessiteront un travail important pour atteindre les objectifs des solutions d’IA. Historiquement, les premiers adoptants de nouvelles technologies n’ont pas nécessairement été les plus performants ».
Les critiques de l’utilisation croissante des technologies d’automatisation dans la bataille seront-elles satisfaites ? Il est peu probable que ce soit le cas, même si les principes énoncés par le ministère de la défense américain semblent représenter un véritable engagement face aux préoccupations croissantes concernant l’utilisation de technologies de changement de paradigme dans la bataille.
« Ces principes sont un début de parcours pour satisfaire ces sceptiques, mais pour les aborder pleinement, il faudra un cadre quantitatif et un processus plus défini pour mesurer le respect de ces principes afin de garantir que les futures solutions d’IA adhèrent à ces principes à un niveau acceptable ».
Source : ZDNet.com
[ad_2]
Source link
