[ad_1]
Quand l’intelligence artificielle et le machine learning fonctionnent, cela peut être spectaculaire. Mais a contrario, quand ils cessent de fonctionner, ils échouent de manière spectaculaire également. C’est une des leçons qu’on peut tirer de la crise sanitaire actuelle, comme en témoigne le MIT Technology Review. L’auteur, Will Douglas Heaven, explique que les comportements d’achats inhabituels des consommateurs ont causé « des problèmes pour les algorithmes intervenant dans la gestion des stocks, la détection des fraudes, le marketing, etc. Les modèles d’apprentissage machine (ou machine learning), formés sur un comportement humain « normal », constatent maintenant que la normalité a changé, et certains ne fonctionnent alors plus comme ils le devraient ».
Les modèles basés sur le machine learning « sont conçus pour répondre aux changements », poursuit-il. « Mais la plupart sont également fragiles ; ils fonctionnent mal lorsque les données d’entrée diffèrent trop des données sur lesquelles ils ont été formés. C’est une erreur de penser que vous pouvez mettre en place un système d’IA et ensuite le laisser fonctionner en toute autonomie ».
Il devient alors évident que nous sommes encore des solutions entièrement autogérées, si tant est que ce soit possible. Si la situation actuelle nous apprend quelque chose, c’est que les connaissances humaines seront toujours un élément essentiel de l’équation qui comprend l’IA et l’apprentissage machine.
L’intelligence artificielle peut aussi se tromper
Ces derniers mois, j’ai exploré la gamme potentielle de l’IA et de l’apprentissage machine avec des leaders de l’industrie, et le rôle que les humains doivent jouer. Une grande partie de ce que j’ai entendu préfigurait le bouleversement de la pandémie. « Il y a toujours le risque que le système d’IA fasse de mauvaises hypothèses, réduisant les performances ou la disponibilité des données », explique Jason Phippen, responsable marketing monde des produits et solutions chez SUSE. « Il est également possible que les données soient issues de mauvaises combinaisons, ou d’un mauvais apprentissage, conduisant à de mauvaises décisions commerciales ou opérationnelles. Le pire scénario serait probablement celui où un système fonctionnant librement déplace des données vers un stockage réfrigéré, entraînant des pertes de vies ou de membres ».
L’IA et l’apprentissage machine ne peuvent tout simplement pas être intégrés dans une infrastructure ou un ensemble de processus existants. Chris Bergh, PDG de DataKitchen, met en garde contre le fait que les systèmes existants doivent être adaptés et ajustés. « Dans une architecture traditionnelle, un système d’IA et d’apprentissage automatique consomme des environnements de données pour répondre aux besoins en données », dit-il. « Nous devons modifier légèrement cette architecture en laissant l’IA gérer l’environnement de données. Cette transition doit se faire en douceur afin d’éviter des défaillances catastrophiques dans les systèmes existants, et pour mettre en place des systèmes robustes ».
Les systèmes d’IA et d’apprentissage machine « développés pour gérer les environnements de données doivent être considérés comme des systèmes critiques, et le développement doit être effectué avec beaucoup de soin », poursuit Chris Bergh. « Les données étant le moteur des décisions commerciales actuelles, les environnements de données seront au cœur de l’activité. Par conséquent, même une légère défaillance dans la gestion des données entraînera un coût important pour l’entreprise en raison de la perte de temps opérationnelle, d’autres ressources et de la confiance des utilisateurs. »
Un autre problème souligné par Chris Bergh est que les experts de la donnée ont des lacunes en termes de connaissance de l’IA et du machine learning et, à l’inverse, les spécialistes de l’IA et du machine learning ont peu de connaissance en gestion de données.
Les systèmes de données autogérés… un fantasme lointain
L’essentiel est donc qu’il faudra toujours des personnes qualifiées pour gérer le flux et assurer la qualité des données injectées dans les systèmes d’IA et d’apprentissage automatique. La mécanique de la gestion des données sera autonome, mais le contexte des données nécessite une implication humaine.
« Nous pouvons examiner des exemples, comme les voitures à conduite autonome, ou l’optimisation énergétique des datacenters, qui utilisent DeepMind de Google, et avoir une certaine confiance en des opportunités identiques dans la gestion des bases de données », assure Erik Brown, un des principaux directeurs technologiques de West Monroe Partners. « Cependant, les bases de données totalement autonomes semblent appartenir à un avenir plus lointain, et l’implication humaine devrait devenir plus stratégique et se concentrer sur des domaines dans lesquels elle est mieux équipée. »
Les environnements de données totalement autonomes « prendront probablement de nombreuses années pour être réalisés », convient Jeremy Wortz, architecte en chef du bureau d’études technologiques de West Monroe. « L’apprentissage machine est loin de résoudre de vastes problèmes complexes. Cependant, une approche qui développe des cas d’utilisation étroits et profonds fera la différence au fil du temps et amorcera le voyage d’un système autogéré. La plupart des organisations peuvent adopter cette approche mais devront s’assurer qu’elles ont un moyen d’énumérer les cas d’utilisation étroits, avec la bonne technologie et le talent nécessaire pour réaliser ces cas d’utilisation. »
Une main d’œuvre humaine nécessaire mais pas forcément experte
Plus les organisations dépendront de l’IA, plus les humains devront s’impliquer et superviser les données qui se déplacent dans ces systèmes, ainsi que les informations qui sont produites. 80 % ou plus des efforts en matière d’IA et d’apprentissage automatique « sont souvent liés à la recherche de données, à la traduction, à la validation et à la préparation de modèles complexes », explique Erik Brown. « Comme ces modèles informent des cas d’utilisation commerciale plus critiques – détection de la fraude, gestion du cycle de vie des patients – il y aura toujours plus de demandes sur les gardiens de ces données. »
Peu d’environnements de données, en dehors des Google et Amazon du monde, sont vraiment prêts, explique Erik Brown. « C’est une énorme opportunité de croissance dans la plupart des industries. Les données sont là, mais les structures organisationnelles collaboratives et interfonctionnelles, et les pipelines de données flexibles, ne sont pas prêts à les exploiter efficacement. »
Il n’est pas nécessaire d’être un expert diplômé des données pour gérer des systèmes d’IA : ce qu’il faut, c’est un intérêt pour l’apprentissage et la mise à profit de nouvelles techniques. « La technologie de l’intelligence artificielle alimente la tendance à l’utilisation de données par les citoyens, ce qui change la donne », explique Alan Porter, directeur du marketing produit chez Nuxeo. « Dans le passé, ces rôles ont nécessité des connaissances techniques approfondies et des compétences en matière de codage. Mais avec les progrès de la technologie, de nombreux outils et systèmes font le gros du travail technique pour vous. Il n’est pas aussi important pour les personnes qui occupent ces postes d’avoir des connaissances techniques, les organisations recherchent plutôt des personnes plus analytiques ayant une expertise commerciale spécifique. »
Analyser les machines avant de leur donner plus d’autonomie
Si les personnes ayant des compétences techniques et de codage continueront à jouer un rôle essentiel au sein des organisations, poursuit Alan Porter, « une grande pièce du puzzle est désormais d’avoir des analystes ayant des connaissances spécifiques en matière de commerce afin qu’ils puissent interpréter les informations recueillies et comprendre comment elles s’intègrent dans le tableau d’ensemble. Les analystes doivent également savoir communiquer leurs conclusions aux parties prenantes en dehors de l’équipe d’analyse afin d’apporter des changements ».
Dans son article sur le MIT, Heaven conclut que « tout étant lié, l’impact d’une pandémie a été ressenti de manière très large, touchant des mécanismes qui, dans des périodes plus typiques, restent cachés. Si nous cherchons un point positif, il est temps de faire le point sur ces systèmes nouvellement exposés et de se demander comment ils pourraient être mieux conçus, plus résistants. Si l’on veut faire confiance aux machines, il faut les surveiller ». En effet.
Source : ZDNet.com
[ad_2]
Source link
