L’année 2016 aura été marquée par l’émergence de l’intelligence artificielle : chatbots, deep learning, machine learning. Ces nouveaux outils sont impressionnants, rapides et émerveillent, promettant un bel avenir. Mais il est nécessaire de comprendre le modèle de pilotage à leur appliquer. Même les intelligences artificielles les plus performantes peuvent induire les utilisateurs en erreur.
Les analytics peuvent alors entrer en jeu pour visualiser de façon synthétique des états complexes et pointer des défaillances qui ne seraient pas relevées par la machine. Un opérateur pourra alors corriger ces erreurs et éduquer la machine. L’efficacité et la qualité de ces nouveaux systèmes expert sont concernés mais également l’image et parfois l’éthique de certains services.
Par exemple, des machines learning destinées aux forces de police aux Etats-Unis ont abouti à des contrôles d’identité très discriminants à l’égard de certaines minorités ethniques. Ce que la machine ne percevrait pas comme un abus, l’opérateur humain, doté d’un sens du raisonnement intégrant des valeurs morales, peut le relever.
La qualité des analytics sur les outils d’intelligence artificielle sera donc déterminante. Elle permettra de faire ressortir des tendances de fond et de mettre en évidence de nouveaux comportements des intelligences artificielles, particulièrement celles qui sont prédictives.
