Biais d’automatisation, de négligence ou de surprise par cette automation : Comment les reconnaître et agir efficacement ?

How will YOU avoid these AI-related cognitive biases? par Kiron Bondale

https://kbondale.wordpress.com/2024/07/18/how-will-you-avoid-these-ai-related-cognitive-biases/

Je suis à mi-chemin de la lecture du livre de Jeremy Kahn « Mastering A.I. – A Survival Guide To Our Superpowered Future ». Bien que je trouve le titre ambitieux (Pouvez-vous vraiment maîtriser quelque chose qui évolue aussi rapidement que l’I.A. ?), l’auteur a fait du bon travail en fournissant une évaluation équilibrée de certains avantages et risques à court et à long terme de l’I.A.

Ce qui a résonné en moi en ce qui concerne la gestion de projet, ce sont les trois biais cognitifs suivants.

1. Biais d’automatisation – La tendance à supposer que les recommandations ou les informations présentées par un système informatique sont plus exactes que celles produites par un être humain, même lorsqu’on vous présente des preuves contradictoires.
2. Négligence de l’automatisation – La tendance à ne pas tenir compte de ce qu’un système informatique nous dit, surtout lorsqu’il va à l’encontre de vos croyances ou de vos désirs.
3. Surprise de l’automatisation – La tendance à s’appuyer sur les systèmes informatiques et à être confus ou surpris lorsqu’ils échouent.

J’ai été témoin de l’impact des deux premiers biais à plusieurs reprises au cours de ma carrière avec des applications de gestion de projet traditionnelles.

J’ai vu des cadres supérieurs faire confiance aux informations fournies dans le tableau de bord sexy d’une solution de gestion de portefeuille de projets (Biais 1), leur disant qu’un projet particulier était sain, même lorsque les données utilisées pour alimenter ce tableau de bord avaient subi un changement optimiste important et qu’il était clair pour toute partie prenante proche du projet qu’il était dans le rouge.

J’ai vu un sponsor refuser d’accepter la recommandation d’un chef de projet de repousser une date d’étape sur la base d’une simulation de Monte Carlo qui montrait que le respect de la date souhaitée avait une probabilité de succès extrêmement faible (Biais 2).

Je n’ai pas encore rencontré de surprise d’automatisation (Biais 3), principalement parce que de nombreuses applications de gestion de projet ont la fâcheuse tendance de planter régulièrement à mesure que la complexité ou le volume de données ou de requêtes augmente.

À court terme, il est peu probable que vous soyez la proie de tels biais lorsqu’il s’agit de solutions de gestion de projet basées sur l’IA. On vous répète et enracine en vous d’employer des techniques telles que l’humain au milieu du raisonnement pour vérifier que les sorties générées par l’IA sont valides.

Mais avançons rapidement de quelques années, jusqu’à l’époque où les difficultés de croissance de la génération actuelle d’outils d’IA ne sont plus que de lointains souvenirs.

Au fur et à mesure que la fiabilité des outils s’améliore, notre vigilance diminue. La probabilité que le biais d’automatisation affecte les chefs de projet, les membres de l’équipe et les parties prenantes seniors augmentera, d’autant plus que notre capacité à comprendre comment les outils d’IA arrivent à une conclusion devient plus ardue. Cela ira de pair avec la surprise de l’automatisation. Lorsque les outils d’IA tombent en panne, nous pouvons manquer d’expérience ou de connaissances pour comprendre comment les dépanner et si nous sommes devenus trop dépendants de l’outil faisant ce que nous aurions fait manuellement dans le passé, notre capacité à prendre le relais peut s’être atrophiée.

Les impacts de la négligence de l’automatisation resteront probablement assez constants. Pour les parties prenantes qui ont la croyance préconçue qu’elles ne veulent pas être contestées, il est peu probable qu’une réponse contraire même avec un niveau de confiance élevé de la part d’une IA plus fiable les influence. Exiger que les utilisateurs soient tenus de suivre les conseils de l’IA n’est pas la solution, car cela ne fait qu’augmenter les impacts potentiels du biais d’automatisation et de la surprise de l’automatisation.

Alors que vous envisagez votre avenir en tant que chef de projet, que ferez-vous pour réduire les impacts de ces biais à mesure que la gestion de projet basée sur l’IA continue de mûrir ?

Vous avez aimé cet article ? Lisez le livre de Kiron Bondale « Easy in Theory, Difficult in Practice » qui contient 100 autres leçons sur le leadership de projet ? Il est disponible sur Amazon.com ainsi que chez de nombreux autres librairies en ligne).