Excès de confiance et IA

Overconfidence and AI par Seth Godin

https://seths.blog/2023/01/overconfidence-and-ai/

En tant qu’êtres humains, nous sommes souvent plus efficaces lorsque nous sommes un peu effacés, modestes. « Je pense », « Peut-être » ou « Il se peut que j’oublie quelque chose, mais… ». sont de bons moyens de donner à nos affirmations une chance d’être prises en compte.

La calculette LED à énergie solaire que nous utilisions à l’école ne faisait rien de tel. 6 fois 7 font 42, pas de si, pas de et, pas de mais.

Une partie de la magie de la recherche Google était qu’elle n’était pas seulement arrogante, elle était souvent correcte. La combinaison de sa confiance et de son utilité donnait l’impression d’un miracle.

Bien sûr, Google n’a jamais eu tout à fait raison. Le moteur de recherche trouvait rarement exactement la bonne page à chaque fois. C’est à vous que cela était laissé. Mais l’aura de toute-puissance a persisté. En fait, lorsque Google échouait, nous étions censés blâmer les méchants pirates malintentionnés de SEO, pas un algorithme imparfait et une cupidité monopolistique.

Et maintenant, ChatGPT se présente avec des affirmations clairement articulées sur tout ce que nous lui demandons.