Le NIST des États-Unis a publié, après de longues discussions et des ébauches revues, son cadre de management des risques (Risk Management Framework / RMF) pour l’IA.

Vous pouvez le télécharger en version anglaise.

Le RMF de l’IA fait référence à un système d’IA comme un système conçu ou basé sur une machine qui peut, pour un ensemble donné d’objectifs, générer des résultats tels que des prédictions, des recommandations ou des décisions influençant des environnements réels ou virtuels. Les systèmes d’IA sont conçus pour fonctionner avec différents niveaux d’autonomie (Adapté de : Recommandation de l’OCDE sur l’IA: 2019 ; ISO/CEI 22989: 2022).

Tout n’est pas nouveau

Beaucoup d’éléments sont tirés des normes ISO de management des risques, ainsi que d’autres guides de gestion des risques de l’Agence.

Autre avis : Si vous voulez avoir un bon aperçu des risques liés à l’IA vus par un expert pseudo-sceptique, lisez Gary Marcus. Avec ses co-auteurs, il a écrit de nombreux articles et un livre très respecté intitulé : « Rebooting AI: Building Artificial Intelligence We Can Trust »

Il n’est pas surprenant que Gary Marcus voit un grand risque dans l’acceptation des résultats des modèles de réseaux neuronaux qui interrogent de très grands ensembles de données, car, comme il le dit, sans connectivité contextuelle aux modèles d’IA symboliques (le genre que vous obtenez avec les algorithmes de symboles, comme celui de l’algèbre), il y a peu de moyens (pour l’instant) de valider la « vérité ».

Selon lui, le risque de systèmes comme ceux récemment introduits par OpenAI et autres est qu’avec ces outils, le coût de production d’absurdités sera ramené à presque zéro, ce qui facilitera l’inondation d’Internet et des réseaux sociaux de mensonges à des fins économiques et politiques.

 Vous pouvez également commencer par un podcast ou une transcription de l’interview de Gary Marcus avec Ezra Klein.