À l’image du RGPD pour les données personnelles, l’EU AI Act est un règlement européen visant à encadrer la manière dont les entreprises conçoivent, déploient et utilisent des systèmes d’intelligence artificielle. L’objectif est clair: permettre l’innovation tout en limitant les risques pour les utilisateurs et les citoyens. L’Europe est la première à mettre en place un tel cadre réglementaire, notamment en classant les systèmes d’IA selon une approche dite “risk based”, répartie en quatre niveaux de risque :
1. Risque minimal, comme certains chatbots simples.
2. Risque limité, soumis à des obligations de transparence.

3. Risque élevé, le plus encadré et le plus courant dans des secteurs comme la banque ou l’assurance. Par exemple, un système d’IA attribuant un score
de risque de crédit peut introduire des biais, notamment s’il est entraîné sur des données non représentatives (hommes/femmes, minorités, etc.).
4. Risque inacceptable, strictement interdit, comme le scoring de personnes ou les systèmes de prédiction comportementale à la manière de Minority Report. Un enjeu central de ces systèmes est celui de la black box : lorsque l’on ne comprend pas comment une décision a été prise par l’IA. Cela pose des questions majeures d’explicabilité et de traçabilité entre les données d’entrée et les résultats produits.