L’AI Act se pare de plusieurs mesures, qu’elles concernent l’IA générative ou les systèmes avancés, comme les modèles prédictifs à visée de surveillance par exemple. Au sujet de l’IA générative, le mot d’ordre est la transparence. La qualité des données utilisées pour l’entraînement des modèles, le respect des droits d’auteur et l’identification claire des contenus créés par IA représentent les points essentiels.
Parallèlement, des mesures s’appliqueront aux systèmes jugés à haut risque. L’AI Act se définit, sur le sujet, par 5 points principaux :
- Reconnaissance biométrique et identification faciale : la surveillance de masse et l’identification des personnes sur les lieux publics sont interdites.
- Social scoring : l’usage de l’IA pour créer des systèmes de notation sociale en fonction des comportements et des caractéristiques personnelles est interdit.
- Reconnaissance des émotions : la détection des émotions est interdite, notamment en raison de la précision de ces analyses et du potentiel de manipulation.
- Manipulation d’opinion et ingénierie sociale : la diffusion de fausses informations, la manipulation de l’opinion publique, sont autant de points que l’AI Act vise à empêcher.
- Application de la loi : l’utilisation de l’IA par les forces de l’ordre, pour la reconnaissance faciale par exemple, est interdite.
Pour en savoir plus -> https://www.blogdumoderateur.com/ai-act-texte-europeen-reguler-usages-ia/
