Depuis le 2 août, l'UE surveille les modèles d'intelligence artificielle

L'application de la loi européenne sur l'intelligence artificielle est entrée dans une nouvelle phase le 2 août. La Commission européenne, par l'intermédiaire de son Bureau IA et en collaboration avec les autorités nationales compétentes, a lancé les activités de surveillance et de contrôle prévues par l'AI Act.

À partir de cette date, les obligations de transparence s'appliquent aux chatbots et aux systèmes interactifs. Ils doivent informer clairement les personnes qui les utilisent qu'elles s'adressent à une machine.

Une deuxième obligation concerne les contenus. Les images, vidéos et fichiers audio générés ou modifiés par l'intelligence artificielle, y compris les deepfakes, doivent être étiquetés et porter des marqueurs lisibles automatiquement, afin d'en faciliter l'identification.

Modèles à usage général et pratiques interdites

Le Bureau IA peut désormais faire appliquer les dispositions aux fournisseurs de modèles à usage général, y compris les modèles avancés présentant des risques systémiques.

Les obligations prévues pour ces fournisseurs visent à contenir des risques de grande portée. Le texte cite les incidents chimiques, biologiques, radiologiques et nucléaires, la perte de contrôle sur les systèmes, la cybercriminalité, la manipulation dommageable et les menaces pour les droits fondamentaux.

Tous les fournisseurs de modèles à usage général doivent documenter des informations destinées aux autorités compétentes et aux développeurs. Ils doivent en outre adopter des politiques de respect du droit d'auteur et publier un résumé détaillé des contenus utilisés pour l'entraînement.

La surveillance couvre aussi les pratiques interdites par le règlement. Y figurent la reconnaissance faciale, les outils de notation sociale, la reconnaissance des émotions et les techniques subliminales ou manipulatrices.

Le Bureau IA a mis en place des outils numériques pour les signalements. Les citoyens, les entreprises et les lanceurs d'alerte peuvent signaler de manière confidentielle les cas de violation présumée de la loi.

L'objectif annoncé par la Commission est de réduire les risques de manipulation et de permettre aux citoyens des choix éclairés. Aux entreprises, le règlement entend offrir un cadre clair pour se conformer.

Le règlement s'applique dans l'Union européenne. Son efficacité dépendra désormais de la capacité du Bureau IA et des autorités nationales à suivre un domaine où les modèles évoluent plus vite que les procédures administratives.