L’IA Act, ou règlement européen sur l’intelligence artificielle, adopté en 2024, établit un cadre juridique de l’utilisation de l’IA, en équilibrant l’innovation technologique et la protection des droits fondamentaux des citoyens. À partir du 2 août 2026, une de ses mesures entre pleinement en vigueur, et vise plus spécialement la création de contenus générés par l’IA…

Contenus générés par l’IA : à mentionner !

À compter du 2 août 2026, la transparence est requise pour signaler tous les contenus qui sont générés ou produits au moyen de l’intelligence artificielle (IA).

Ce dispositif vise à faciliter la reconnaissance de contenus générés par l’IA afin de permettre au public de distinguer ces contenus des contenus produits et générés par les humains.

Ces informations, qui doivent être fournies aux personnes concernées de manière claire et distincte au plus tard au moment de la première interaction ou exposition, visent autant les personnes qui utilisent l’IA que les fournisseurs de systèmes IA.

En ce qui concerne les personnes qui ont recours à un système d’IA

Les obligations visent ls personnes qui ont recours à l’IA pour générer ou manipuler un contenu image, audio ou vidéo, un texte publié dans le but d’informer le public sur des questions d’intérêt public, ou encore un système de reconnaissance des émotions ou un système de catégorisation biométrique.

Dans tous les cas, il est imposé aux personnes qui ont recours à l’IA dans ces buts :

• d’indiquer que le contenu a été généré ou manipulé artificiellement ;
• d’informer les personnes qui y sont exposées du fonctionnement du système ;
• de traiter les données à caractère personnel des personnes exposées conformément à la réglementation européenne. Cette obligation ne s’applique pas :
• lorsque l’utilisation est autorisée par la loi pour détecter, prévenir, enquêter ou poursuivre une infraction pénale ;
• pour les textes, lorsque le contenu généré par l’IA a fait l’objet d’un processus d’examen humain ou de contrôle éditorial et qu’une personne (physique ou morale) détient la responsabilité éditoriale de la publication du contenu ;
• aux systèmes d’IA utilisés pour la catégorisation biométrique et la reconnaissance des émotions qui sont autorisés par la loi pour détecter, prévenir ou enquêter sur des infractions pénales, sous réserve de garanties appropriées pour les droits et libertés des tiers.

En ce qui concerne les fournisseurs d’un système d’IA

Les fournisseurs doivent veiller à ce que les systèmes d’IA destinés à interagir directement avec des personnes (comme les chatbots ou les assistants virtuels) soient conçus et développés de manière à ce que ces personnes soient informées qu’elles interagissent avec un système d’IA, à moins que cela ne soit évident du point de vue d’une personne physique raisonnablement bien informée, observatrice et avisée, compte tenu des circonstances et du contexte d’utilisation.

Il faut noter que cette obligation ne s’applique pas aux systèmes d’IA autorisés par la loi à détecter, prévenir, enquêter ou poursuivre des infractions pénales, sous réserve de garanties appropriées pour les droits et libertés des tiers, à moins que ces systèmes ne soient mis à la disposition du public pour signaler une infraction pénale.

De la même manière, les fournisseurs de systèmes d’IA, y compris les systèmes d’IA à usage général, qui génèrent des contenus synthétiques audio, image, vidéo ou texte, doivent veiller à ce que les résultats du système d’IA soient marqués dans un format lisible et détectables comme étant générés ou manipulés artificiellement.

Ils doivent veiller à ce que leurs solutions techniques soient efficaces, interopérables, robustes et fiables, dans la mesure où cela est techniquement possible, compte tenu des spécificités et des limites des différents types de contenu, des coûts de mise en œuvre et de l’état de la technique généralement reconnu, tel qu’il peut être reflété dans les normes techniques pertinentes.

Il faut ici noter que ces obligations ne s’appliquent pas dans la mesure où les systèmes d’IA remplissent une fonction d’assistance pour l’édition standard ou ne modifient pas substantiellement les données d’entrée fournies par la personne qui utilise le système d’IA ou leur sémantique, ou lorsqu’ils sont autorisés par la loi à détecter, prévenir, enquêter ou poursuivre des infractions pénales.

Contenus générés par l’IA : la transparence au programme – © Copyright WebLex