La Commission européenne veut des labels sur l'IA

Lundi, la Commission européenne a exprimé son souhait de voir les principaux acteurs du paysage Internet prendre immédiatement des mesures volontaires sur le contenu généré par l'IA plutôt que d'attendre les délais réglementaires.

Les parties prenantes de l'industrie de Telus International et de Manta ont partagé leurs points de vue avec InformationWeek séparément après que la commission a fait connaître ses intentions.

Lors de la conférence de presse de lundi, Vĕra Jourová, vice-présidente chargée des valeurs et de la transparence à la Commission européenne, a évoqué la dernière réunion du groupe de travail pour le code de bonnes pratiques de l'Union européenne contre la désinformation. Elle a parlé de la mise en œuvre du code et de la loi sur les services numériques, qui inclut désormais Facebook, Google, YouTube, TikTok, LinkedIn et d'autres en tant que signataires, et a exposé ses attentes pour les entreprises, en particulier les principales plateformes en ligne, pour inclure une modération et un investissement cohérents dans la vérification des faits du contenu.

"Il y a encore beaucoup trop de contenus de désinformation dangereux qui circulent", a déclaré Jourová.

L'escalade de l'inquiétude de l'UE a été motivée par plus que la simple prolifération de l'IA générative, bien que son existence puisse accélérer les préoccupations sociopolitiques. Jourová a déclaré que ce n'était pas comme d'habitude dans le monde, car des États comme la Russie encouragent la désinformation, y compris dans l'invasion en cours de l'Ukraine. "La guerre, ce n'est pas seulement les armes, mais aussi les mots", a-t-elle déclaré. "La guerre de désinformation russe contre le monde démocratique a déjà commencé il y a de nombreuses années après l'annexion de la Crimée."

Jourová a déclaré que l'UE avait besoin que les signataires de la loi sur les services numériques "disposent de capacités suffisantes dans tous les États membres et dans toutes les langues" pour vérifier les contenus. Elle a cité la capacité croissante de l'IA générative et des chatbots avancés à remplir rapidement des contenus complexes, y compris des images d'événements qui ne se sont jamais produits et l'imitation de voix. Jourová a demandé aux signataires de créer une piste dédiée au sein du Code de pratique sur la désinformation pour discuter de ces questions.

Ce qu'elle veut voir comprend des garanties pour s'assurer que l'IA ne peut pas être utilisée par des acteurs malveillants pour générer de la désinformation. Jourová a également déclaré qu'elle souhaitait que les signataires ayant le potentiel de diffuser la désinformation générée par l'IA mettent en place une technologie qui reconnaît et signale ce contenu, en l'étiquetant clairement pour les utilisateurs.

"Nous avons pour tâche principale de protéger la liberté d'expression, mais en ce qui concerne la production d'IA, je ne vois aucun droit pour les machines à avoir la liberté d'expression", a-t-elle déclaré.

Certaines discussions sont déjà en cours. Jourová a déclaré avoir parlé avec le PDG de Google, Sundar Pichai, du développement d'une technologie suffisamment rapide pour détecter et étiqueter le contenu produit par l'IA afin de sensibiliser le public. Des technologies existent pour cela, a déclaré Jourová, mais elles étaient également en cours d'élaboration.

Il y a eu une certaine dissidence parmi les grandes plateformes. Elle a déclaré que Twitter, sous la propriété d'Elon Musk, avait choisi "la voie dure" avec la confrontation en se retirant du code de pratique sur la désinformation. "Le code est volontaire, mais ne vous y trompez pas, en laissant le code, Twitter a attiré beaucoup d'attention", a déclaré Jourová. "Ses actions et leur conformité avec le droit de l'UE seront examinées de manière rigoureuse et urgente."

Elle a également déclaré que si Twitter voulait opérer et gagner de l'argent sur le marché européen, il devait se conformer à la loi sur les services numériques plutôt que de simplement adhérer aux réglementations d'autres juridictions. "L'Union européenne n'est pas l'endroit où nous voulons voir une loi californienne importée", a déclaré Jourová.

Bien que la DSA ordonne aux entreprises considérées comme de grandes plates-formes en ligne et des moteurs de recherche d'étiqueter les images, l'audio et la vidéo manipulés éventuellement d'ici août, Jourová préférerait qu'elles n'attendent pas. "L'étiquetage devrait être fait maintenant", a-t-elle déclaré. "Immédiatement."

La poussée réglementaire pourrait conduire à un examen plus approfondi de la provenance du contenu généré par l'IA, jusqu'à ses sources de données. Jan Ulrych, vice-président de la recherche et de l'éducation chez Manta, est favorable aux efforts déployés par l'UE pour réguler cet espace. Manta est un fournisseur d'une plate-forme de lignage des données qui offre une visibilité sur les flux de données, et l'entreprise considère le lignage des données comme un moyen de vérifier le contenu de l'IA.

Ulrych dit qu'en ce qui concerne le contenu des nouvelles, il ne semble pas encore y avoir de méthode efficace en place pour valider ou rendre les sources suffisamment transparentes pour la vérification des faits en temps réel, en particulier avec la capacité de l'IA à générer du contenu. "L'IA a accéléré ce processus en permettant à n'importe qui de générer des informations", dit-il.

Il est presque acquis que l'IA générative ne disparaîtra pas à cause des réglementations ou du tollé public, mais Ulrych considère la possibilité d'une autorégulation parmi les fournisseurs ainsi que les garde-corps gouvernementaux comme des étapes saines. "J'espère que, dans une large mesure, les fournisseurs eux-mêmes investiront pour rendre les données qu'ils fournissent plus transparentes", dit-il.

La demande de l'UE aux entreprises de faire ce qu'il faut et d'agir maintenant n'était pas surprenante, déclare Nicole Gutierrez, avocate générale associée chez Telus International, une société de services informatiques. Compte tenu de l'opinion publique sur l'IA générative, prendre des mesures pourrait apaiser certaines inquiétudes. "Sur la base de l'enquête que nous venons de réaliser, 71 % des consommateurs américains pensent qu'il est important que les entreprises soient transparentes sur la manière dont elles utilisent l'IA générative", déclare-t-elle.

De plus, 77% des personnes interrogées, dit Gutierrez, souhaitent que les marques qui utilisent l'IA générative soient tenues d'auditer les algorithmes d'IA pour s'assurer qu'il n'y a pas de biais ou de préjugés.

L'ajout d'étiquettes à la demande de l'UE pourrait renforcer la confiance du public, dit-elle, un effort qui devrait être soutenu par les régulateurs et les entreprises.

La concentration actuelle de l'UE sur les très grandes plateformes en ligne pour agir est logique, dit Gutierrez, car ces organisations ont les ressources nécessaires pour réagir plus tôt que les petites entreprises. "Vous ne voulez pas créer un effet dissuasif dans l'ensemble de l'industrie où vous bloquez les petits acteurs parce qu'ils n'ont tout simplement pas la capacité de se conformer à ces réglementations", dit-elle.

Cela ne signifie pas que les petits acteurs échapperont à l'examen et à l'application futurs pour étiqueter le contenu généré par l'IA qui apparaît sur leurs plateformes. Des amendes échelonnées, dit Gutierrez, pourraient entrer en jeu pour réglementer les petits opérateurs.

Les entreprises multinationales sont confrontées à un paysage juridique fragmenté, dit-elle, en ce qui concerne la politique en matière d'IA. Des juridictions telles que la Californie continuent de développer une politique intérieure dans cet espace tandis que l'UE fait progresser sa position réglementaire – et leurs politiques ne coïncident pas nécessairement.

"Si l'UE publie des réglementations et des exigences qui entrent en conflit avec d'autres exigences d'autres juridictions, en particulier l'Amérique du Nord … ce qu'elles peuvent faire à un endroit est conforme mais n'est pas conforme à un autre", a déclaré Gutierrez.

Meta Hit avec une amende record de 1,3 milliard de dollars GDPR

Meta Preps Arrêt possible des services de l'UE dans l'attente d'une décision sur les données

Qu'est-ce qui vient de se casser ? : L'IA devrait-elle être accompagnée d'étiquettes d'avertissement ?

Les entreprises américaines doivent faire face à la législation européenne sur l'IA, qu'on le veuille ou non