dimanche, mai 26

La Chine veut réglementer son secteur de l’intelligence artificielle

La Chine va lancer une série de mesures visant à réglementer plus drastiquement son secteur de l’Intelligence Artificielle (IA), sans pour autant l’écraser.

En effet, le gouvernement va tenter d’équilibrer le contrôle de l’État sur la technologie avec un soutien suffisant pour que ses entreprises puissent devenir des concurrents mondiaux crédibles et viables.

Le gouvernement a publié 24 directives obligeant les fournisseurs de plateformes à enregistrer leurs services et à effectuer un examen de sécurité avant leur mise sur le marché. Sept agences gouvernementales assumeront la responsabilité de la surveillance, parmi lesquelles l’Administration du cyberespace de Chine et la Commission nationale du développement et de la réforme.

La Chine pionnière avec sa réglementation

La réglementation de la Chine vise à assurer une surveillance gouvernementale de ce qui pourrait être la technologie la plus prometteuse – et la plus controversée – des 30 dernières années.

En effet, de nombreuses voix avertissent que l’IA constitue un « risque d’extinction » de nombreux métiers et secteurs d’activité. « La Chine a commencé très rapidement », a déclaré Matt Sheehan, membre du Carnegie Endowment for International Peace, qui rédige une série d’articles de recherche sur l’IA.

La Chine « a commencé à construire les outils de réglementation et les muscles de la réglementation, de sorte qu’ils seront plus prêts à réglementer des applications plus complexes de la technologie ».

La Chine va, par exemple, imposer des étiquettes bien visibles sur le contenu créé synthétiquement, y compris les photos et les vidéos, afin de prévenir les tromperies comme une vidéo en ligne de Nancy Pelosi qui a été trafiquée pour la faire paraître ivre.

La Chine va également exiger de toutes ses entreprises introduisant un modèle d’IA qu’elle utilise des « données légitimes » pour former ses modèles et qu’elle divulgue ces données aux régulateurs si nécessaire.

Une telle mesure peut apaiser les entreprises de médias qui craignent que leurs créations ne soient cooptées par des moteurs d’IA. De plus, les entreprises chinoises doivent fournir un mécanisme clair pour traiter les plaintes du public concernant les services ou le contenu.

Cependant, « l’IA a le potentiel de changer profondément la façon dont les gens travaillent, vivent et jouent d’une manière que nous commençons à peine à réaliser », a-t-il déclaré. « Cela pose également des risques et des menaces évidents pour l’humanité si le développement de l’IA se poursuit sans une surveillance adéquate », selon Andy Chun, expert en intelligence artificielle et professeur auxiliaire à la City University de Hong Kong.

Des mesures recherchées depuis plusieurs années

Dans ce secteur, la Chine a passé des années à jeter les bases d’une législation qui est entrée en vigueur le 15 août 2023. D’ailleurs, le Conseil d’État a publié une feuille de route sur l’IA en 2017 attestant que le développement de la technologie était une priorité et a établi pour cela un calendrier de mise en place de réglementations gouvernementales.

Certaines administrations chinoises ont fait appel à des juristes tels que Zhang Linghan de l’Université chinoise des sciences politiques et du droit sur la gouvernance de l’IA, selon Sheehan. Durant plusieurs mois de consultation, les régulateurs, les acteurs de l’industrie et les universitaires ont échangé sur la législation du secteur, afin qu’elle soit équilibrée.

L’objectif de cette initiative juridique de la part de la Chine « est motivée en partie par l’importance stratégique de l’IA et le désir d’acquérir un avantage réglementaire sur les autres gouvernements », a déclaré You Chuanman, directeur de l’Institute for International Affairs Center for Regulation and Global Governance à l’Université chinoise de Hong Kong à Shenzhen.

Les entreprises doivent s’adapter

Ainsi, les géants chinois de l’Intelligence Artificielle tels que Baidu Inc. ou encore Alibaba Group Holding et SenseTime Group Inc., se mettent au travail pour développer et innover un secteur prometteur mais polémique.

La Chine a ciblé l’IA comme l’une des douze priorités technologiques et, après un ré-ajustement législatif du secteur de la high tech, durant deux ans, le gouvernement cherche l’appui du secteur privé pour soutenir l’économie en déclin et concurrencer les États-Unis.

Après l’introduction de ChatGPT a déclenché une frénésie mondiale vis-à-vis de l’IA. Des dirigeants technologiques de premier plan et des entrepreneurs ont injecté des milliards de dollars dans le domaine.

« Dans le contexte d’une concurrence mondiale féroce, le manque de développement est la chose la plus dangereuse », a indiqué à CNN, Zhang Linghan, chercheur à l’Université chinoise des sciences politiques et du droit, concernant les nouvelles directives.

Au cours de cette année 2023, Alibaba, Baidu et SenseTime ont présenté des modèles d’IA. Xu Li, PDG de SenseTime, a réalisé la présentation la plus flashy, avec un chatbot qui écrit du code informatique à partir d’invites en anglais ou en chinois.

Pourtant, les entreprises chinoises peinent à faire face aux leaders mondiaux comme OpenAI et Google d’Alphabet, car les entreprises américaines ne sont pas aussi réglementées. « La Chine essaie de marcher sur la corde raide entre plusieurs objectifs différents qui ne sont pas nécessairement compatibles », a indiqué à CNN Helen Toner, directrice du Centre pour la sécurité et les technologies émergentes de Georgetown.

Selon elle, « l’un des objectifs est de soutenir leur écosystème d’IA, et un autre est de maintenir le contrôle social et de maintenir la capacité de censurer et de contrôler l’environnement de l’information en Chine. »

En Chine, les entreprises doivent être prudentes.

En février 2023, Yuanyu Intelligence, basée à Hangzhou, a mis fin à son service ChatYuan quelques jours seulement après son lancement.

Le bot avait qualifié l’attaque de la Russie contre l’Ukraine de « guerre d’agression », contrairement à la position de la Chine. De plus, il émit des doutes sur les perspectives économiques de la Chine, selon des captures d’écran qui ont circulé en ligne. Depuis, le même message s’affiche : « Le service reprendra une fois le dépannage terminé ».

D’autant que la startup a entièrement abandonné un modèle ChatGPT pour se concentrer sur un service de productivité IA appelé KnowX. « Les machines ne peuvent pas atteindre un filtrage à 100% », a déclaré Xu Liang, directeur de l’entreprise. « Mais ce que vous pouvez faire, c’est ajouter des valeurs humaines de patriotisme, de fiabilité et de prudence au modèle. »

En Chine, l’IA commence à se frayer un chemin sur la Grande Muraille du Net avec des contraintes techniques tout de même. « L’une des innovations les plus attrayantes de ChatGPT et des innovations similaires de l’IA est son imprévisibilité ou sa propre innovation au-delà de notre intervention humaine », a déclaré You Chuanman, de l’Université chinoise de Hong Kong. « Dans de nombreux cas, cela échappe au contrôle des fournisseurs de services de plate-forme. »

Certaines entreprises technologiques chinoises utilisent un filtrage de mots clés bidirectionnel, « en utilisant un grand modèle de langage pour s’assurer qu’un autre LLM est nettoyé de tout contenu controversé », selon la journaliste Simone McCarthy de CNN. Cependant, un fondateur de startup technologique a déclaré à cette dernière que le gouvernement procéderait à des vérifications ponctuelles sur la façon dont les services d’IA étiquètent les données.

« Ce qui est potentiellement le plus fascinant et le plus préoccupant est celui où la censure se produit à travers de nouveaux grands modèles de langage développés spécifiquement en tant que censeurs », a déclaré Nathan Freitas, membre du Berkman Klein Center for Internet and Society de l’Université de Harvard.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *