ChatGPT est devenu l'un des sujets les plus en vogue dans le monde. Un tel système d'IA est appelé « IA générative », qui pourrait générer des textes, des images, des voix, des médias, des codes et d'autres matériaux en réponse à ce que l'utilisateur a importé ou requis, sur la base d'algorithmes, de modèles et de règles. L'IA générative peut être utilisée dans divers scénarios et promouvoir la révolution de certaines industries, et a donc suscité beaucoup d'attention. En réponse au développement de l'IA générative, le Cyberspace Administrative of China (ci-après « CAC ») a publié les mesures administratives proposées pour le service d'IA générative (projet pour consultation publique) (« 生成式人工智能服务管理办法（征求意见稿） », ci-après « Projet de mesures administratives ») le 11 avril 2023.
1. Points forts
Le projet de mesures administratives comprend 21 articles, couvrant les questions clés ci-dessous.
1) Champ d'application : compétence extraterritoriale
Ce projet de mesures administratives s'applique à toute personne qui innove ou utilise l'IA générative et fournit des services en Chine (les fournisseurs) (article 2). Cela signifie que le projet de mesures administratives aurait un effet extraterritorial. Un tel effet extraterritorial est fondé sur la doctrine de l'effet et la doctrine territoriale objective. D'une part, le contenu généré par l'IA générative peut affecter l'ordre social ou d'autres relations en Chine, ayant ainsi un effet en Chine. D'autre part, l'IA générative sera utilisée par les utilisateurs du territoire, le fonctionnement de l'IA générative situé sur le territoire, qui fournit la base de la doctrine territoriale objective.
2) Obligations des Prestataires
Les fournisseurs assumeraient les responsabilités suivantes conformément au projet de mesures administratives.
(1) Contenu
Les fournisseurs devraient être responsables du contenu généré par l'IA. Le contenu doit être légal, exact et authentique. Il ne doit pas être délictueux, discriminatoire, faux, antisocial, antigouvernemental, antinational, terroriste, extrême, violent, pornographique et distrayant de l'ordre économique et social. Les Fournisseurs doivent supprimer le contenu inapproprié activement ou à la demande des utilisateurs et améliorer ou optimiser l'IA.
(2) Utilisations
Premièrement, les Prestataires doivent se conformer à l'éthique commerciale et ne doivent pas se livrer à des pratiques de concurrence déloyale. Deuxièmement, les Fournisseurs ne doivent pas porter atteinte aux droits d'autrui, y compris la propriété intellectuelle, les informations personnelles, la confidentialité et les secrets commerciaux. Troisièmement, les fournisseurs ne doivent pas générer le contenu de manière discriminatoire.
(3) Nouveautés
Le projet de mesures administratives prévoit également des exigences pour l'innovation de l'IA générative. Les fournisseurs doivent promulguer des instructions claires, spécifiques et utilisables pour les contributeurs, former les contributeurs et garantir l'exactitude du contenu une fois que l'annotation artificielle est requise.
(4) Coopération avec l'administration
Les Prestataires doivent coopérer activement avec l'administration requise par la réglementation ou les agents administratifs. Tout d'abord, les fournisseurs doivent enregistrer l'IA générative ou faire rapport pour une évaluation de la sécurité conformément aux réglementations connexes sur le service Internet. Deuxièmement, les fournisseurs doivent marquer les images et vidéos générées conformément au règlement sur le service de Deepfake. Troisièmement, les fournisseurs doivent fournir les informations essentielles susceptibles d'affecter le choix des utilisateurs à la demande de l'agent administratif.
(5) Gestion des Utilisateurs
Les fournisseurs doivent gérer les utilisateurs de l'IA générative. Premièrement, les fournisseurs doivent demander aux utilisateurs de fournir leurs informations d'identité. Deuxièmement, les fournisseurs devraient préciser et rendre public la cible de leur service et prendre des mesures pour empêcher les utilisateurs d'être dépendants du contenu fourni par l'IA. Troisièmement, les fournisseurs doivent demander aux utilisateurs d'utiliser le contenu génératif de manière appropriée et interdire temporairement ou définitivement les utilisateurs s'ils utilisent l'IA de manière illégale ou immorale.
2. commentaires
1) Effets positifs
Le projet de mesures administratives est une réponse rapide de la Chine à la tendance de l'IA générative. Il a servi de complément essentiel au cadre réglementaire de l'IA. Il a plusieurs effets positifs. Premièrement, il couvre la plupart des problèmes juridiques soulevés par l'IA générative, y compris l'attribution de la responsabilité de l'IA, la menace pour la propriété intellectuelle, le contenu préjudiciable, la concurrence déloyale et l'atteinte à la vie privée, etc. l'IA générative, de l'innovation à l'utilisation. Deuxièmement, l'article 3 du projet de mesures administratives a montré l'attitude favorable de la Chine à l'égard du développement de l'IA en déclarant que le gouvernement soutiendrait et encouragerait l'innovation, l'application et la collaboration internationale de l'IA. Troisièmement, le projet de mesures administratives constitue un élément essentiel du cadre réglementaire typologique de l'IA, qui se compose de plusieurs règlements axés sur différentes catégories d'IA.
2) Statut juridique
Le projet de mesures administratives n'est pas une loi, puisqu'il est publié par la CAC, une
Bureau administratif auprès du Conseil d'État. Selon la loi sur la législation de la Chine, les lois ne peuvent être promulguées que par l'Assemblée populaire nationale. Par conséquent, la CAC ne peut émettre que des règles administratives ou des documents normatifs, qui se situent à un niveau inférieur dans le système hiérarchique de la législation chinoise et ne peuvent pas entrer en conflit avec les lois. Cependant, un tel statut juridique a assuré dans une certaine mesure flexibilité et efficacité. D'une part, par rapport aux lois, les exigences pour promulguer ou modifier les règles administratives ou les documents normatifs sont moins strictes. D'autre part, tous les agents administratifs pourraient émettre des documents réglementaires au sein de leur propre autorité administrative lorsqu'ils l'estiment nécessaire, ce qui assure une réponse rapide au besoin de réglementation.
3) Risques
Il convient de noter qu'il peut y avoir d'autres risques induits par le projet de mesures administratives. Bien que l'article 3 ait déclaré l'attitude favorable du gouvernement, il faut reconnaître que l'administration a considérablement alourdi la charge pesant sur les fournisseurs d'IA générative. La technologie de l'IA générative est loin d'être mature. Ainsi, il est douteux que les prestataires soient compétents pour se conformer à toutes les obligations prévues par le projet de mesures administratives, ou du moins cela augmenterait le coût de la mise en conformité. Par exemple, le projet de mesures administratives exhorte les fournisseurs à empêcher les faux contenus. Cependant, techniquement parlant, le contenu peut difficilement être authentique à 100% au stade actuel. Cela peut coûter cher aux Fournisseurs de se conformer à une telle obligation. En conséquence, le fardeau élevé de la conformité peut être un obstacle au développement et à l'innovation de l'IA générative dans une certaine mesure.
Pour conclure, le projet de mesures administratives reflète l'attitude positive de la Chine à l'égard de la réglementation de l'IA. Il a imposé une exigence de conformité relativement élevée aux entités ayant l'intention de fournir des services d'IA générative. Cette attitude contribue au développement sain de l'IA générative, bien que le coût élevé de la conformité puisse susciter des inquiétudes. Dans l'ensemble, l'effet du projet de mesures administratives mérite toujours d'être observé.
Voir http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.
Cyberspace Administrative of China, Ministry of Industry and Information Technology of China et Ministry of Public Security of China, Regulation on Service of Deepfake, Regulation No. 12.
Photo de couverture par Groupe nébulaire sur Unsplash
Contributeurs: Jidong Lin 林济东
