Crise de l'essor des images pornographiques générées par IA : l'Indonésie devient le premier pays à interdire Grok

L’année dernière, le chatbot Grok d’Elon Musk a connu la première interdiction nationale mondiale. Les autorités indonésiennes ont temporairement bloqué cet outil d’IA en raison de la prolifération de contenus pornographiques, marquant ainsi le passage de la surveillance à l’action en matière de régulation de l’IA à l’échelle mondiale. Il ne s’agit pas d’un incident isolé, mais d’un reflet d’un problème commun à l’échelle mondiale : comment faire face aux contenus inappropriés générés par les outils d’IA.

La controverse sur les images pornographiques révèle le vide réglementaire des outils d’IA

Grok a suscité une vive polémique mondiale en raison de sa capacité à générer des images pornographiques. L’Indonésie a été la première à intervenir, convoquant des hauts responsables de X pour des discussions, et a émis une première interdiction. Cette démarche a attiré l’attention de la communauté internationale, et des gouvernements ainsi que des organismes de régulation en Europe, en Asie, etc., ont également condamné les contenus inappropriés présents sur cette application, certains ayant lancé des enquêtes.

Des observateurs de l’industrie soulignent que la capacité de Grok à générer des images pornographiques provient essentiellement de la surabondance de données d’entraînement des modèles d’IA et du manque de mécanismes de régulation. Lors de la collecte de données sur Internet, les grands modèles de langage ont souvent du mal à filtrer efficacement les contenus inappropriés, ce qui permet à leur capacité de génération de s’étendre indéfiniment.

La menace du deepfake sur les droits humains : pourquoi le gouvernement indonésien agit-il rapidement ?

Le ministre indonésien des Communications et du Numérique, Mutiya Hafid, a clairement indiqué le problème dans une déclaration officielle. Il a souligné que la génération non consensuelle d’images pornographiques et de contenus deepfake constitue une violation grave des droits humains, de la dignité des citoyens et de la sécurité de l’espace numérique. Ces contenus numériques non volontaires, en particulier les images pornographiques falsifiées visant de véritables individus, deviennent un nouvel outil de violence sexuelle.

La décision de l’Indonésie reflète la difficulté des pays en développement face à l’impact des technologies d’IA : le cadre juridique traditionnel ne peut suivre le rythme de l’évolution technologique. Lorsqu’il s’agit de violences sexuelles, de violations des droits humains et de nouvelles technologies, seules des mesures drastiques de prohibition peuvent être prises.

Le tournant mondial de la régulation derrière la première interdiction

L’Indonésie devient le premier pays à interdire l’accès à Grok, marquant une nouvelle étape dans la gouvernance de l’IA à l’échelle mondiale. Ce n’est pas une fin en soi, mais un signal. Avec la maturation croissante des applications de génération d’images pornographiques, de deepfake, etc., les gouvernements seront confrontés à une pression réglementaire de plus en plus forte.

Actuellement, des pays développés comme l’Europe et les États-Unis élaborent des cadres de régulation plus détaillés pour l’IA, en se concentrant sur les normes de modération de contenu, la responsabilité des plateformes, etc. Les pays en développement tendent à privilégier des mesures plus directes de prohibition. À l’avenir, l’établissement de normes internationales pour le contenu généré par l’IA et des accords de régulation pourrait devenir une option commune à tous les pays.