Ce choix entraîne deux conséquences majeures. D’une part, les mots rares dans ce corpus (mais qui peuvent être endémiques dans des corpus spécialisés) se raréfient encore, voire disparaissent. Et il en résulte une restriction du dicible – voire du pensable, selon le principe énoncé par Winston, le commissaire politique du roman 1984 de George Orwell (« Ne voyez-vous pas que le véritable but du novlangue est de restreindre les limites de la pensée ? À la fin, nous rendrons littéralement impossible le crime par la pensée, car il n’y aura plus de mots pour l’exprimer. »)

Quel contenu doit être étiqueté comme généré ou manipulé par l’IA?
Les icônes sont destinées à aider les personnes physiques exposées à un tel contenu à reconnaître, de manière claire et distincte, que le contenu a été généré ou manipulé artificiellement. Cette obligation favorise la confiance du public, réduit le risque de désinformation et de consultation et de lecture informées par des personnes physiques de toutes sortes de contenus.
Tous les contenus générés ou manipulés par l’IA n’ont pas besoin d’être étiquetés. L’obligation de divulgation prévue par la législation sur l’IA ne couvre que les contenus générés ou manipulés par l’IA.

Au final, l’enquête historique de Nathan Genicot nous rappelle que pour changer la société, il va falloir changer la manière dont elle calcule.

Ce guide propose cinq principes essentiels qui garantissent un usage responsable de l'IA générative pour les agents publics de l'État, conforme au droit et respectueux des valeurs du service public.
Les 5 principes en résumé :
L'IA vous assiste mais vous restez responsable de vos décisions.
Les données sensibles ne peuvent être traitées qu'avec les outils autorisés par votre administration.
Informez vos destinataires internes ou externes lorsque vous utilisez l'IA.
N'utilisez l'IA que lorsqu'elle est utile, en restant vigilant à ses biais, au respect du droit d'auteur et à son impact environnemental.
Formez-vous pour maîtriser l'IA et ses enjeux.

Manifeste pour l’enseignement supérieur et l’éducation nationale

La journaliste et chercheuse Sophia Goodfriend qualifie toute cette affaire de « rafle de l’IA » et observe avec perspicacité : « Là où l’IA échoue techniquement, elle tient ses promesses idéologiques ».

Pour reprendre les termes du cybernéticien Stafford Beer, « il est inutile de prétendre que la finalité d’un système est de faire ce qu’il échoue constamment à faire ». « Le but d’un système est ce qu’il fait », disait-il. Et se concentrer principalement sur ce que le système ne peut pas réellement faire (comme le fait le battage médiatique) risque de détourner l’attention de ce qu’il fait réellement.

Pour répondre aux défis de la modernité, nous n’avons pas besoin de générateur de textes, mais de gens, de volonté politique et de ressources,