OpenAI a publié un « Guide de l’étudiant pour écrire avec ChatGPT ». Dans ce billet, je passe en revue leurs conseils et je propose quelques contre-arguments, d’un point de vue d’enseignant-chercheur. Après avoir abordé chacune des 12 suggestions d’OpenAI, je conclus en évoquant rapidement les aspects éthiques, cognitives et environnementaux que tout étudiant devrait considérer avant de décider d’utiliser ou non ChatGPT. (Version anglaise : A Student’s Guide to Not Writing with ChatGPT)

ChatGPT, donc, bavarde. Il bavarde de façon probabiliste, sur la base de ce qu’il a entendu (son corpus d’entraînement — c’est l’idée du « perroquet stochastique ») et sur la base des instructions qu’il a reçues ensuite pour éviter de dire des choses qui pourraient déranger.

faute d'ortho à l'antépénultième §

du danger de penser l'IA comme un outil universel.

Recensement des algorithmes sous forme de fiche. On retrouve une fiche par algorithme

Ce qui caractérise ChatGPT, nous l’avons vu, c’est qu’il se fout de ce qu’il raconte : il communique pour communiquer. Je crois qu’il y a lieu de s’inquiéter des effets d’un tel média sur nos sociétés. Comme le dénonçait notamment Norbert Wiener, lorsqu’il n’y a de communication que pour elle-même, elle n’a plus de valeur« Rôle de l’intellectuel et du savant », 2014 [1954].
.

En vertu du règlement IA, nous serons donc tous coupables par défaut et mis sous surveillance algorithmique, l’UE ayant accordé un blanc-seing à la surveillance biométrique de masse. Les pays de l’UE auront ainsi carte blanche pour renforcer la surveillance de nos visages et de nos corps, ce qui créera un précédent mondial à faire froid dans le dos.