Cherchez l’intrus

Le grand public, mais aussi les élèves, avec joie, et leurs professeurs, avec perplexité, ont découvert un nouveau logiciel nommé ChatGPT développé par OpenAI et accessible gratuitement sur Internet depuis peu. [1]

ChatGPT est un outil d’intelligence artificielle (IA) qui permet de tester les performances des plus récents modèles de génération de langage, appelés Transformers. Il peut être utilisé pour de nombreuses tâches : résumer un texte, répondre à des questions, créer ou corriger un programme informatique, simuler une interaction avec une personne morte etc.

Il permet surtout à peu de frais et sans effort de faire un devoir et de rédiger, et notamment des dissertations.
Faut-il l’interdire en classe ? Sans doute pas - sauf lors des devoirs. Faut-il interdire les devoirs-maison et revenir aux « compositions trimestrielles » ? Peut-être. Surtout il peut être judicieux d’en étudier, avec vos élèves, le fonctionnement, les questions multiples qu’il pose - ainsi que l’Intelligence Artificielle - notion à interroger ; bref, et d’en faire un vecteur de formation. [2]

En résumé : ChatGPT a donc été conçu à partir de textes intégrés grâce à des algorithmes. GPT-3 (Generative Pre-trained Transformer 3) est le modèle de langage de ChatGPT. Il s’agit donc d’une architecture de réseaux de neurones de 175 milliards de paramètres qui utilise des représentations linguistiques pré-entraînées provenant d’énormes bases de données (Wikipédia, pages Web).

ChatGPT peut donc produire des textes qui imitent le langage humain dans plusieurs langues. Par construction, le modèle n’a fait qu’enregistrer des informations sur les mots et parties de mots et leur contexte d’apparition.

ChatGPT est donc entraîné à donner, à partir d’une entrée textuelle, la séquence suivante des mots les plus probables – ce qui n’est pas réellement une réponse à une question ! Le modèle est assez souple pour ne pas toujours produire le même texte. ChatGPT utilise également un apprentissage par renforcement grâce à des formateurs humains qui ont classé plusieurs réponses alternatives. Le modèle est ainsi optimisé à partir d’interventions humaines.

Ainsi, il produit du texte sans en comprendre la teneur, et nous ne savons pas non plus comment il élabore ses réponses. Il peut être difficile de déterminer si le texte produit par ChatGPT a été écrit par un humain ou non, ce qui présente des risques. Les textes produits peuvent être excellents, mais aussi incohérents et totalement inventés.

 « Marcheur, il n’y a pas de chemin » : quelques pistes

A l’évidence, ChatGPT pose de nombreux défis éthiques et politiques. Mais il pose d’abord des défis intellectuels. Il constitue aussi une ressource fort intéressante et opportune pour entrer, avec vos élèves, dans l’intelligence de notre monde.

Parmi les pistes possibles :

• Travailler cette capsule (ou d’autres) à vos élèves.

• L’essayer avec eux et travailler sur le résultat, leur faire expliciter et comprendre son fonctionnement, poser la question de ses conditions d’élaboration et des possibilités de contrôle.

• Leur faire travailler à expliciter la notion d’intelligence artificielle – de quoi s’agit-il ? – de « l’intelligence floue » - comment elle intègre les usagers ?

• Poser le paradoxe d’une machine à produire du faux savoir : à quoi le reconnaît-on ? Quels effets ? Quelles réponses ?

• Apprendre, à cette occasion, à renforcer l’esprit critique : avec une consigne dans les devoirs : leur demander systématiquement aux élèves leurs sources, les faire réfléchir au chemin emprunté. Leur apprendre à tracer le chemin par lequel ils y sont parvenus.

Je vous souhaite des séances passionnantes.