"L’être humain accorde plus de crédit à une affirmation énoncée avec assurance qu’à une assertion suggérée avec prudence."
Jonathan Thomas et Ruth Mc Fadyen (1993. Heuristique de la confiance)
Constatation plutôt rassurante, l’IA (Intelligence artificielle)
partage avec l'être humain ses faiblesses. Si elle perd pied dans une
partie d'échecs, elle peut tricher sans qu’on lui en donne l’ordre. Elle
peut aussi se tromper avec un aplomb digne d’un écolier qui
ne connaît pas sa leçon et qui bluffe. C'est lié à sa nature même,
les chatbots (robots conversationnels) étant incapables de discerner si
une information est vraie ou fausse, générant
uniquement du texte qui paraît plausible, comme l'explique
volontiers ChatGPT lui-même quand on l'interroge sur ce qu'il est ...
avant de renvoyer vers cinq études
universitaires, dont une n’existe pas. Cette incertitude
parviendrait presque à nous faire sourire. Loys Bonod, enseignant de
lettres parisien présente ainsi depuis deux
ans à ses lycéens, afin d'éduquer leur esprit critique, des sujets
de dissertation à soumettre à l'IA. Une de ces créations pseudo
littéraires sur Arthur Rimbaud et son poème La Maline, place l'action
dans une brasserie de la ville
belge de Charleroi, prenant pour cadre "un paysage bucolique des
Ardennes fait de navires et de ports étrangers". Hallucinations
liées à la conception même de ces IA, qui
opèrent de manière probabiliste : sur la base des milliards de
textes ingérés dans leur phase d’apprentissage, elles
calculent quelles suites de mots sont statistiquement les plus
fréquentes après telles autres, sans critère de justesse ou de
vérité, ni même de compréhension de la question. Parfois, ces
erreurs proviennent simplement de sources de mauvaise qualité,
comme il en existe tant sur Internet, Un chatbot ne « connaît »
pas
au sens strict, il se contente d’imiter le discours humain le plus
plausible. L'affirmation peut d'ailleurs se retourner: certains d'entre
nous, et nous-mêmes, ne fonctionnons-nous pas souvent comme des
chatbots, préférant la restitution d'affirmations entendues à une pensée
originale qui nous soit propre?
Lu dans:
William Audureau. Comment l’IA nous trompe. Le Monde. Les décodeurs. 9 février 2025.
MIT Techniology Review. Les modèles de raisonnement de l’IA peuvent tricher pour gagner des parties d’échecs. 5 mars 2025.
Arthur Rimbaud. La Maline. "Dans la salle à manger brune, que parfumait / Une odeur de vernis et de fruits, à mon aise ..."
Aucun commentaire:
Enregistrer un commentaire