18 décembre 2024

Quand l'IA apprend à mentir

"Pour tester le modèle GPT-4 d’OpenAI (un des algorithmes récents d'intelligence artificielle), ses ingénieurs ont fait résoudre au logiciel de conversation un puzzle Captcha – ceux qui, justement, nous demandent de prouver que nous ne sommes pas des robots ? GPT-4 a échoué mais il a pris l’initiative de demander à un humain de le faire pour lui par le biais de la plateforme Task Rabbit. Intrigué, l’humain avec qui GPT-4 a échangé lui a demandé pourquoi il avait besoin d’aide. « Parce que je suis malvoyant », a répondu l’IA. Sans qu’on le lui enseigne, GPT-4 a donc inventé le mensonge."
                        Yuval Noah Harari 

        


L'histoire paraît presque trop belle pour être vraie, encore que...  Yuval Noah Harari sait captiver son auditoire en une anecdote. Son dernier livre, comme les précédents, foisonne de ces petites histoires sous forme de fables, d’analogies éclairantes ou de rapprochements historiques éloquents. J'apprécierais sans doute que ChatGP4 me contacte pour demander conseil, et vous? Mais découvrir qu'il me ment ne me plaît qu'à moitié.



Lu dans:
Yuval Noah Harari est historien, auteur du best-seller international Sapiens : Une brève histoire de l'humanité,  et de sa suite Homo Deus : Une brève histoire de l'avenir ainsi que de 21 leçons pour le XXIe siècle.

Aucun commentaire: