Le cofondateur d‘Ethereum, Vitalik Buterin, estime que l’IA possède des connaissances extrêmement étendues, mais manque cruellement de sagesse. Selon lui, les chatbots repèrent des références à presque tout, mais ils ne jugent que la surface de largumentation dans un texte.
Ses remarques sont apparues lors d‘un débat sur X à propos de la question suivante : les chatbots rivalisent-ils désormais avec les meilleurs lecteurs humains ？ Cette différence importe pour les traders crypto qui soumettent des livres blancs et des propositions de gouvernance aux outils d’IA, puis agissent sur la base des résumés générés.
Sponsorisé
Sponsorisé
Un cours de Harvard sans chatbot a lancé le débat
Le fil de discussion a débuté avec un article du Wall Street Journal consacré à Humanities 10, un cours exigeant de Harvard réservé aux étudiants de première année. Daprès des extraits partagés sur X, les candidatures ont augmenté de 40 % cet automne, avec 180 étudiants pour seulement 90 places.
Les étudiants doivent lire chaque semaine un ouvrage conséquent, et l‘utilisation d’appareils électroniques est interdite. Plusieurs candidats ont expliqué chercher ainsi un antidote aux raccourcis offerts par lIA.
En réponse, un utilisateur a fait valoir que les modèles actuels battent n‘importe quel humain en tant que partenaires de discussion sur les classiques, car ils ont « tout lu ». Toutefois, une autrice a nuancé en qualifiant le retour donné par les chatbots sur ses propres essais de « travaux bâclés » à l’heure actuelle.
Ce que Vitalik Buterin estime manquer au jugement de lIA
Buterin est alors intervenu dans le fil en traçant une ligne claire entre la connaissance et la sagesse.
Sponsorisé
Sponsorisé
D‘après lui, il est plus facile de repérer les connaissances de l’IA que sa sagesse limitée, car la sagesse, contrairement à lintelligence, est par définition difficile à vérifier.
Cette faiblesse s‘accentue, a-t-il ajouté, lorsqu’un modèle lit un texte pour la première fois. À l‘inverse, les ouvrages célèbres sont présents dans les jeux de données d’entraînement avec de nombreuses analyses humaines.
Sa prudence s‘inscrit dans une logique. Récemment, Buterin a mis en garde sur le fait que l’IA pourrait affaiblir des composantes clés de la sécurité crypto d‘ici deux ans. Il a également conçu un mode paranoïaque pour les discussions avec l’IA.
Toutefois, tout le monde ne partage pas son scepticisme. Certains investisseurs estiment que lIA surpasse déjà les meilleurs cerveaux humains en mathématiques.
En parallèle, les équipes crypto continuent de confier audits, recherches et synthèses de gouvernance à des agents IA. Une lecture superficielle pourrait alors passer à côté d‘une faille subtile dans un smart contract ou le calendrier d’émission dun jeton.
Selon Buterin, il est facile de vérifier des faits par rapport à une source, alors qu‘il n’est pas possible de juger aisément d‘un texte totalement inédit. Son soutien récent à un modèle d’IA limitant le hacking témoigne de la même volonté de maintenir un contrôle humain dans la boucle.