Buterin encourage Info Finance à stopper les exploits dans la gouvernance de l’IA

• Vitalik avertit que la gouvernance naïve de l’IA est vulnérable à la manipulation et aux exploits.
• L’info finance crée une diversité de modèles et des corrections rapides, rendant la gouvernance de l’IA plus sûre.
• Les marchés de prédiction et les contrôles ponctuels contribuent à sécuriser la prise de décision et le financement de l’IA.

Le cofondateur d’Ethereum, Vitalik Buterin, a averti que les modèles de gouvernance naïfs de l’IA présentent de sérieux risques et a mis en garde contre les cadres qui reposent sur l’IA pour le financement ou la prise de décision, car ils restent vulnérables à la manipulation et aux exploits. Selon lui, de tels systèmes permettent à des acteurs malveillants de détourner des ressources ; cependant, il préconise une approche appelée « info finance », conçue pour instaurer la responsabilité et prévenir les abus grâce aux marchés, à la supervision humaine et aux contrôles.

Les arguments contre la gouvernance naïve de l’IA

Buterin a souligné que la gouvernance naïve de l’IA est risquée et a ajouté que si l’IA est utilisée pour allouer des fonds, les gens pourraient la manipuler avec des instructions de leur choix et obtenir un surplus d’argent. Il a également expliqué que si les modèles fonctionnaient sans aucune restriction ou directive, ils pourraient être mal utilisés, encourageant ainsi les hackers à utiliser des instructions pour tromper l’IA et libérer des ressources de manière incorrecte. 

De telles vulnérabilités placent l’IA dans une boucle potentiellement dangereuse. De plus, Buterin a révélé des faiblesses systémiques qui, si elles ne sont pas contrôlées, pourraient être exploitées. Les attaques invisibles et les injections de prompts sont des exemples de la facilité avec laquelle les attaquants peuvent en profiter.

L’info finance comme alternative

Buterin opte pour l’information finance à la place de la gouvernance naïve, la décrivant comme une approche de « conception institutionnelle », mêlant la concurrence du marché ouvert à la vérification humaine. Il a déclaré :

En alternative, je soutiens l’approche info finance, où vous avez un marché ouvert où chacun peut contribuer avec ses modèles, qui sont soumis à un mécanisme de contrôle ponctuel pouvant être déclenché par n’importe qui et évalué par un jury humain.

Il a précisé que l’Info Finance permet à des contributeurs externes d’intégrer des modèles de langage de grande taille (LLM) sans coder en dur un seul système. Cela permettra une diversité de modèles, réduisant ainsi le risque d’échec généralisé. Cela crée également des incitations pour les développeurs et les spéculateurs à surveiller de près les défauts et à agir rapidement en cas de problème.

Un mécanisme proposé implique des marchés de prédiction ou des marchés de décision. Plusieurs modèles seraient en concurrence, et les participants pourraient miser sur les résultats, signalant ainsi quels modèles semblent les plus fiables. Des jurys ou auditeurs humains effectueraient périodiquement des contrôles ponctuels des résultats, en particulier dans les cas à fort enjeu.

À lire aussi : Les trésoreries ETH grimpent à 12 milliards de dollars alors que Vitalik met en garde contre les risques d’effet de levier

Implications pour la crypto et les marchés

L’info finance repose sur une responsabilité à plusieurs niveaux, et elle se distingue par la concurrence ouverte, qui permet de contester ou de remplacer les modèles défaillants. Une supervision humaine est ajoutée via des jurys et des audits. Les incitations économiques empêchent la manipulation, tandis que la transparence rend les comportements malveillants visibles.

En liant la gouvernance de l’IA à la blockchain et au trading, Buterin suggère que les failles de l’IA centralisée pourraient accroître l’intérêt pour des solutions décentralisées, principalement construites sur Ethereum. De plus, des tokens comme RNDR de Render Network et GRT de The Graph fournissent l’infrastructure pour les calculs IA, en tirant ainsi profit du développement. Par ailleurs, les traders pourraient également utiliser ETH et ces tokens pour l’arbitrage en période de volatilité du marché. 

Les données on-chain indiquent qu’il y a davantage de transactions ETH associées à des smart contracts liés à l’IA, et les problèmes de gouvernance de l’IA peuvent aussi impacter les actions technologiques, avec des entreprises comme NVIDIA et Microsoft impliquées dans les investissements IA. Globalement, Buterin a souligné que l’Info Finance permet des corrections plus rapides, remplaçant ainsi les modèles défaillants et sanctionnant les fauteurs de troubles. Il a également ajouté que les contrôles par jury et les contrôles ponctuels empêcheront la propagation des exploitations.

L’article Buterin Pushes Info Finance to Stop Exploits in AI Governance est apparu en premier sur Cryptotale.