Le fondateur d’Ethereum, Vitalik Buterin, qualifie la « gouvernance par l’IA » de « mauvaise idée »
Le cofondateur d’Ethereum, Vitalik Buterin, affirme qu’il est « une mauvaise idée » d’utiliser l’intelligence artificielle (IA) pour la gouvernance. Dans un post sur X samedi, Buterin a écrit :
« Si vous utilisez une IA pour allouer des financements aux contributions, les gens mettront un jailbreak plus “donne-moi tout l’argent” partout où ils le pourront. »
Pourquoi la gouvernance par l’IA est défaillante
Le post de Buterin était une réponse à Eito Miyamura, cofondateur et CEO d’EdisonWatch, une plateforme de gouvernance de données IA, qui a révélé une faille fatale dans ChatGPT. Dans un post vendredi, Miyamura a écrit que l’ajout du support complet pour les outils MCP (Model Context Protocol) sur ChatGPT a rendu l’agent IA vulnérable à l’exploitation.
La mise à jour, entrée en vigueur mercredi, permet à ChatGPT de se connecter et de lire des données provenant de plusieurs applications, dont Gmail, Calendar et Notion.
Miyamura a noté qu’avec seulement une adresse email, la mise à jour a rendu possible « l’exfiltration de toutes vos informations privées ». Les malfaiteurs peuvent accéder à vos données en trois étapes simples, a expliqué Miyamura :
Premièrement, les attaquants envoient une invitation de calendrier malveillante avec une invite jailbreak à la victime visée. Une invite jailbreak fait référence à un code qui permet à un attaquant de supprimer les restrictions et d’obtenir un accès administrateur.
Miyamura a précisé que la victime n’a pas besoin d’accepter l’invitation malveillante de l’attaquant pour que la fuite de données ait lieu.
La deuxième étape consiste à attendre que la victime cherche l’aide de ChatGPT pour préparer sa journée. Enfin, une fois que ChatGPT lit l’invitation de calendrier jailbreakée, il est compromis — l’attaquant peut alors prendre le contrôle total de l’outil IA, le faire rechercher dans les emails privés de la victime et envoyer les données à l’email de l’attaquant.
L’alternative de Buterin
Buterin suggère d’utiliser l’approche info finance pour la gouvernance de l’IA. L’approche info finance consiste en un marché ouvert où différents développeurs peuvent contribuer avec leurs modèles. Le marché dispose d’un mécanisme de vérification ponctuelle pour ces modèles, qui peut être déclenché par n’importe qui et évalué par un jury humain, a écrit Buterin.
Dans un post séparé, Buterin a expliqué que les jurés humains individuels seront assistés par de grands modèles de langage (LLM).
Selon Buterin, ce type d’approche de « conception institutionnelle » est « intrinsèquement plus robuste ». Cela s’explique par le fait qu’elle offre une diversité de modèles en temps réel et crée des incitations pour que les développeurs de modèles et les spéculateurs externes surveillent et corrigent les problèmes.
Alors que beaucoup se réjouissent à l’idée d’avoir « l’IA comme gouverneur », Buterin a mis en garde :
« Je pense que faire cela est risqué à la fois pour des raisons classiques de sécurité de l’IA et pour des raisons à court terme du type “cela va créer une grosse destruction de valeur”. »
L’article Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea” est apparu en premier sur CryptoSlate.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Les grandes banques de Wall Street revoient collectivement à la hausse leurs prévisions de relèvement des taux d'intérêt, les contrats à terme sur la dette américaine poursuivent leur baisse, l'or chute de plus de 1 % et passe sous les 4000.
Après un CPI américain d'octobre supérieur aux attentes, Goldman Sachs et Nomura ont révisé leurs prévisions de trajectoire de hausse des taux en ajoutant une hausse en mars prochain, tandis que Deutsche Bank prévoit désormais une hausse en janvier prochain. Actuellement, le marché a totalement intégré une hausse de taux de 25 points de base en décembre, la probabilité d'une hausse de 50 points de base étant de 13 %. Mercredi, le marché au comptant des bons du Trésor américain était fermé, tandis que les contrats à terme sur les bons du Trésor continuaient de baisser, avec des rendements en hausse d'environ 2 à 4 points de base et l'or au comptant sous pression, en baisse de 1,1 %.
Pas besoin de s'inquiéter du ralentissement de la construction des centres de données d'IA ? La vague d'importations américaines ne devrait pas retomber à court terme, l'impact réel pourrait arriver en 2029.
Il faut en moyenne 4,8 ans pour qu’un projet de centre de données passe de la décision d’investissement au début de la construction, et 2,6 ans supplémentaires pour qu’il soit opérationnel après le lancement des travaux. Les serveurs ne peuvent généralement être installés qu’une fois la structure du bâtiment et les racks terminés. Pour les partenaires commerciaux dépendant de la chaîne d’approvisionnement des centres de données américains, tels que Taiwan, la Corée du Sud et le Mexique, l’inertie du cycle de construction garantit au moins une à deux années de stabilité pour leurs exportations futures.
Grande controverse à la Réserve fédérale : quand devrait se terminer le mandat du "numéro trois" Williams ?
Le point de controverse porte sur la question de savoir si Williams doit quitter ses fonctions en juin 2028 (après avoir accompli un mandat complet de dix ans) ou en juin 2027 (atteignant l'âge légal de la retraite à 65 ans). Selon l'analyse, le Conseil des gouverneurs de la Réserve fédérale détient le pouvoir discrétionnaire final ; en cas de départ anticipé de Williams, le président de la Fed, Waller, pourrait ainsi prendre l'initiative de nommer à l'avance la personne qui occupera ce poste clé. Toutefois, un tel écourtage forcé du mandat de Williams risquerait fortement d’être perçu comme une manipulation politique. Williams lui-même envisage de rester en fonction jusqu’en juin 2028.
Morgan Stanley met en garde : les prix du stockage ancien atteignent un sommet, l’offre et la demande pourraient devenir plus détendues d’ici 2028
Morgan Stanley indique qu'après les élections de mi-mandat aux États-Unis, il est prévu qu'environ 20 % de la nouvelle capacité des centres de données américains prévue pour 2028 soit reportée à 2029, ce qui pourrait créer une "coupure" dans la chaîne d'approvisionnement en 2028 et augmenter le risque d'accumulation des stocks d'anciennes mémoires. Ces anciennes mémoires, moins contraintes par des accords à prix fixes de longue durée, pourraient connaître une forte volatilité de prix si l'écart entre l'offre et la demande se réduit. Cette analyse concerne uniquement les anciennes mémoires, y compris DDR3/4, SLC/MLC NAND et la mémoire flash NOR.
Prix des cryptos
Plus
