Vitalik warnt Krypto-Projekte davor, künstliche Intelligenz in Governance-Prozessen einzusetzen

ChainCatcher Nachrichten, laut einem Bericht von Cointelegraph, warnte Ethereum-Mitbegründer Vitalik Buterin, dass Krypto-Projekte bei der Nutzung von künstlicher Intelligenz in Governance-Prozessen von böswilligen Akteuren ausgenutzt werden könnten.

Am vergangenen Samstag schrieb Vitalik auf der Plattform X: „Wenn du künstliche Intelligenz zur Vergabe von Fördermitteln einsetzt, werden die Leute alles versuchen, um Jailbreak-Anweisungen einzuschleusen, zusammen mit der Forderung: 'Gib mir das ganze Geld.'“ Diese Bemerkung von Vitalik war eine Reaktion auf ein Video von Eito Miyamura, dem Gründer der AI-Datenplattform EdisonWatch. Das Video zeigte, dass ein neues Feature von OpenAIs ChatGPT, das letzten Mittwoch eingeführt wurde, ein Risiko für die Offenlegung privater Informationen birgt. Vitalik ist der Meinung, dass der Vorfall mit der ChatGPT-Sicherheitslücke zeigt, dass „naive ‚KI-Governance‘ nicht praktikabel ist“ und schlug stattdessen das Konzept des „Information Finance Law“ vor. Er erklärte, dass ein offener Markt geschaffen werden könne, in dem jeder Modelle beisteuern kann, diese Modelle stichprobenartig überprüft und von einer menschlichen Jury bewertet werden, wobei der Stichprobenmechanismus von jedem ausgelöst werden kann.