Buterin drängt Info Finance, Ausnutzungen in der KI-Governance zu stoppen
- Vitalik warnt davor, dass naive KI-Governance anfällig für Manipulationen und Ausnutzung ist.
- Info Finance schafft Modellvielfalt und schnelle Korrekturen, wodurch die KI-Governance sicherer wird.
- Prognosemärkte und Stichprobenprüfungen helfen, KI-Entscheidungen und -Finanzierungen abzusichern.
Ethereum-Mitbegründer Vitalik Buterin hat davor gewarnt, dass naive Modelle der KI-Governance ernsthafte Risiken bergen, und betont, dass Rahmenwerke, die sich auf KI für Finanzierungen oder Entscheidungsfindungen verlassen, weiterhin anfällig für Manipulationen und Ausnutzung sind. Seiner Ansicht nach ermöglichen solche Systeme böswilligen Akteuren, Ressourcen umzuleiten. Er plädiert jedoch für einen Ansatz namens „Info Finance“, der darauf abzielt, durch Märkte, menschliche Aufsicht und Kontrollen Verantwortlichkeit zu schaffen und Missbrauch zu verhindern.
Das Problem mit naiver KI-Governance
Buterin betonte, dass naive KI-Governance riskant ist und fügte hinzu, dass, wenn KI zur Mittelvergabe eingesetzt wird, Menschen sie mit ihren eigenen Prompts manipulieren und überschüssiges Geld erhalten könnten. Er erläuterte weiter, dass, wenn Modelle ohne Einschränkungen oder Richtlinien arbeiten, sie missbraucht werden könnten, was Hacker dazu ermutigt, Prompts zu verwenden und die KI dazu zu bringen, falsche Ressourcen freizugeben.
Solche Schwachstellen bringen KI in eine potenziell gefährliche Schleife. Darüber hinaus enthüllte Buterin systemische Schwächen, die, wenn sie nicht überprüft werden, manipuliert werden könnten. Unsichtbare Angriffe und Prompt-Injektionen sind Beispiele dafür, wie Angreifer leicht Vorteile ziehen können.
Info Finance als Alternative
Buterin entscheidet sich für Information Finance anstelle naiver Governance und beschreibt es als einen Ansatz des „Institutionendesigns“, der offenen Marktwettbewerb mit menschlicher Überprüfung verbindet. Er sagte:
Als Alternative unterstütze ich den Info-Finance-Ansatz, bei dem es einen offenen Markt gibt, auf dem jeder seine Modelle einbringen kann, die einem Stichprobenmechanismus unterliegen, der von jedem ausgelöst und von einer menschlichen Jury bewertet werden kann.
Er erläuterte, dass Info Finance es externen Mitwirkenden ermöglicht, große Sprachmodelle (LLMs) zu integrieren, ohne ein einziges System fest zu programmieren. Dies ermöglicht Modellvielfalt und verringert so die Wahrscheinlichkeit eines weitreichenden Ausfalls. Es schafft auch Anreize für Entwickler und Spekulanten, Schwachstellen genau zu beobachten und bei Problemen schnell zu handeln.
Ein vorgeschlagener Mechanismus beinhaltet Prognosemärkte oder Entscheidungsbörsen. Mehrere Modelle würden konkurrieren, und Teilnehmer könnten auf Ergebnisse setzen, um anzuzeigen, welche Modelle am zuverlässigsten erscheinen. Menschliche Jurys oder Prüfer würden die Ergebnisse regelmäßig stichprobenartig überprüfen, insbesondere in Fällen mit hohen Einsätzen.
Verwandt: ETH-Treasuries steigen auf 12 Milliarden Dollar, während Vitalik vor Leverage-Risiken warnt
Auswirkungen auf Krypto und Märkte
Info Finance setzt auf gestufte Verantwortlichkeit und ist besonders im offenen Wettbewerb bemerkenswert, der es ermöglicht, fehlerhafte Modelle herauszufordern oder zu ersetzen. Menschliche Aufsicht wird durch Jurys und Audits ergänzt. Wirtschaftliche Anreize verhindern Manipulationen, während Transparenz böswilliges Verhalten sichtbar macht.
Indem Buterin die KI-Governance mit Blockchain und Handel verknüpft, deutet er an, dass Schwächen in zentralisierten KI-Systemen das Interesse an dezentralen Lösungen, die meist auf Ethereum basieren, steigern könnten. Darüber hinaus bieten Token wie Render Network’s RNDR und The Graph’s GRT Infrastruktur für KI-Berechnungen und profitieren somit von der Entwicklung. Händler könnten zudem ETH und die Token für Arbitrage bei Marktschwankungen nutzen.
On-Chain-Daten zeigen, dass es mehr ETH-Transaktionen im Zusammenhang mit KI-bezogenen Smart Contracts gibt und dass KI-Governance-Probleme auch Technologiewerte beeinflussen können, wobei Unternehmen wie NVIDIA und Microsoft in KI-Investitionen involviert sind. Insgesamt wies Buterin darauf hin, dass Info Finance schnellere Korrekturen ermöglicht, fehlerhafte Modelle ersetzt und Fehlverhalten bestraft. Er fügte hinzu, dass Jury- und Stichprobenprüfungen die Ausbreitung von Ausnutzung verhindern werden.
Der Beitrag „Buterin Pushes Info Finance to Stop Exploits in AI Governance“ erschien zuerst auf Cryptotale.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
20cm wendet das Blatt! Ist Applovins „Gaming-Grundlage“ weiterhin stabil?
Muss Musk nach der Wahl zur Rechenschaft gezogen werden? Deutsche Bank: Je angespannter die Rechenleistung, desto profitabler wird SpaceX; politische Risiken werden überschätzt.
Die Deutsche Bank ist der Ansicht, dass das politische Risiko von SpaceX vom Markt überschätzt wird – die wichtigsten Verträge werden von Bundesbehörden abgeschlossen, die Eingriffsmöglichkeiten des Kongresses sind äußerst begrenzt, und in den meisten Geschäftsbereichen gibt es keine alternativen Anbieter. Das unmittelbarste Risiko ergibt sich aus der harten Haltung des designierten Gouverneurs von Texas gegenüber Rechenzentren, doch eine Verknappung des Angebots an Rechenleistung könnte im Gegenteil die Preissetzungsmacht und die Einnahmen von SpaceX erhöhen.
Nach dem Absturz der US-Aktienmärkte: Cathie Wood bleibt optimistisch trotz zunehmender Sorgen – der Bullenmarkt ist noch nicht vorbei
Als der Nasdaq in den Korrekturbereich fiel, äußerte sich Cathie Wood: Gerade die vorherrschende Sorge am Markt gibt ihr mehr Vertrauen in die Fortsetzung des Bullenmarkts. Sie führt die aktuelle Korrektur auf Druck am Anleihenmarkt und Kontroversen um Investitionen in Künstliche Intelligenz zurück, betont jedoch, dass die technologische Revolution noch im Gange ist. Sie gab zudem bekannt, dass ARK die Gelegenheit genutzt hat, hochüberzeugte Positionen wie SpaceX weiter auszubauen. Sie erwartet, dass der Aktienmarkt auch 2027 weiterhin gut abschneiden wird.
Nach der „schwarzen Woche“ für Technologiewerte ruft die Wall Street zum „Bottom-Picking“ auf.
Morgan Stanley hat klar Stellung bezogen: „Die kommenden zwei bis drei Wochen sind der richtige Zeitpunkt für zusätzliche Investitionen.“ Ed Yardeni bezeichnet den aktuellen Rückgang als „Korrektur“ und nicht als Platzen einer Blase. Die führenden Wall-Street-Institutionen prognostizieren im Durchschnitt einen Endjahreszielwert für den S&P 500 von 7.973 Punkten. Die meisten Strategen sehen jedoch die zukünftige Entwicklung der KI-Politik weiterhin als größten Unsicherheitsfaktor.
Krypto-Preise
Mehr
