Buterin sollecita Info Finance a fermare gli exploit nella governance dell'AI
- Vitalik avverte che una governance AI ingenua è vulnerabile a manipolazioni e sfruttamenti.
- Info finance crea diversità nei modelli e correzioni rapide, rendendo la governance AI più sicura.
- I mercati predittivi e i controlli a campione aiutano a garantire la sicurezza nelle decisioni e nei finanziamenti AI.
Il co-fondatore di Ethereum, Vitalik Buterin, ha avvertito che i modelli di governance AI ingenui comportano seri rischi e ha sottolineato che i framework che si affidano all’AI per il finanziamento o il processo decisionale rimangono vulnerabili a manipolazioni e sfruttamenti. Secondo lui, tali sistemi consentono ad attori malintenzionati di deviare risorse; tuttavia, sostiene un approccio chiamato “info finance”, progettato per costruire responsabilità e prevenire abusi attraverso mercati, supervisione umana e controlli.
Il Caso Contro la Governance AI Ingenua
Buterin ha sottolineato che la governance AI ingenua è rischiosa e ha aggiunto che se l’AI viene utilizzata per allocare fondi, le persone potrebbero manipolarla con prompt a loro scelta e ottenere denaro in eccesso. Ha inoltre spiegato che se i modelli funzionassero senza restrizioni o linee guida, potrebbero essere gestiti in modo improprio, incoraggiando così gli hacker a utilizzare prompt e ingannare l’AI per rilasciare risorse sbagliate.
Tali vulnerabilità pongono l’AI in un potenziale circolo vizioso pericoloso. Inoltre, Buterin ha rivelato debolezze sistemiche che, se non controllate, potrebbero essere manipolate. Attacchi invisibili e prompt injection sono esempi di come gli aggressori possano facilmente approfittarne.
Info Finance come Alternativa
Buterin opta per l’information finance al posto della governance ingenua, descrivendola come un approccio di “institution design” che combina la competizione di mercato aperto con la verifica umana. Ha dichiarato,
Come alternativa, sostengo l’approccio info finance, dove esiste un mercato aperto in cui chiunque può contribuire con i propri modelli, che sono soggetti a un meccanismo di controllo a campione che può essere attivato da chiunque e valutato da una giuria umana.
Ha spiegato che Info Finance consente a contributori esterni di integrare large language models (LLM) senza dover codificare un unico sistema. Questo permetterà una diversità nei modelli, riducendo così la possibilità di fallimenti diffusi. Inoltre, crea incentivi per sviluppatori e speculatori a monitorare attentamente i difetti e agire rapidamente quando si verificano problemi.
Un meccanismo proposto prevede l’uso di prediction market o decision market. Più modelli competerebbero e i partecipanti potrebbero puntare sugli esiti, segnalando quali modelli sembrano più affidabili. Giurie o revisori umani effettuerebbero controlli a campione periodici, soprattutto nei casi ad alto rischio.
Correlato: Le tesorerie ETH salgono a 12B$ mentre Vitalik avverte dei rischi di leva finanziaria
Implicazioni per Crypto e Mercati
Info finance si basa su una responsabilità a più livelli, ed è rilevante nella competizione aperta, che permette di contestare o sostituire modelli difettosi. La supervisione umana viene aggiunta tramite giurie e audit. Gli incentivi economici impediscono la manipolazione, mentre la trasparenza rende visibili i comportamenti malevoli.
Collegando la governance AI alla blockchain e al trading, Buterin suggerisce che i difetti nelle AI centralizzate potrebbero aumentare l’interesse verso soluzioni decentralizzate, per lo più costruite su Ethereum. Inoltre, token come RNDR di Render Network e GRT di The Graph forniscono infrastrutture per i calcoli AI, traendo così vantaggio dallo sviluppo. Inoltre, i trader potrebbero anche utilizzare ETH e questi token per arbitraggio durante la volatilità del mercato.
I dati on-chain indicano che ci sono più transazioni ETH associate a smart contract legati all’AI e che le problematiche di governance AI possono influenzare anche i titoli tecnologici, con aziende come NVIDIA e Microsoft coinvolte in investimenti AI. In generale, Buterin ha sottolineato che Info Finance consente correzioni più rapide, sostituendo così modelli difettosi e penalizzando i malintenzionati. Ha anche aggiunto che i controlli delle giurie e i controlli a campione impediranno la diffusione degli sfruttamenti.
L’articolo Buterin Pushes Info Finance to Stop Exploits in AI Governance è apparso per la prima volta su Cryptotale.
Esclusione di responsabilità: il contenuto di questo articolo riflette esclusivamente l’opinione dell’autore e non rappresenta in alcun modo la piattaforma. Questo articolo non deve essere utilizzato come riferimento per prendere decisioni di investimento.
Ti potrebbe interessare anche
Notizie: TSMC aumenterà i prezzi della produzione di wafer dal 3% al 6% a partire da gennaio prossimo, con la visibilità degli ordini estesa fino al 2030
Secondo quanto riportato dai media, i processi avanzati ad alto costo di TSMC come 2nm e 3nm hanno registrato i maggiori aumenti di prezzo; invece i processi maturi e speciali vengono negoziati singolarmente a seconda del prodotto, del tasso di utilizzo e delle condizioni del cliente. Attualmente, l’utilizzo della capacità degli impianti TSMC da 8 pollici supera il 100% e i processi inferiori a 45nm sono a pieno regime. La costruzione di data center AI non solo sta trainando la domanda di GPU e HBM, ma anche quella di ordini di processo maturo per PMIC, MCU e IC analogici.
Il Tesoro degli Stati Uniti prevede di riacquistare fino a 6 miliardi di dollari in titoli di Stato a lungo termine, il rendimento dei trentennali raggiunge il massimo dal 2007.
Questa è la seconda ondata di operazioni di riacquisto di titoli di Stato a lungo termine da parte del Tesoro. Questa volta saranno riacquistati titoli di Stato con scadenza tra 20 e 30 anni. Dopo l'annuncio del limite massimo previsto, il rendimento dei Treasury USA a 30 anni ha continuato a salire, superando temporaneamente il 5,4%. Nella prima tornata di riacquisti di due settimane fa, il limite massimo era stato anch'esso fissato a 6 miliardi di dollari, inferiore alle aspettative di alcuni operatori di mercato; il riacquisto effettivo è stato di soli 5,2 miliardi di dollari, poiché, secondo il Tesoro, non sono state presentate offerte competitive a sufficienza.
Pressione da molteplici fattori, la svendita dei titoli di stato USA si intensifica! Il rendimento a 5 anni supera il 5% per la prima volta dal 2007, quello a 10 anni supera il 5,1%
L'indice PMI degli Stati Uniti per settembre è risultato superiore alle aspettative, il prezzo internazionale del petrolio è tornato sopra i 100 dollari e i segnali di ulteriori rialzi dei tassi da parte dei membri della Federal Reserve hanno tutti influito negativamente sul mercato obbligazionario. La deludente asta dei titoli di stato a 5 anni ha peggiorato ulteriormente la situazione del mercato obbligazionario. Il livello psicologico del 5% sui rendimenti dei treasury a 10 anni sta perdendo il suo ruolo di "tetto massimo" e il mercato ha iniziato a discutere la possibilità del 6%. Oltre alle aspettative di ulteriori rialzi dei tassi, anche le pressioni fiscali e l’aumento dell’offerta stanno contribuendo all’aumento dei rendimenti delle obbligazioni a lungo termine.
Secondo quanto riportato dai media, l'amministrazione Trump ha preso in considerazione un divieto di esportazione di diesel della durata di 90 giorni, poi smentito; il ministro dell'energia degli Stati Uniti si è apertamente opposto
Mercoledì, secondo quanto riportato da Politico, l'amministrazione Trump si sta preparando a un divieto di esportazione di diesel della durata di 90 giorni. Successivamente, Reuters ha riferito che gli Stati Uniti non sono pronti a implementare tale divieto. Nello stesso giorno, il ministro dell'Energia degli Stati Uniti ha dichiarato che vietare le esportazioni di diesel "sicuramente non funzionerebbe", poiché questa misura costringerebbe le raffinerie a ridurre la capacità produttiva, facendo così aumentare i prezzi della benzina e del carburante per aerei. Dopo il reportage di Politico, i future sul diesel americani sono scesi di oltre il 7%, con un successivo recupero parziale, ma senza riuscire a colmare la perdita.
Prezzi delle criptovalute
Altro
