Itinulak ni Buterin ang Info Finance na Itigil ang mga Pagsasamantala sa AI Governance

• Binalaan ni Vitalik na ang simpleng AI governance ay madaling manipulahin at abusuhin.
• Ang info finance ay lumilikha ng pagkakaiba-iba ng modelo at mabilis na pagwawasto, na ginagawang mas ligtas ang AI governance.
• Ang prediction markets at spot checks ay tumutulong sa pag-secure ng AI decision-making at pondo.

Binalaan ng Ethereum co-founder na si Vitalik Buterin na ang mga simpleng modelo ng AI governance ay nagdadala ng seryosong panganib at nagbabala na ang mga framework na umaasa sa AI para sa pagpopondo o paggawa ng desisyon ay nananatiling madaling manipulahin at abusuhin. Sa kanyang pananaw, pinapayagan ng ganitong mga sistema ang masasamang aktor na ilihis ang mga resources, ngunit isinusulong niya ang isang pamamaraan na tinatawag na “info finance,” na idinisenyo upang bumuo ng accountability at pigilan ang maling paggamit sa pamamagitan ng mga merkado, human oversight, at mga pagsusuri.

Ang Kaso Laban sa Simpleng AI Governance

Binigyang-diin ni Buterin na mapanganib ang simpleng AI governance at idinagdag na kung gagamitin ang AI sa paglalaan ng pondo, maaaring manipulahin ito ng mga tao gamit ang kanilang napiling prompts at makakuha ng labis na pera. Dagdag pa niya, kung gagana ang mga modelo nang walang anumang limitasyon o gabay, maaari itong abusuhin, kaya hinihikayat ang mga hacker na gumamit ng prompts at lokohin ang AI upang maglabas ng maling resources. 

Ang ganitong mga kahinaan ay naglalagay sa AI sa isang potensyal na mapanganib na loophole. Dagdag pa rito, ibinunyag ni Buterin ang mga sistemikong kahinaan na, kung hindi matutugunan, ay maaaring manipulahin. Ang mga hindi nakikitang atake, prompt injections ay mga halimbawa kung paano madaling mapagsamantalahan ng mga attacker.

Info Finance Bilang Alternatibo

Pinipili ni Buterin ang information finance kapalit ng simpleng governance, na inilalarawan niya bilang isang “institution design” approach, na pinagsasama ang open market competition at human verification. Sinabi niya,

Bilang alternatibo, sinusuportahan ko ang info finance approach, kung saan mayroong open market na kahit sino ay maaaring mag-ambag ng kanilang mga modelo, na isinasailalim sa spot-check mechanism na maaaring i-trigger ng kahit sino at susuriin ng human jury.

Ipinaliwanag niya na pinapayagan ng Info Finance ang mga panlabas na contributor na mag-integrate ng large language models (LLMs) nang hindi kinakailangang mag-hardcode ng isang sistema. Magbibigay ito ng pagkakaiba-iba ng modelo, kaya nababawasan ang tsansa ng malawakang pagkabigo. Lumilikha rin ito ng mga insentibo para sa mga developer at speculator na masusing magbantay para sa mga depekto at mabilis na kumilos kapag may problema.

Isa sa mga iminungkahing mekanismo ay ang paggamit ng prediction markets o decision markets. Maraming modelo ang magkokompitensya, at maaaring mag-stake ang mga kalahok sa mga resulta, na nagpapahiwatig kung aling mga modelo ang tila pinaka-maaasahan. Ang mga human jury o auditor ay paminsang magsasagawa ng spot-check sa mga resulta, lalo na sa mga high-stakes na kaso.

Kaugnay: ETH Treasuries Tumaas sa $12B Habang Nagbabala si Vitalik sa Leverage Risks

Implikasyon para sa Crypto at Mga Merkado

Ang info finance ay umaasa sa layered accountability, at kapansin-pansin ito sa open competition, na nagpapahintulot na hamunin o palitan ang mga maling modelo. Idinadagdag ang human oversight sa pamamagitan ng mga jury at audit. Ang mga insentibong pang-ekonomiya ay pumipigil sa manipulasyon, habang ang transparency ay nagpapakita ng masasamang gawain.

Sa pamamagitan ng pag-uugnay ng AI governance sa blockchain at trading, iminungkahi ni Buterin na ang mga depekto sa centralized AI ay maaaring magpataas ng interes sa decentralized solutions, na karamihan ay binuo sa Ethereum. Bukod dito, ang mga token tulad ng Render Network’s RNDR at The Graph’s GRT ay nagbibigay ng imprastraktura para sa AI computations, kaya nakikinabang sa pag-unlad. Dagdag pa, maaaring gamitin ng mga trader ang ETH at ang mga token para sa arbitrage sa gitna ng volatility ng merkado. 

Ipinapakita ng on-chain data na mas maraming ETH transactions ang nauugnay sa AI-related smart contracts at ang mga isyu sa AI governance ay maaaring makaapekto rin sa tech stocks, kasama ang mga kumpanya tulad ng NVIDIA at Microsoft na kasali sa AI investments. Sa kabuuan, itinuro ni Buterin na pinapayagan ng Info Finance ang mas mabilis na pagwawasto, kaya napapalitan ang mga maling modelo at napaparusahan ang mga lumalabag. Idinagdag din niya na ang jury checks at spot checks ay pipigil sa pagkalat ng exploitation.

Ang post na Buterin Pushes Info Finance to Stop Exploits in AI Governance ay unang lumabas sa Cryptotale.