Buterin naciska na Info Finance, aby powstrzymać nadużycia w zarządzaniu AI
- Vitalik ostrzega, że naiwne zarządzanie AI jest podatne na manipulacje i nadużycia.
- Info finance tworzy różnorodność modeli i szybkie korekty, czyniąc zarządzanie AI bezpieczniejszym.
- Rynki predykcyjne i kontrole wyrywkowe pomagają zabezpieczyć podejmowanie decyzji i finansowanie AI.
Współzałożyciel Ethereum, Vitalik Buterin, ostrzegł, że naiwne modele zarządzania AI niosą poważne ryzyko i zaznaczył, że ramy polegające na AI w zakresie finansowania lub podejmowania decyzji pozostają podatne na manipulacje i nadużycia. Jego zdaniem takie systemy pozwalają złośliwym podmiotom przekierowywać zasoby, jednak opowiada się on za podejściem zwanym „info finance”, zaprojektowanym w celu budowania odpowiedzialności i zapobiegania nadużyciom poprzez rynki, nadzór ludzki i kontrole.
Argumenty przeciwko naiwnemu zarządzaniu AI
Buterin podkreślił, że naiwne zarządzanie AI jest ryzykowne i dodał, że jeśli AI będzie używane do alokacji środków, ludzie mogą je manipulować za pomocą wybranych przez siebie promptów i uzyskiwać nadmiarowe środki. Rozwinął, że jeśli modele działałyby bez żadnych ograniczeń lub wytycznych, mogłyby być niewłaściwie wykorzystywane, zachęcając hakerów do używania promptów i oszukiwania AI, by wydawała niewłaściwe zasoby.
Takie luki czynią AI potencjalnie niebezpieczną. Ponadto Buterin ujawnił systemowe słabości, które, jeśli pozostaną bez kontroli, mogą być manipulowane. Niewidoczne ataki, wstrzykiwanie promptów to przykłady, jak atakujący mogą łatwo wykorzystać system.
Info Finance jako alternatywa
Buterin wybiera information finance zamiast naiwnego zarządzania, opisując to jako podejście „projektowania instytucji”, łączące otwartą konkurencję rynkową z weryfikacją ludzką. Powiedział:
Jako alternatywę popieram podejście info finance, gdzie masz otwarty rynek, na którym każdy może zgłaszać swoje modele, które podlegają mechanizmowi kontroli wyrywkowej, uruchamianemu przez każdego i ocenianemu przez ludzkie jury.
Wyjaśnił, że Info Finance pozwala zewnętrznym współtwórcom integrować duże modele językowe (LLM) bez twardego kodowania jednego systemu. To umożliwia różnorodność modeli, zmniejszając ryzyko szeroko zakrojonych awarii. Tworzy to także bodźce dla deweloperów i spekulantów do uważnego obserwowania błędów i szybkiego reagowania na problemy.
Jednym z proponowanych mechanizmów są rynki predykcyjne lub rynki decyzyjne. Wiele modeli konkurowałoby ze sobą, a uczestnicy mogliby stawiać na wyniki, sygnalizując, które modele wydają się najbardziej wiarygodne. Ludzkie jury lub audytorzy okresowo sprawdzaliby wyniki, szczególnie w przypadkach o wysokiej stawce.
Powiązane: ETH Treasuries Surge to $12B as Vitalik Warns of Leverage Risks
Implikacje dla kryptowalut i rynków
Info finance opiera się na wielopoziomowej odpowiedzialności i jest szczególnie widoczne w otwartej konkurencji, która pozwala kwestionować lub zastępować wadliwe modele. Nadzór ludzki jest dodawany poprzez jury i audyty. Bodźce ekonomiczne uniemożliwiają manipulacje, a przejrzystość sprawia, że złośliwe działania są widoczne.
Łącząc zarządzanie AI z blockchainem i handlem, Buterin sugeruje, że wady scentralizowanego AI mogą zwiększyć zainteresowanie zdecentralizowanymi rozwiązaniami, głównie opartymi na Ethereum. Ponadto tokeny takie jak RNDR Render Network i GRT The Graph zapewniają infrastrukturę dla obliczeń AI, czerpiąc korzyści z rozwoju. Dodatkowo, traderzy mogą również wykorzystywać ETH i te tokeny do arbitrażu w warunkach zmienności rynku.
Dane on-chain wskazują, że coraz więcej transakcji ETH jest powiązanych z inteligentnymi kontraktami związanymi z AI, a kwestie zarządzania AI mogą wpływać także na akcje technologiczne, przy czym firmy takie jak NVIDIA i Microsoft są zaangażowane w inwestycje AI. Ogólnie rzecz biorąc, Buterin zauważył, że Info Finance pozwala na szybsze korekty, zastępując wadliwe modele i karząc sprawców nadużyć. Dodał również, że kontrole jury i wyrywkowe zapobiegną rozprzestrzenianiu się nadużyć.
The post Buterin Pushes Info Finance to Stop Exploits in AI Governance appeared first on Cryptotale.
Zastrzeżenie: Treść tego artykułu odzwierciedla wyłącznie opinię autora i nie reprezentuje platformy w żadnym charakterze. Niniejszy artykuł nie ma służyć jako punkt odniesienia przy podejmowaniu decyzji inwestycyjnych.
Może Ci się również spodobać
FAA wstrzymała certyfikację Boeing 737 MAX 10, cena akcji spadła o prawie 7%
Amerykańska Federalna Administracja Lotnictwa (FAA) ogłosiła zawieszenie certyfikacji modelu Boeing 737 MAX 10 z powodu nowego defektu oprogramowania dostarczonego przez GE Aerospace, który może wpływać na funkcję automatycznego prowadzenia lotu i zwiększać obciążenie pilotów podczas scenariuszy ponownego startu. Liczba zamówień na MAX 10 przekracza 1500 sztuk, a certyfikacja jest kluczowa dla poprawy przepływów pieniężnych Boeinga i konkurencji z Airbusem. Planowany wcześniej harmonogram certyfikacji w październiku ponownie uległ zmianie. Cena akcji Boeinga w poniedziałek spadła o 6,9%.
Nieoficjalne negocjacje USA-Iran? Ustępstwa Iranu? Nadal duże różnice? Arabia Saudyjska wznawia eksport? Cena ropy “wśród sprzecznych głosów” spadła podczas nocnych wahań
W poniedziałek WTI osiągnął maksimum na poziomie 96,54 USD, a Brent wzrósł do 108,83 USD, po czym obie ceny spadły o ponad 5 USD w ciągu kilku godzin. Wznowienie działalności rurociągu Wschód-Zachód przez Arabię Saudyjską stanowiło pierwszy realny czynnik negatywny. Nastąpiła seria doniesień dyplomatycznych dotyczących relacji USA-Iran: podano, że Trump jest rzekomo gotów znieść sankcje w zamian za ustępstwa nuklearne, czemu on sam zaprzeczył; doniesiono też, że Iran zgodził się na wstrzymanie wzbogacania uranu, ale strona amerykańska stwierdziła, że „różnice są ogromne”. Ponadto Iran prywatnie uważa, że szanse na porozumienie przed wyborami są znikome. Oczekuje się, że po wyborach konflikt może się nasilić, a premia za ryzyko rynkowe pozostanie wysoka.
Cena ropy naftowej na poziomie stu dolarów uruchamia logikę "ponownej wyceny przepływów pieniężnych"! BP (BP.US) planuje sprzedaż brazylijskiego biznesu biopaliw, przyspiesza koncentrację na aktywach związanych z ropą i gazem
BP Plc rozważa różne opcje dotyczące swojej działalności biopaliwowej w Brazylii, w tym sprzedaż, podczas gdy dyrektor generalna Meg O'Neill przyspiesza transformację portfela biznesowego tego giganta energetycznego.
Siedmiu gigantów kończy „obniżanie wyceny”! Muse i Astra rozpalają „AI FOMO trading”, gigantyczna kontra spółek technologicznych szykuje się do startu
Meta Muse i OpenAI GPT-6 Astra wywołały ogromną falę zainteresowania AI, podczas gdy "AI FOMO trading" (odnosi się do sytuacji, w której inwestorzy obawiają się przegapić wzrost wartości aktywów związanych z AI, dlatego gwałtownie dokupują lub odbudowują wcześniej zredukowane pozycje) ponownie powraca na rynek.
Ceny krypto
Więcej
