Una nuova frontiera per la sicurezza dell’AI: test incrociati tra laboratori per unire l’industria
- Ilya Sutskever di OpenAI sostiene i test incrociati tra laboratori per rafforzare la sicurezza dell'IA in un contesto di rapidi progressi tecnologici e rischi diffusi nel settore. - Il progetto pilota di Claude di Anthropic, basato su browser, mette in evidenza sfide di sicurezza come gli attacchi di prompt injection, spingendo verso strategie di mitigazione rafforzate. - Uno studio rivela una scarsa conformità agli impegni volontari di sicurezza da parte delle principali aziende di IA, tra cui Apple, mettendo in discussione l’efficacia dell’autoregolamentazione. - L’AI Safety Initiative della Cloud Security Alliance offre framework e RiskRub.
Ilya Sutskever, co-fondatore e membro del consiglio di OpenAI, ha richiesto l'implementazione di test incrociati tra laboratori come misura fondamentale per garantire la sicurezza dei sistemi di intelligenza artificiale (AI). La sua dichiarazione arriva in un momento di crescenti preoccupazioni riguardo ai rischi associati ai progressi dell'AI, con i leader del settore che sottolineano la necessità di protocolli di sicurezza collaborativi e standardizzati. L'appello di Sutskever ai test incrociati tra laboratori si allinea con gli sforzi più ampi per rafforzare la sicurezza dell'AI e mitigare i potenziali danni mentre la tecnologia continua a evolversi rapidamente [1].
La necessità di approcci collaborativi di questo tipo è sottolineata dagli sviluppi recenti nel dispiegamento e nella regolamentazione dell'AI. Ad esempio, Anthropic, un attore importante nel settore dell'AI, ha introdotto un programma pilota per il suo assistente AI, Claude, progettato per operare direttamente nei browser degli utenti. Questa iniziativa, che mira a migliorare l'utilità dell'AI integrandola nei flussi di lavoro digitali principali, ha anche evidenziato le significative sfide di sicurezza associate agli agenti AI basati su browser. Gli attacchi di prompt injection—dove attori malintenzionati manipolano il comportamento dell'AI incorporando istruzioni nascoste—sono emersi come un rischio chiave, spingendo Anthropic a implementare robuste strategie di mitigazione come permessi a livello di sito, conferme delle azioni e classificatori avanzati per rilevare schemi sospetti [2].
Tali rischi non sono limitati alle singole aziende. Un recente studio di ricercatori di Brown, Harvard e Stanford ha rilevato che molte aziende di AI non hanno rispettato pienamente i loro impegni volontari sulla sicurezza, in particolare dopo le promesse sulla sicurezza dell'AI dell'amministrazione Biden nel 2023. Apple, ad esempio, ha ottenuto risultati scarsi nella valutazione, con prove di conformità per solo uno su otto impegni. Lo studio evidenzia i limiti dell'autoregolamentazione in un settore in rapida evoluzione e solleva interrogativi sull'efficacia delle misure volontarie nel garantire responsabilità e sicurezza [5].
In risposta a queste sfide, la Cloud Security Alliance (CSA) ha lanciato la sua AI Safety Initiative alla fine del 2023, riunendo leader del settore, agenzie governative e istituzioni accademiche per sviluppare strumenti pratici e framework per la gestione dei rischi dell'AI. L'iniziativa fornisce alle organizzazioni checklist di preparazione all'AI, framework di governance e linee guida di sicurezza, con l'obiettivo di allineare il progresso tecnologico alle aspettative normative. In particolare, la CSA ha anche introdotto RiskRubric.ai, un sistema di punteggio che valuta la sicurezza, la trasparenza e l'affidabilità dei large language model (LLM), offrendo alle imprese un approccio basato sui dati per l'adozione dell'AI [4].
Gli sforzi collaborativi per migliorare la sicurezza dell'AI sono inoltre supportati da un ecosistema in crescita di finanziatori e programmi di sovvenzione. Organizzazioni come il Long-Term Future Fund, il Survival and Flourishing Fund e l'AI Safety Fund stanno fornendo supporto finanziario a ricercatori, imprenditori e istituzioni che lavorano sulla mitigazione dei rischi dell'AI. Queste iniziative mirano ad affrontare i rischi esistenziali a lungo termine promuovendo al contempo l'innovazione responsabile. Inoltre, società di venture capital come Juniper Ventures e Mythos Ventures stanno investendo in startup che sviluppano strumenti per migliorare la sicurezza, la conformità e la governance dell'AI [6].
L'appello ai test incrociati tra laboratori, come sostenuto da Sutskever, rappresenta un passo fondamentale per affrontare queste sfide sistemiche. Consentendo standard condivisi e valutazioni trasparenti tra i laboratori di sviluppo AI, il settore può favorire una maggiore fiducia e responsabilità. Questo approccio è particolarmente importante man mano che i sistemi AI diventano più complessi e capaci, rendendo necessaria una posizione unificata per valutare i potenziali rischi prima della distribuzione. OpenAI, Anthropic e altri attori chiave hanno l'opportunità—e la responsabilità—di guidare questa transizione adottando protocolli di sicurezza collaborativi e stabilendo un precedente per l'innovazione responsabile dell'AI [1].
Esclusione di responsabilità: il contenuto di questo articolo riflette esclusivamente l’opinione dell’autore e non rappresenta in alcun modo la piattaforma. Questo articolo non deve essere utilizzato come riferimento per prendere decisioni di investimento.
Ti potrebbe interessare anche
Il "buco nero del debito" dietro la corsa dell'AI: nei prossimi 5 anni potrebbe essere necessario un finanziamento esterno di 1,2 trilioni di dollari
L'esplosione dell'AI sta creando un "buco nero del debito" senza precedenti: secondo le stime di Bank of America, tra il 2025 e il 2030 la spesa in conto capitale totale per la costruzione di data center AI raggiungerà i 5 mila miliardi di dollari. Le sole esigenze di finanziamento esterno dei principali colossi del cloud arrivano a 1,2-1,5 mila miliardi di dollari. Giganti come Amazon e Meta vedono già in crisi il loro free cash flow, mentre Nvidia e Broadcom stanno assumendo silenziosamente il ruolo di "garanti impliciti": è già iniziata una scommessa di capitale destinata a rimodellare il mercato globale del credito.
Gli analisti fanno una previsione audace: il profitto di Micron (MU.US) nel 2027 potrebbe superare Microsoft (MSFT.US), il prezzo della memoria sarà il fattore decisivo
Si prevede che Micron (MU.US) possa guadagnare un profitto netto di 35 miliardi di dollari in un trimestre, superando così Microsoft (MSFT.US) in termini di utili?
Segnali precursori del crollo del mercato azionario statunitense come nel 2018 e 2022? Fed in fase di inasprimento e offerta di Treasury USA colpiscono mentre la larghezza del mercato si deteriora, una crisi di liquidità potrebbe essere imminente.
La pressione di liquidità potrebbe non essere ancora visibile in superficie nel mercato, ma con il continuo deterioramento della diffusione nei mercati azionari e obbligazionari, queste pressioni si stanno accumulando internamente all'interno del mercato.
Intel collabora con AU Optronics per lo sviluppo dell’advanced packaging Micro LED, puntando al mercato dell’integrazione CPO e dell’alta densità di potenza di calcolo
Secondo quanto riportato, Intel ha ottenuto un nuovo brevetto, diventando la prima azienda a integrare Micro LED su substrati di vetro per realizzare una profonda fusione optoelettronica. Per superare il collo di bottiglia della connessione AI e conquistare ordini spillover CoWoS da TSMC, si dice che Intel abbia stretto una forte collaborazione con AUO, che possiede avanzate competenze nella lavorazione del vetro. Se questa partnership si concretizzerà, aiuterà Intel a costruire un vantaggio competitivo nel settore del packaging delle capacità di calcolo AI e permetterà ad AUO di compiere una svolta cruciale passando dai pannelli di visualizzazione al packaging avanzato ad alto valore aggiunto.
Prezzi delle criptovalute
Altro
