Sumagot si Zuckerberg ng Meta (META.US) sa usapin ng “pagbagal” ng AI: Magpapatuloy sa pagpapahusay ng kakayahan ng modelo at pagpapatibay ng seguridad.
Nagpahayag sina Meta Platforms CEO Mark Zuckerberg at ang AI head ng kumpanya na si Alexander Wang ukol sa debate hinggil sa bilis ng pagsulong ng AI, at iginigiit nilang dapat ipagpatuloy ng mga AI laboratoryo ang pagpapaunlad ng kakayahan ng mga modelo habang sabay na bumubuo ng mas matitibay na pananggalang para sa lalong lumalakas na mga modelo.
Nabatid ng Zhihui Finance APP na sina Mark Zuckerberg, CEO ng Meta Platforms (META.US), at ang punong responsable sa AI ng kumpanya na si Alexander Wang ay nagbigay ng pahayag kaugnay ng debate hinggil sa bilis ng pag-unlad ng AI, at iginiit na dapat ipagpatuloy ng mga AI laboratoryo ang pagpapaunlad ng kapasidad ng mga modelo, kasabay ng pagbubuo ng mas matitibay na proteksyon para sa mga lalong lumalakas na modelo.
Ipinaskil ang pahayag ng dalawa sa platform na X. Sa kasalukuyan, malawak ang diskusyon sa industriya tungkol sa “kung dapat bang pabagalin ang pagpapaunlad ng kakayahan ng AI hangga’t walang sapat na pag-unlad sa kaligtasan ng AI.” Ang tinutukoy na AI safety ay ang pagtitiyak na maaasahan ang AI systems na susunod sa mga layunin at pagpapahalaga ng tao.
Ang presyo ng Meta stock ay patuloy na tumaas sa loob ng tatlong magkasunod na trading days hanggang Martes, na may kabuuang pag-angat na 4.2%, at bahagyang tumaas sa night trading. Ayon sa pinakahuling obserbasyon sa Stocktwits, ang sentimyento ng mga retail investor sa stock ay “labis na bearish.”
Zuckerberg: May motibasyon ang mga laboratoryo na lumikha ng mas ligtas na AI
Ipinahayag ni Zuckerberg na may malakas na komersyal at legal na insentibo ang mga AI company upang itaguyod ang kaligtasan ng modelo at ipantay ito sa mga user. “Hindi gugustuhin ng mga tao na gumamit ng agent na hindi umaayon at hindi gumagawa ayon sa kanilang nais,” sulat ni Zuckerberg. “Ang anumang laboratoryo na hindi magtutuon sa alignment ay mapag-iiwanan.”
Naniniwala siya na ang alignment mismo ay nagiging mahalagang kakayahan sa kompetisyon at hindi lamang isang hadlang sa pag-unlad ng AI. “Ang pananaw ko ay mabilis na nagiging pinakamahalagang kakayahan ang tiwala at alignment sa pagkakaiba ng agents at mga modelo,” aniya.
Dagdag pa niya, ipinagpaliban ng Meta ang pag-release ng Muse model nang ilang buwan upang tugunan ang mga isyu ng kaligtasan at seguridad.
Sumusuporta ang Meta sa panlabas na superbisyon
Nakiisa sina Zuckerberg at Alexander Wang sa panawagan na, habang lalong lumalakas ang mga AI model, mas maraming independiyenteng tagasuri at panlabas na superbisyon ang dapat ipatupad.
“Ang pagdala ng mga independiyenteng tagasuri at tagapayo ay pinakamainam na praktis ng industriya,” ani Zuckerberg, at naniniwala siyang ang isang mas malaki at mas sari-saring komunidad ng mga tagasuri ay magpapahusay sa seguridad ng AI.
Gayundin, sinabi ni Alexander Wang na ang mga AI laboratoryo ay dapat magpanatili ng “malakas na balangkas ng pamamahala” mula sa pagsasanay hanggang sa deployment, kabilang ang mga panlabas na tagasuri at independiyenteng superbisyon sa mga pamantayan sa kaligtasan ng paglabas ng mga modelo.
Dagdag pa niya: “Dapat gumana ang bawat laboratoryo sa ilalim ng institusyong proteksiyon ng demokratikong mga bansa... Ibig sabihin, kung magdudulot ng pinsala ang modelo, may mabigat na legal na pananagutan ang laboratoryo.”
Ipinagtanggol ng Meta ang estratehiya sa paglalaan ng computing power
Isang mahalagang bahagi ng argumento ng dalawang opisyal ay ang desisyon ng Meta na itutok ang karamihan ng computing power nito sa paglilingkod sa mga user, at hindi sa pagpapabilis ng recursive self-improvement (RSI).
“Ang paglalaan ng napakaraming computing power para paglingkuran ang sangkatauhan, at hindi para sa karera ng recursive self-improvement, ay isa sa pinakamainam na paraan upang matiyak ang ligtas na pagpapaunlad ng teknolohiyang ito,” sabi ni Zuckerberg.
Ang ikinababahala ay maaaring mabilis na mapabuti ng RSI ang mga kakayahan ng AI system, na posibleng lumampas sa kakayahan ng tao sa superbisyon, at magdulot ng panganib ng pagkawala ng kontrol sa makapangyarihang modelo.
Inilarawan din ni Alexander Wang ang karera para sa RSI bilang “isa sa pinaka-mapanganib na landas tungo sa pagkawala ng kontrol sa makapangyarihang mga modelo.”
Ang debate sa AI pace ay nagdudulot ng polarisasyon sa tech industry
Sa kabuuan, nahahati ang debate sa bilis ng pag-unlad ng AI: Nanawagan si Dario Amodei, CEO ng Anthropic, na pabagalin ang pag-unlad ng cutting-edge AI upang makahabol ang mga safety mechanism; samantalang sina Sam Altman, CEO ng OpenAI, Satya Nadella ng Microsoft, at Elon Musk ng SpaceX ay sumusuporta sa maingat, ligtas ngunit tuloy-tuloy na development, nang hindi itinitigil ang pag-unlad.
Samantala, tinututulan ni US President Donald Trump ang pagpapabagal sa AI race ng Amerika dahil sa pangambang maungusan ng China; habang para sa dating AI adviser ni Trump na si David Sacks, dapat ang mga negosyong pribado na lang ang mamahala sa mga panganib, at hindi umasa sa government regulation, kasabay ng pagdududa sa babala ng Anthropic tungkol sa seguridad.
Pinagdudahan naman ni investor Michael Burry kung ang panawagan na pabagalin ang development ay bahagyang dahil sa pansariling interes, dahil maaaring maprotektahan nito ang mga kasalukuyang AI company laban sa bagong kompetisyon.
Disclaimer: Ang nilalaman ng artikulong ito ay sumasalamin lamang sa opinyon ng author at hindi kumakatawan sa platform sa anumang kapasidad. Ang artikulong ito ay hindi nilayon na magsilbi bilang isang sanggunian para sa paggawa ng mga desisyon sa investment.
Baka magustuhan mo rin
Patuloy ang pag-aalala tungkol sa inflasyon at pagtaas ng interes, nagdulot ng lalong pagbenta ng US Treasury bonds, kung saan ang 30-taong yield ay umabot sa mahigit 5.6% at tumala ng bagong pinakamataas sa mahigit 24 taon.
Ang yield ng long-term US Treasury bonds ay patuloy na tumaas noong Martes, ipinagpapatuloy ang kamakailang malakas na pag-akyat.
Nilabas ng Estados Unidos ang huling batch ng strategic oil reserves, hanggang 40 milyong barrels, at hinikayat ang Europa na sumunod.
Ito ang huling batch ng kabuuang 172 million barrels na inilabas ng US sa kasalukuyang round; matapos ang pagbubuo ng paglalabas na ito, ang Strategic Oil Reserve ng US ay babagsak sa pinakamababang antas mula noong 1982, malapit na sa legal at operational na red line. Kasabay nito, pinuna ng US energy secretary ang ilang bansang European dahil sa mas mababang volume ng pagpapalabas kaysa inaasahan, at nanawagan sa bawat bansa na tuparin ang kanilang mga pangako. Sa kasalukuyan, mataas pa rin ang presyo ng gasolina at diesel sa US, at wala pang dalawang buwan bago ang midterm election. Noong Martes, bumagsak ng 3.95% ang WTI crude oil futures.
Raphael Zagury: Sa huli, malalampasan ng bitcoin ang ginto
Bowman ng Federal Reserve: Ang AI ay nagdadala ng parehong oportunidad at panganib para sa sektor ng bangko, at hinihimok ng Federal Reserve ang pagpapalakas ng seguridad ng sistema.
Nagbabala si Bowman, ang Bise Chairman ng Federal Reserve na namamahala sa pangangasiwa ng mga bangko, na ang AI ay may dalawang epekto sa banking industry—ito ay nagsisilbing pananggalang na kasangkapan ngunit nagdadala rin ng mga bagong panganib. Hinimok niya ang mga bangko na palakasin ang kanilang mga pangunahing hakbang sa cybersecurity, kabilang ang pag-update ng asset inventories, pagpapatupad ng multi-factor authentication, at pagpapabuti ng vulnerability management. Sinabi rin ni Bowman na ang mga regulator ay patuloy na mag-aadjust ng mga pamamaraan sa pagsusuri, at magpapatupad ng differentiated na regulasyon para sa community banks, sa halip na one-size-fits-all na sapilitang mga patakaran.
Mga presyo ng crypto
Higit pa
