Jensen Huang: odetniemy dostawy chipów klientom rozwijającym niebezpieczne oprogramowanie AI, niedobór infrastruktury AI potrwa jeszcze kilka lat

Dyrektor generalny Nvidia, Jensen Huang, oznajmił, że jeśli którykolwiek z klientów będzie rozwijać niebezpieczne oprogramowanie AI, przestanie dostarczać mu chipy. Jednocześnie podkreślił, że obecny poziom obaw na rynku dotyczących zagrożeń związanych z AI jest przesadzony, podobnie jak pogłoski o bańce AI.

Jensen Huang wyraził to stanowisko w wywiadzie dla Bloomberg w Londynie. Odwiedza on Europę, aby promować wydarzenie firmy, które odbędzie się w Berlinie. Oświadczył, że przed odcięciem dostaw najpierw porozmawia z odpowiednim klientem i zauważył, że technologia Nvidia to technologia ogólnego przeznaczenia, więc firma ma ograniczone możliwości oceniania sposobu jej wykorzystania przez innych.

Jednocześnie Nvidia ogłosiła, że w ciągu pięciu lat przekaże 250 milionów dolarów na badania nad bezpieczeństwem AI w Wielkiej Brytanii, co jest wyrazem realnego zaangażowania firmy w tę kwestię.

W środę akcje Nvidia oraz innych spółek z branży chipów wyraźnie spadły. Jensen Huang ponownie wyraził optymizm co do zapotrzebowania na infrastrukturę AI, przewidując, że brak równowagi między podażą a popytem utrzyma się przez kilka lat. "Podaż i popyt ostatecznie się zrównoważą, ale na pewno nie dziś" – powiedział podczas wydarzenia w Londynie.

Nvidia jest dominującym dostawcą chipów przyspieszających obliczenia AI – jej produkty stanowią kluczowy sprzęt do trenowania i obsługi modeli AI. Ta pozycja sprawia, że firma znajduje się w centrum debaty o bezpieczeństwie AI.

W odpowiedzi na pytania, Jensen Huang jasno zadeklarował: jeśli okaże się, że klient rozwija nieodpowiedzialną AI, jest gotów wstrzymać dostawy – "to hipotetyczna sytuacja, ale odpowiedź brzmi: tak".

Jednocześnie wyznaczył granice zaangażowania Nvidia. "Nie zarządzamy firmami naszych klientów, a nasze możliwości oceniania, jak inni korzystają z naszej technologii, są ograniczone. Nasza technologia jest technologią ogólnego przeznaczenia." Dodał, że przed ewentualnym wstrzymaniem dostaw najpierw prowadzone będą rozmowy.

To stanowisko odzwierciedla, że jako kluczowy sprzedawca sprzętu Nvidia, stając wobec kontrowersji związanych z bezpieczeństwem AI, stara się zachować równowagę między odpowiedzialnością branżową a neutralnością biznesową.

Jensen Huang ma odmienne zdanie od niektórych liderów branży AI, którzy domagają się spowolnienia jej rozwoju – takich jak dyrektor generalny Anthropic, Dario Amodei, proponujący ogólne zahamowanie tempa rozwoju branży.

Kwalifikuje on obecne obawy o bezpieczeństwo jako "trudy wzrostu" szybko rozwijającej się branży i wierzy, że oprogramowanie AI można skutecznie kontrolować oraz bezpiecznie wdrażać.

"Wiele młodych firm doświadcza bólu wzrostu, bo rozwijają się niezwykle szybko," powiedział. "W miarę jak firmy dojrzewają, ich poczucie odpowiedzialności i zakres obowiązków również będzie dojrzewać".

Dodał też, że część tych obaw jest "samoistnie narzucana", a cała branża "bardzo kiepsko" wyjaśnia korzyści nowej technologii opinii publicznej.

Odnośnie konkretnych sposobów zarządzania zagrożeniami bezpieczeństwa, Jensen Huang proponuje podejście, w którym technologia odpowiada na technologię: AI sama w sobie może stać się narzędziem do monitorowania i kontrolowania AI.

"Powinniśmy przyspieszyć integrację technologii kontrolnych z systemami AI, powinniśmy przyspieszyć rozwój narzędzi monitorujących – a AI jest tym właśnie narzędziem. Dlatego powinniśmy przyspieszyć rozwój AI." – powiedział.

Aby wesprzeć ten kierunek, Nvidia ogłosiła wsparcie brytyjskich badań nad bezpieczeństwem AI – fundusze zostaną przekazane w postaci dostępu do zaawansowanej mocy obliczeniowej.

W projekcie udział weźmie wiele brytyjskich instytucji akademickich, w tym University of Oxford i University College London, a tematyka badań obejmie metody ochrony bezpieczeństwa AI i sposoby kontrolowania agentów AI.