Co się stało
BBC donosi, że badacz Anthropic Jacob Coxon złożył rezygnację i publicznie ostrzegł, że zaawansowane systemy sztucznej inteligencji mogą stać się niebezpieczne. Jego komentarze spotkały się z poparciem niektórych pracowników Anthropic, ale także krytyką ze strony kadry kierowniczej i inwestorów z Doliny Krzemowej, w tym dyrektora generalnego Grindr, George'a Arisona, który powiedział, że nakazał niektórym inżynierom zaprzestać korzystania z technologii Anthropic.
BBC donosi, że 27-letni Jacob Coxon, który wcześniej pracował w OpenAI, nagle zrezygnował z Anthropic i napisał, że ludzie rozwijający sztuczną inteligencję „igrają z naszym życiem”. W raporcie cytuje się także szefa zespołu Anthropic, Evana Hubingera, który publicznie oszacował prawdopodobieństwo, że sztuczna inteligencja może zabić wszystkich ludzi w ciągu następnej dekady na ponad 10%. Stwierdzenia te oraz okoliczności odejścia Coxona nie zostały niezależnie potwierdzone w źródle. Anthropic poproszono o komentarz, ale nie odpowiedział on w momencie publikacji raportu.
Według BBC komentarze stały się przedmiotem dyskusji na konferencji Goldman Sachs w San Francisco. Dyrektor naczelny Grindr, George Arison, nazwał ostrzeżenia niebezpiecznymi i powiedział, że skłoniły go do poinstruowania niektórych inżynierów, aby zaprzestali korzystania z technologii Anthropic. BBC donosi również, że dyrektor generalny Nvidia Jensen Huang odrzucił ostrzeżenia zawarte w uwagach opisanych przez wielu uczestników konferencji, podczas gdy inwestorzy Brad Gerstner i dyrektor naczelny Hugging Face Clement Delangue skrytykowali tę retorykę, zanim później zajęli bardziej wyważone stanowisko.
Dlaczego to ma znaczenie
Spór pokazuje, jak nieporozumienia dotyczące katastrofalnych zagrożeń związanych ze sztuczną inteligencją wpływają na decyzje biznesowe, nastroje inwestorów i debaty polityczne. Podkreśla także nierozwiązane napięcie pomiędzy ostrzeganiem przed potężnymi systemami a promowaniem ich wartości komercyjnej. Raport BBC nie ustala niezależnie prawdopodobieństwa wyginięcia, motywów jakiegokolwiek ostrzeżenia ani szerszego wpływu na klientów Anthropic.
Bezpośrednie znaczenie ma raczej charakter praktyczny niż retoryczny: wymieniony użytkownik technologii powiedział BBC, że publiczne oświadczenia na temat ryzyka egzystencjalnego wpłynęły na wewnętrzną decyzję o korzystaniu z systemów Anthropic. Jeżeli podobne reakcje się rozprzestrzenią, komunikaty dotyczące bezpieczeństwa mogą mieć wpływ na zamówienia, partnerstwa i zaufanie inwestorów, nawet bez zmiany możliwości lub dostępności modelu.
W raporcie umieszcza się również tę argumentację w szerszym sporze dotyczącym polityki i finansowania. BBC twierdzi, że Anthropic i OpenAI przygotowują się do potencjalnie dużych ofert publicznych, podczas gdy amerykańscy prawodawcy rozważają tymczasową przerwę w rozwoju zaawansowanej sztucznej inteligencji. Źródło nie ustaliło niezależnie tych zmian w zakresie finansowania i legislacji, ich wycen oraz twierdzeń, że ostrzeżenia dotyczące bezpieczeństwa mają na celu wzmocnienie pozycji rynkowej.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Kluczowymi osiągnięciami są odpowiedzi od Anthropic i OpenAI, wszelkie zweryfikowane zmiany w korzystaniu z systemów Anthropic przez przedsiębiorstwa oraz to, czy proponowane postępy w ustawodawstwie amerykańskim. Raport nie zawiera udokumentowanego dostępu do produktów ani zmian cen.
Obserwuj bezpośrednią reakcję Anthropic na rezygnację Coxona i ostrzeżenia cytowane przez BBC, a także wszelkie dowody na to, że klienci zmieniają decyzje dotyczące zamówień lub wdrożeń. Źródło nie podaje ilościowo, ile organizacji ograniczyło lub przestało używać systemów Anthropic.
Obserwuj, czy proponowana ustawa o zakazie sztucznej superinteligencji postępuje, zmienia się znacząco, czy pozostaje jedynie propozycją legislacyjną. Raport wskazuje również na przyszłe zgłoszenia papierów wartościowych i pytania dotyczące rentowności, ale nie określa dat składania wniosków, wyników finansowych ani tego, czy którakolwiek ze spółek zakończy pierwszą ofertę publiczną.