Co się stało
The Guardian donosi, że dyrektor generalny Anthropic, Dario Amodei, zaproponował spowolnienie rozwoju granicznej sztucznej inteligencji poprzez niezależnych oceniających, międzynarodowe porozumienia w sprawie bezpieczeństwa i koordynację z Chinami w kwestiach bezpieczeństwa. Dyrektor generalny OpenAI Sam Altman, szef Google DeepMind Demis Hassabis i właściciel xAI Elon Musk publicznie wyrazili poparcie. W raporcie wskazano również, że Donald Trump odrzucił spowolnienie rozwoju, powołując się na konkurencję z Chinami.
The Guardian donosi, że Amodei wydał propozycję zatytułowaną „Musimy podążać za granicami” po ostrzeżeniach badaczy Anthropic o potencjalnie katastrofalnych zagrożeniach związanych ze sztuczną inteligencją. Jej trzy główne idee to zewnętrzne osoby oceniające z dostępem na poziomie pracowników do monitorowania ryzyka, porozumienia między demokratycznymi rządami w sprawie standardów bezpieczeństwa oraz globalna koordynacja z rządami autorytarnymi, w tym Chinami, w kwestiach bezpieczeństwa.
Według raportu Altman stwierdził, że OpenAI będzie zgodny z zaangażowaniem Amodei na rzecz niezależnych oceniających, natomiast Hassabis i Musk również wyrazili poparcie. Raport nie zawiera pełnego pierwotnego tekstu propozycji Amodei ani niezależnych dowodów na to, że oświadczenia te stworzyły formalne, wykonalne zobowiązania.
W artykule zgłoszono znaczny sprzeciw ze strony krytyków regulacji dotyczących sztucznej inteligencji i byłych urzędników, którzy kwestionowali, czy wybrani przez branżę oceniający i możliwe zwolnienia z zakresu prawa antymonopolowego mogą oznaczać przejęcie organów regulacyjnych. Donosi również, że Trump odrzucił wezwania do spowolnienia rozwoju sztucznej inteligencji, a spiker Izby Reprezentantów Mike Johnson powiedział, że to firmy, a nie Kongres, powinny przewodzić bezpieczeństwu sztucznej inteligencji.
Szczegóły źródła: theguardian.com ↗
Dlaczego to ma znaczenie
W tym odcinku uwypuklono pogłębiający się konflikt między publicznymi ostrzeżeniami firm zajmujących się sztuczną inteligencją dotyczącymi poważnych zagrożeń a ich komercyjnymi i geopolitycznymi zachętami do ciągłego wypuszczania na rynek bardziej wydajnych systemów. Dobrowolne zobowiązania mogłyby poprawić nadzór, gdyby oceniający otrzymali rzeczywisty dostęp i uprawnienia, jednak dostarczone sprawozdanie nie potwierdza w sposób niezależny, że którekolwiek przedsiębiorstwo przyjęło wiążące środki. Debata rodzi również pytania o to, czy koordynacja branżowa poprawiłaby bezpieczeństwo lub umocniłaby istniejących liderów rynku.
Rozwój ten jest istotny, ponieważ liderzy kilku dużych firm zajmujących się sztuczną inteligencją publicznie przyznają, że szybszy rozwój zdolności może wymagać silniejszych kontroli bezpieczeństwa. Stanowisko to może mieć wpływ na przyszłe regulacje, ład korporacyjny i negocjacje międzynarodowe, ale samo wsparcie publiczne nie oznacza, że rozwój uległ spowolnieniu lub że praktyki w zakresie bezpieczeństwa uległy istotnej zmianie.
Raport Guardiana ujawnia również napięcie strukturalne: firmy mogą dążyć do dobrowolnej koordynacji, sprzeciwiając się przepisom, które mogłyby ograniczać ich produkty lub chronić konkurencję. Praktyczny wynik będzie zależał od tego, czy niezależni oceniający będą mogli uzyskać dostęp do odpowiednich systemów, opublikować wiarygodne ustalenia i działać poza kontrolą firmy. W dostarczonym raporcie warunki te pozostają nierozwiązane.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Which component of an AI application is the machine-learning model itself?
Co obejrzeć dalej
Kluczowe niewiadome obejmują to, czy firmy sformalizują swoje zobowiązania, kto wybierze i wzmocni zewnętrznych ewaluatorów oraz czy ewaluatorzy będą mieli w praktyce dostęp na poziomie pracowników. Obserwuj każdą proponowaną rolę federalną, sposób traktowania obaw związanych z prawem antymonopolowym oraz to, czy administracja Trumpa zmienia swój sprzeciw wobec spowalniania rozwoju. Nie udokumentowano dostępu do produktów, ich dostępności ani zmian cen.
Bezpośrednim testem jest wdrożenie. W raporcie nie określono terminów, mechanizmów egzekwowania, tożsamości osób oceniających ani konsekwencji dla przedsiębiorstw, które nie zastosują się do wymogów. W dalszej sprawozdawczości należy odróżniać oświadczenia publiczne od podpisanych umów, przerw operacyjnych lub niezależnie ocenionych zmian w zakresie bezpieczeństwa.
Elementy międzynarodowe i antymonopolowe propozycji mogą napotkać opór polityczny. Krytycy cytowani w raporcie twierdzą, że współpraca może zostać wykorzystana do ograniczenia konkurencji, podczas gdy administracja USA w dalszym ciągu postrzega przywództwo AI jako rywalizację z Chinami. Nie wiadomo, czy decydenci zapewnią możliwy do wyegzekwowania nadzór, czy też pozostawią odpowiedzialność głównie firmom.