Co się stało
Podczas wydarzenia Reuters Momentum AI w Austin inwestor venture capital Joe Lonsdale argumentował, że regulacje dotyczące sztucznej inteligencji nie powinny być podyktowane strachem. Szczególnie skrytykował wysiłki osób powiązanych z głównymi firmami zajmującymi się sztuczną inteligencją, takimi jak Anthropic i OpenAI, mające na celu wywarcie wpływu na grupy zewnętrzne opowiadające się za bardziej rygorystycznym nadzorem. Lonsdale zasugerował, że te naciski regulacyjne mogą w sposób niezamierzony przyznać wiodącym firmom nadmierną kontrolę nad standardami branżowymi, wzmacniając w ten sposób ich fosy konkurencyjne.
W przemówieniu podczas wydarzenia Reuters Momentum AI w Austin Joe Lonsdale, założyciel 8VC, odniósł się do obecnego klimatu regulacji dotyczących sztucznej inteligencji. Przyznając, że bezpieczeństwo sztucznej inteligencji jest uzasadnioną obawą, ostrzegł, że polityką nie powinna kierować się przede wszystkim obawa przed zaawansowanymi systemami.
Lonsdale szczególnie skrytykował to, co scharakteryzował jako wysiłki osób bliskich Anthropic i OpenAI mające na celu wspieranie zewnętrznych organizacji lobbujących na rzecz bardziej rygorystycznych przepisów dotyczących sztucznej inteligencji. Argumentował, że takie propagowanie mogłoby pozwolić małej grupie dominujących firm na wywarcie nieproporcjonalnego wpływu na zasady rządzące całym sektorem, potencjalnie wzmacniając ich pozycję rynkową kosztem mniejszych konkurentów.
Pomimo swojej krytyki działań regulacyjnych Lonsdale wyraził poparcie dla postępu technicznego poczynionego przez Anthropic, w którym posiada niewielką inwestycję. Pochwalił dyrektora generalnego Dario Amodei i talent firmy, zwracając uwagę na jej rolę jako wiodącego konkurenta w branży AI.
Lonsdale poruszył także rolę sztucznej inteligencji w obronności, stwierdzając, że systemy autonomiczne i broń napędzana sztuczną inteligencją prawdopodobnie staną się kluczowymi elementami współczesnych działań wojennych. Podkreślił, że niezależnie od postępu technologicznego ostateczna odpowiedzialność musi spoczywać na ludzkich przywódcach wojskowych i decydentach.
Szczegóły źródła: entarabi.com ↗
Dlaczego to ma znaczenie
Komentarze Lonsdale’a podkreślają rosnące napięcie w sektorze technologii w związku z połączeniem propagowania bezpieczeństwa i konkurencji rynkowej. W miarę jak firmy zajmujące się sztuczną inteligencją coraz częściej współpracują z decydentami, debata koncentruje się na tym, czy regulacje skupiające się na bezpieczeństwie są autentycznymi próbami ograniczenia zagrożeń egzystencjalnych, czy też strategicznymi manewrami mającymi na celu ograniczenie konkurencji. Dyskurs ten ma kluczowe znaczenie, ponieważ rządy na całym świecie zastanawiają się, jak zarządzać zaawansowanymi systemami sztucznej inteligencji bez tłumienia innowacji i tworzenia ram regulacyjnych przyjętych w branży.
Uwagi podkreślają znaczący rozłam w branży sztucznej inteligencji dotyczący motywacji stojących za regulacjami skupiającymi się na bezpieczeństwie. Krytycy twierdzą, że duże laboratoria sztucznej inteligencji mogą wykorzystywać narracje o „ryzyku egzystencjalnym” do kształtowania polityki w sposób faworyzujący ich własną infrastrukturę i protokoły bezpieczeństwa, skutecznie tworząc bariery wejścia dla mniejszych start-upów.
W miarę jak sztuczna inteligencja staje się coraz bardziej zintegrowana z infrastrukturą krytyczną i bezpieczeństwem narodowym, równowaga między szybkim rozwojem a niezbędnymi zabezpieczeniami staje się głównym filarem polityki publicznej. Perspektywa Lonsdale’a podkreśla ryzyko przejęcia regulacyjnego, w przypadku którego regulowane spółki stają się głównymi architektami przepisów mających je ograniczać.
Debata odzwierciedla także szersze obawy dotyczące koncentracji władzy w branży sztucznej inteligencji. Wpływając na krajobraz regulacyjny, dominujące firmy mogą być w stanie sterować trajektorią technologii w sposób zgodny z ich konkretnymi modelami biznesowymi, potencjalnie ograniczając różnorodność rozwoju i wdrażania sztucznej inteligencji.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Stały wpływ głównych laboratoriów zajmujących się sztuczną inteligencją na programy legislacyjne pozostaje kluczowym obszarem zainteresowania. Obserwatorzy powinni monitorować, w jaki sposób decydenci rozróżniają uzasadnione obawy dotyczące bezpieczeństwa od lobbingu motywowanego przez przemysł, szczególnie w obliczu nasilającej się debaty na temat broni autonomicznej i wymogów dotyczących działań człowieka w pętli w odniesieniu do wojskowej sztucznej inteligencji.
Przyszłe sesje legislacyjne i przesłuchania publiczne z udziałem kadry kierowniczej AI będą niezwykle istotne, ponieważ ujawnią, jaką wagę prawodawcy przywiązują do propozycji dotyczących bezpieczeństwa przedstawianych przez branżę w porównaniu z analizami niezależnych ekspertów.
Opracowanie międzynarodowych standardów dla autonomicznych systemów wojskowych będzie kluczowym wskaźnikiem tego, jak rządy zamierzają sprostać wymogowi „człowieka w pętli”, który podkreślił Lonsdale.
Konieczne będzie ciągłe monitorowanie relacji między głównymi laboratoriami zajmującymi się sztuczną inteligencją a wspieranymi przez nie grupami wsparcia, aby ustalić, czy obecne zmiany regulacyjne skutkują wprowadzeniem szerokich standardów bezpieczeństwa czy zabezpieczeń specyficznych dla branży.