Co się stało
Magazyn AI donosi, że OpenAI utworzył sześcioosobowy zespół Strategic Futures, na którego czele stoi Dean Ball, były doradca Białego Domu ds. sztucznej inteligencji i polityki inżynieryjnej. Zespół uruchomił AI Futures, blog badawczy i platformę komentarzy publicznych, której inauguracyjny manifest analizuje, w jaki sposób społeczeństwa mogą chronić prawa jednostki i sprawczość w miarę zwiększania się wydajności systemów AI.
Magazyn AI donosi, że OpenAI powołał zespół Strategic Futures i wprowadził AI Futures jako publiczny blog badawczy i platformę komentarzy. Portal wskazuje, że szefem zespołu jest Dean Ball, który wcześniej pełnił funkcję starszego doradcy ds. sztucznej inteligencji i inżynierii w Biurze ds. Nauki i Technologii Białego Domu. Opisuje się, że zespół składa się z sześciu członków i podlega głównemu dyrektorowi ds. strategii OpenAI, Jasonowi Kwonowi. Źródło nie podaje nazwisk pozostałych członków, budżetu zespołu ani szczegółowego harmonogramu publikacji.
Według AI Magazine premierze towarzyszy manifest inauguracyjny opublikowany na stronie internetowej OpenAI. W manifeście zadano pytanie, jak należy zrestrukturyzować wolne społeczeństwo, aby zachować prawa jednostki i sprawczość, a jednocześnie uwzględnić to, co nazywa transformacyjną sztuczną inteligencją. W artykule przedstawiono tę kwestię jako główny cel nowej grupy. O istnieniu i brzmieniu manifestu informuje magazyn AI; podstawowy dokument OpenAI nie został niezależnie zbadany w dostarczonym tutaj materiale.
W artykule napisano, że manifest skupia się na możliwym oddzieleniu władzy politycznej lub gospodarczej od pracy ludzkiej. Magazyn AI donosi, że Ball twierdzi, że coraz bardziej autonomiczne systemy mogłyby ostatecznie zarządzać biurokratyczną administracją, produkcją gospodarczą i siłą fizyczną, przy mniejszym uzależnieniu od pracy i współpracy ludzi. Zdaniem artykułu może to osłabić wpływ gospodarczy, jaki tradycyjnie wywierały jednostki i mniejsze organizacje w stosunku do potężnych instytucji. To argumenty i scenariusze opisane w manifeście, a nie przytaczane dowody na to, że taka przemiana społeczna już nastąpiła.
Magazyn AI twierdzi, że Strategic Futures zbada pionierską politykę dotyczącą sztucznej inteligencji i przełoży rozwój techniczny na pytania dotyczące społeczeństwa. Oprócz platformy AI Futures grupa podobno planuje publikować formalne artykuły badawcze, podcasty, filmy i modele prognostyczne. Źródło opisuje projekt jako próbę rozważenia, w jaki sposób instytucje ludzkie mogłyby się przystosować, zachowując jednocześnie centralną rolę w sprawach publicznych. Nie ustala, czy którykolwiek z planowanych materiałów powstał już poza manifestem inauguracyjnym. Zgłoszone plany określają zatem zamierzony zakres, a nie ukończony zakres prac. Na podstawie dostępnych informacji podczas premiery ustala się ustalony przez zespół temat i proponowane formaty, pozostawiając nierozstrzygniętym harmonogram, głębokość i praktyczny zasięg przyszłych wyników. Relacja źródła opisuje projekt jako próbę rozważenia, w jaki sposób instytucje ludzkie mogłyby się przystosować, ale nie określa, w jaki sposób te rozważania zostaną przeprowadzone ani jakie wnioski z nich wynikną. Nie określa również, czy planowane artykuły, podcasty, filmy i modele prognostyczne będą publikowane łącznie, osobno czy według ustalonego harmonogramu. Na razie manifest inauguracyjny to jedyny materiał zidentyfikowany w dostarczonej relacji jako już opublikowany, zatem szerszy program badawczy zespołu pozostaje raczej raportowanym planem niż udokumentowanym zbiorem ukończonych prac.
Szczegóły źródła: aimagazine.com ↗
Dlaczego to ma znaczenie
W ramach tej inicjatywy kwestie władzy politycznej, dźwigni ekonomicznej i odpowiedzialności znajdują się w centrum publicznego programu badawczego przedsiębiorstwa zajmującego się sztuczną inteligencją. W artykule napisano, że zespół będzie publikować artykuły badawcze, podcasty, filmy i modele prognostyczne, ale jego praktyczny wpływ, zasoby i niezależność od komercyjnych interesów OpenAI pozostają niejasne.
Zgłoszona premiera ma znaczenie, ponieważ zapewnia OpenAI specjalne publiczne miejsce do dyskusji na temat instytucjonalnych konsekwencji własnej technologii. Kwestie opisane przez AI Magazine wykraczają poza projektowanie produktów: obejmują one kwestię tego, kto zachowa siłę przetargową, gdy systemy AI wykonują pracę bardziej wartościową ekonomicznie, w jaki sposób obywatele mogą zachować znaczącą niezależność oraz jak rządy powinny reagować bez dalszej koncentracji władzy. Pytania te mają bezpośrednie znaczenie dla porządku publicznego oraz podziału korzyści i zagrożeń związanych z zaawansowaną sztuczną inteligencją.
Zasady platformy, podsumowane przez AI Magazine, podkreślają indywidualną autonomię w korzystaniu ze sztucznej inteligencji, indywidualną odpowiedzialność za niewłaściwe użycie, ograniczone działania zbiorowe w przypadku wąskiej klasy zagrożeń, przepisy, które wyrównują szanse, a nie centralizują władzę, dalszy prymat instytucji ludzkich oraz nowe mechanizmy zapewniające ograniczoną czytelność. Podsumowując, zasady te sugerują podejście do zarządzania, które faworyzuje ograniczoną interwencję i zachowanie indywidualnego wyboru. W artykule nie wyjaśniono, w jaki sposób zasady te miałyby zastosowanie do konkretnych sporów dotyczących przesiedleń pracowników, dostępu do komputerów, prywatności, kontroli bezpieczeństwa lub wykorzystania w sektorze publicznym.
Istnieje również ważna kwestia odpowiedzialności. Nowy zespół jest częścią OpenAI, firmy, której produkty i decyzje biznesowe same podlegają zarządzaniu sztuczną inteligencją. Magazyn AI informuje o strukturze zespołu i jego planowanych wynikach, ale nie ocenia niezależnie standardów badawczych, finansowania, nadzoru zewnętrznego ani oddzielenia od polityki i priorytetów komercyjnych OpenAI. Dopóki te szczegóły nie zostaną upublicznione, inicjatywę należy rozumieć jako wkład OpenAI w debatę na temat zarządzania, a nie jako niezależną ocenę technologii firmy lub skutków społecznych sztucznej inteligencji.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
Kolejnymi znaczącymi sygnałami będą merytoryczne publikacje zespołu, jego dowody i metody oraz to, czy proponuje konkretne mechanizmy zarządzania. Czytelnicy powinni także zwrócić uwagę na ujawnienie budżetu zespołu, procesu przeglądu, personelu, powiązania z działaniami politycznymi OpenAI oraz odpowiedzi zewnętrznych badaczy, grup społeczeństwa obywatelskiego i decydentów.
Najjaśniejszym następnym testem będzie to, czy AI Futures przejdzie od ogólnych zasad do konkretnej, możliwej do sprawdzenia pracy. Przyszłe publikacje należy oceniać pod kątem ustalonych założeń, dowodów potwierdzających, sposobu podejścia do niepewności, definicji transformacyjnej sztucznej inteligencji oraz tego, czy proponowane zabezpieczenia miałyby zastosowanie w równym stopniu do dużych firm technologicznych, rządów, mniejszych organizacji i osób prywatnych. Źródło nie podaje, kiedy pojawi się kolejna gazeta, prognoza, podcast lub wideo.
Na uwagę zasługuje także rola zarządcza zespołu i proces podejmowania decyzji. Do ważnych niewiadomych zalicza się to, kto ocenia jego pracę, czy zewnętrzni eksperci mogą kwestionować tę pracę lub wnosić do niej wkład, w jaki sposób rozwiązywane są konflikty z interesami handlowymi OpenAI oraz czy zespół ma uprawnienia do wpływania na decyzje dotyczące produktu, bezpieczeństwa lub polityki. Magazyn AI opisuje powiązania między Ballem i Kwonem, ale nie podaje dalszych szczegółów instytucjonalnych.
Oddziaływanie społeczne będzie zależeć od tego, czy projekt zmieni dyskusje polityczne, czy pozostanie głównie komentarzem. Obserwuj zaangażowanie organów regulacyjnych, prawodawców, badaczy, grup pracowniczych i organizacji społeczeństwa obywatelskiego, a także konkretne propozycje dotyczące odpowiedzialności, dostępu, transformacji gospodarczej i praw jednostki. Nic w dostarczonym raporcie nie potwierdza niezależnie, że zespół zapewnił sobie wsparcie rządowe, przyjął formalne ramy polityki lub wprowadził wymierne zmiany poza OpenAI.