Co się stało
MyNorthwest donosi, że Microsoft opublikowało wersję roboczą „Kodeksu postępowania humanistycznej sztucznej inteligencji”, skupiającą się na utrzymaniu systemów sztucznej inteligencji pod kontrolą człowieka. Zgłoszone ramy zabraniałyby modelom Microsoft pomagania w budowaniu broni, przeprowadzaniu cyberataków lub unikaniu nadzoru, zniechęcając jednocześnie systemy do naśladowania świadomości lub prezentowania się jako osoby posiadające uczucia lub wewnętrzne motywacje.
MyNorthwest donosi, że Microsoft opublikowało w poniedziałek projekt frameworka i opisuje go jako zbiór zasad regulujących firmowe modele sztucznej inteligencji. Według raportu ramy mówią, że humanistyczna sztuczna inteligencja powinna raczej wspierać ludzi, a nie ich zastępować, nie powinna być projektowana tak, aby była osobą i nie powinna imitować świadomości ani przedstawiać się jako osoba posiadająca uczucia, subiektywne preferencje lub wewnętrzną motywację.
Z raportu wynika, że projekt zabrania systemom sztucznej inteligencji Microsoft pomagania w budowaniu broni, przeprowadzaniu cyberataków lub unikaniu kontroli człowieka. Stwierdza również, że systemy powinny podlegać znaczącemu nadzorowi człowieka i nie powinny wykraczać poza kontrolę człowieka. Cytowana przedmowa Microsoft nazywa superinteligencję wysoce konsekwentną i stwierdza, że firma zamierza podzielić się swoim sposobem myślenia i zaprosić opinię publiczną do udziału. Źródło nie podaje pełnego tekstu operacyjnego projektu poza powiązanym dokumentem Microsoft i nie potwierdza w sposób niezależny, w jaki sposób zasady miałyby zastosowanie do konkretnych istniejących lub przyszłych produktów.
Szczegóły źródła: mynorthwest.com ↗
Dlaczego to ma znaczenie
Propozycja jest istotna, ponieważ opisuje ograniczenia zamierzonego celu, autonomii i granic bezpieczeństwa przyszłych systemów AI Microsoft. Przedstawia także podejście firmy jako odrzucenie dążenia za wszelką cenę do uniwersalnego superwywiadu. Jest to jednak projekt ramowy, a nie dowód na to, że wszystkie produkty Microsoft są obecnie zgodne z tymi zasadami lub że proponowane zabezpieczenia sprawdzają się w praktyce. Źródłem zgłaszanych treści jest MyNorthwest, a artykuł nie weryfikuje niezależnie wdrożenia, egzekwowania ani skuteczności.
Jeśli platforma zostanie sfinalizowana i konsekwentnie stosowana, struktura może mieć wpływ na sposób, w jaki Microsoft definiuje akceptowalne wymagania w zakresie autonomii i bezpieczeństwa na potrzeby rozwoju zaawansowanej sztucznej inteligencji. Nacisk na jasne cele, ocenę w świecie rzeczywistym i kontrolę człowieka jest istotny w przypadku systemów, które mogą podejmować działania, a nie tylko generować tekst lub obrazy. Propozycja mogłaby również stanowić publiczny punkt odniesienia do porównywania zobowiązań przedsiębiorstw w zakresie bezpieczeństwa sztucznej inteligencji, chociaż źródło nie wskazuje, że podejście Microsoft jest silniejsze lub skuteczniejsze niż polityki innych firm.
Znaczenie praktyczne pozostaje warunkowe. W artykule opisano zamiary i ustalone zasady, nieukończone zabezpieczenia, wyniki audytu, ograniczenia wdrożeniowe lub zmierzone zmniejszenie szkód. Nie ustala również, czy zasady Microsoft będą obowiązywać wykonawców, partnerów, zewnętrznych programistów lub modele udostępniane kanałami zewnętrznymi. Warunki dostępu i ceny jakiegokolwiek powiązanego produktu Microsoft nie są udokumentowane w źródle i pozostają nieznane.
Mechanizm interaktywny: jak to faktycznie działa
Poznaj interaktywnie technologię leżącą u podstaw tego rozwoju.
Why can ethical evaluation not be reduced to one model score?
Co obejrzeć dalej
MyNorthwest twierdzi, że Microsoft będzie akceptować publiczne komentarze przez sześć tygodni przed sfinalizowaniem ram i planuje rozpocząć wdrażanie zasad w miarę opracowywania modeli sztucznej inteligencji w 2027 r. Kluczowe pytania bez odpowiedzi dotyczą tego, w jaki sposób zostaną zdefiniowane zakazy, jakie produkty i zespoły programistyczne będą nimi objęte, w jaki sposób będzie testowana zgodność oraz jakie będą miały zastosowanie mechanizmy egzekwowania prawa lub raportowania.
Według MyNorthwest bezpośrednim następnym krokiem jest sześciotygodniowy okres komentowania opinii publicznej, po którym następuje sfinalizowanie zasad przez Microsoft. W raporcie należy sprawdzić, czy dokument końcowy zmienia zgłoszone zakazy lub wyjaśnia pojęcia takie jak „broń”, „cyberataki”, „znaczący nadzór człowieka” i „kontrola człowieka”.
Z raportu wynika, że wdrożenie ma się rozpocząć, gdy Microsoft opracuje modele sztucznej inteligencji w 2027 r. Do ważnych dowodów będą należeć konkretne zasady dotyczące produktów, procedury oceny, wymagania dotyczące eskalacji, niezależne oceny i przykłady pokazujące, jak Microsoft radzi sobie z systemami, które działają ze znaczną autonomią. Źródło nie podaje daty wprowadzenia na rynek, ogólnej dostępności, cen ani ścieżki dostępu nowego produktu powiązanego z platformą.