Co se stalo
MyNorthwest hlásí, že Microsoft vydal návrh „Humanistického kodexu chování AI“ zaměřený na udržení systémů AI podřízenou lidské kontrole. Oznámený rámec by zakazoval modelům Microsoft pomáhat vytvářet zbraně, zahajovat kybernetické útoky nebo vyhýbat se dohledu a zároveň by odrazoval systémy od napodobování vědomí nebo předvádění sebe sama jako pocitů nebo vnitřních motivací.
MyNorthwest uvádí, že Microsoft v pondělí zveřejnila návrh rámce a popisuje jej jako soubor principů pro řízení modelů umělé inteligence společnosti. Podle zprávy rámec říká, že humanistická umělá inteligence by měla lidi spíše podporovat, než je nahrazovat, neměla by být navržena tak, aby byla osobou, a neměla by napodobovat vědomí nebo se představovat jako osoba s pocity, subjektivními preferencemi nebo vnitřní motivací.
Zpráva říká, že návrh by zabránil systémům umělé inteligence Microsoft pomáhat vytvářet zbraně, spouštět kybernetické útoky nebo vyhýbat se lidské kontrole. Také říká, že systémy by měly zůstat pod smysluplným lidským dohledem a neměly by překročit lidskou kontrolu. Citovaná předmluva Microsoft označuje superinteligenci za vysoce důslednou a říká, že společnost má v úmyslu sdílet své myšlenky a pozvat veřejnost. Zdroj neposkytuje úplný provozní text návrhu nad rámec odkazovaného dokumentu Microsoft a nezávisle nepotvrzuje, jak by se pravidla vztahovala na konkrétní stávající nebo budoucí produkty.
Podrobnosti o zdroji: mynorthwest.com ↗
Proč na tom záleží
Návrh je významný, protože popisuje omezení zamýšleného účelu, autonomie a bezpečnostních hranic budoucích systémů umělé inteligence Microsoft. To také rámuje přístup společnosti jako odmítnutí prosazování univerzální superinteligence za každou cenu. Toto je však návrh rámce, nikoli důkaz, že všechny produkty Microsoft v současnosti dodržují tato pravidla nebo že navrhovaná ochranná opatření v praxi fungují. MyNorthwest je zdrojem nahlášeného obsahu a článek nezávisle neověřuje implementaci, prosazování nebo účinnost.
Pokud bude dokončen a bude aplikován konzistentně, mohl by rámec ovlivnit, jak Microsoft definuje přijatelné požadavky na autonomii a bezpečnost pro pokročilý vývoj AI. Jeho důraz na jasné účely, vyhodnocení v reálném světě a lidskou kontrolu je relevantní pro systémy, které mohou provádět akce spíše než pouze generovat text nebo obrázky. Návrh by také mohl poskytnout veřejné měřítko pro srovnávání firemních bezpečnostních závazků AI, ačkoli zdroj neuvádí, že přístup Microsoft je silnější nebo účinnější než politiky jiných společností.
Praktický význam zůstává podmíněný. Článek uvádí záměry a deklarované principy, nedokončená ochranná opatření, výsledky auditu, omezení nasazení nebo naměřená snížení škod. Rovněž nestanoví, zda by pravidla Microsoft zavazovala dodavatele, partnery, vývojáře třetích stran nebo modely vydané prostřednictvím externích kanálů. Podmínky přístupu a ceny jakéhokoli souvisejícího produktu Microsoft nejsou zdokumentovány ve zdroji a zůstávají neznámé.
Interaktivní mechanismus: Jak to vlastně funguje
Interaktivně prozkoumejte základní technologii tohoto vývoje.
Why can ethical evaluation not be reduced to one model score?
Na co se dále dívat
MyNorthwest říká, že Microsoft bude šest týdnů před dokončením rámce přijímat veřejné připomínky a plánuje zahájit implementaci pravidel při vývoji modelů umělé inteligence v roce 2027. Klíčové nezodpovězené otázky jsou, jak budou definovány zákazy, na které produkty a vývojové týmy se budou vztahovat, jak bude testována shoda a jaké mechanismy vymáhání nebo hlášení budou platit.
Bezprostředním dalším krokem je podle MyNorthwest šestitýdenní období pro veřejné připomínky, po kterém následuje finalizace pravidel Microsoft. Pokrytí by mělo zkoumat, zda konečný dokument mění hlášené zákazy nebo objasňuje pojmy jako „zbraně“, „kybernetické útoky“, „smysluplný lidský dohled“ a „lidská kontrola“.
Zpráva uvádí, že implementace by měla začít, když Microsoft vyvine modely umělé inteligence v roce 2027. Mezi důležité důkazy by patřily konkrétní produktové zásady, postupy hodnocení, požadavky na eskalaci, nezávislá hodnocení a příklady ukazující, jak Microsoft zachází se systémy, které fungují s podstatnou autonomií. Zdroj neuvádí datum uvedení na trh, obecnou dostupnost, cenu ani přístupovou cestu pro nový produkt spojený s rámcem.