Mi történt
A MyNorthwest jelentése szerint a Microsoft kiadott egy „Humanista AI magatartási kódexet”, amely arra összpontosít, hogy az AI-rendszereket alárendelje az emberi irányításnak. A bejelentett keretrendszer megtiltja a Microsoft modelljeit abban, hogy segítsenek fegyvereket készíteni, kibertámadásokat indítani vagy kikerülni a felügyeletet, miközben elriasztja a rendszereket attól, hogy utánozzák a tudatot, vagy úgy mutassák be magukat, mint akiknek érzései vagy belső motivációi vannak.
A MyNorthwest jelentése szerint a Microsoft hétfőn kiadta a keretvázlat tervezetét, és a vállalat mesterséges intelligencia-modelljeit irányító alapelvként írja le. A jelentés szerint a keretrendszer szerint a humanista mesterséges intelligencia támogatnia kell az embereket, nem pedig helyettesítenie kell őket, nem szabad személynek tervezni, és nem szabad a tudatot utánoznia, vagy érzésekkel, szubjektív preferenciákkal vagy belső motivációval rendelkezőként ábrázolnia magát.
A jelentés szerint a tervezet megtiltja a Microsoft mesterséges intelligencia rendszereit abban, hogy segítsenek fegyvereket készíteni, kibertámadásokat indítani vagy kikerülni az emberi irányítást. Azt is kimondja, hogy a rendszereknek jelentős emberi felügyelet alatt kell maradniuk, és nem szabad túllépniük az emberi ellenőrzésen. A Microsoft idézett előszavában a szuperintelligenciát rendkívül következetesnek nevezi, és azt mondja, hogy a vállalat szándékában áll megosztani gondolatait, és felkéri a nyilvánosság véleményét. A forrás a hivatkozott Microsoft dokumentumon túl nem adja meg a tervezet teljes operatív szövegét, és nem erősíti meg önállóan, hogy a szabályok hogyan vonatkoznának egyes meglévő vagy jövőbeni termékekre.
Forrás részletei: mynorthwest.com ↗
Miért számít
A javaslat azért jelentős, mert leírja a Microsoft jövőbeli mesterséges intelligencia-rendszereinek tervezett rendeltetésének, autonómiájának és biztonsági határainak korlátait. A vállalat megközelítését úgy is megfogalmazza, mint az univerzális szuperintelligencia bármi áron való törekvését. Ez azonban egy keretvázlat, nem pedig annak bizonyítéka, hogy jelenleg minden Microsoft termék megfelel ezeknek a szabályoknak, vagy hogy a javasolt biztosítékok a gyakorlatban működnek. A MyNorthwest a jelentett tartalom forrása, és a cikk nem ellenőrzi függetlenül a megvalósítást, a végrehajtást vagy a hatékonyságot.
Ha véglegesítik és következetesen alkalmazzák, a keretrendszer befolyásolhatja, hogy a Microsoft hogyan határozza meg az elfogadható autonómia és biztonsági követelményeket a fejlett AI-fejlesztéshez. A világos célokra, a valós kiértékelésre és az emberi irányításra fektetett hangsúly olyan rendszerek esetében releváns, amelyek ahelyett, hogy csak szöveget vagy képeket generálnának, cselekedni tudnak. A javaslat nyilvános viszonyítási alapként szolgálhat a vállalati mesterségesintelligencia-biztonsági kötelezettségvállalások összehasonlításához, bár a forrás nem bizonyítja, hogy a Microsoft megközelítése erősebb vagy hatékonyabb, mint más vállalatok politikái.
A gyakorlati jelentősége feltételes marad. A cikk szándékokról és kimondott elvekről számol be, nem teljesített biztosítékokról, ellenőrzési eredményekről, telepítési korlátozásokról vagy a károk mért csökkenéséről. Azt sem állapítja meg, hogy a Microsoft szabályai kötnék-e a vállalkozókat, partnereket, külső fejlesztőket vagy a külső csatornákon kiadott modelleket. A kapcsolódó Microsoft termékek hozzáférési feltételei és árai nem szerepelnek a forrásban, és ismeretlenek.
Interaktív mechanizmus: Hogyan működik valójában
Fedezze fel interaktívan a fejlesztés mögött meghúzódó technológiát.
Why can ethical evaluation not be reduced to one model score?
Mit nézzünk ezután
A MyNorthwest szerint a Microsoft hat hétig fogadja el a nyilvános megjegyzéseket a keretrendszer véglegesítése előtt, és azt tervezi, hogy megkezdi a szabályok végrehajtását, miközben 2027-ben kifejleszti a mesterséges intelligencia modelleket. A legfontosabb megválaszolatlan kérdések az, hogy hogyan határozzák meg a tilalmakat, mely termékekre és fejlesztőcsapatokra vonatkoznak, hogyan tesztelik a megfelelőséget, és milyen végrehajtási vagy jelentési mechanizmusokat alkalmaznak.
A MyNorthwest szerint a következő lépés egy hathetes nyilvános véleményezési időszak, majd a Microsoft véglegesíti a szabályokat. A lefedettségnek meg kell vizsgálnia, hogy a végleges dokumentum megváltoztatja-e a bejelentett tiltásokat, vagy tisztázza-e az olyan kifejezéseket, mint a „fegyver”, „kibertámadás”, „értelmes emberi felügyelet” és „emberi irányítás”.
A jelentés szerint a bevezetés várhatóan akkor kezdődik, amikor a Microsoft 2027-ben AI modelleket fejleszt. A fontos bizonyítékok közé tartoznak a konkrét termékpolitikák, értékelési eljárások, eszkalációs követelmények, független értékelések és példák, amelyek bemutatják, hogyan kezeli a Microsoft a jelentős autonómiával működő rendszereket. A forrás nem jelenti a keretrendszerhez társított új termék bevezetési dátumát, általános elérhetőségét, árát vagy hozzáférési útvonalát.