Какво стана
MyNorthwest съобщава, че Microsoft пусна проект на „Хуманистичен AI кодекс на поведение“, фокусиран върху поддържането на AI системите подчинени на човешки контрол. Докладваната рамка ще забрани на моделите на Microsoft да помагат за изграждането на оръжия, стартирането на кибератаки или избягването на надзор, като същевременно обезсърчава системите да имитират съзнание или да се представят като имащи чувства или присъщи мотивации.
MyNorthwest съобщава, че Microsoft пусна черновата на рамката в понеделник и я описва като набор от принципи за управление на моделите на изкуствения интелект на компанията. Според доклада рамката казва, че Humanist AI трябва да подкрепя хората, а не да ги замества, не трябва да бъде проектиран да бъде личност и не трябва да имитира съзнание или да се представя като притежаващ чувства, субективни предпочитания или вътрешна мотивация.
В доклада се казва, че проектът ще забрани на AI системите на Microsoft да помагат за изграждането на оръжия, стартирането на кибератаки или избягването на човешки контрол. Той също така казва, че системите трябва да останат обект на смислен човешки надзор и не трябва да надхвърлят човешкия контрол. Цитираният предговор на Microsoft нарича суперинтелигентността много значима и казва, че компанията възнамерява да сподели своето мислене и да покани обществеността да се включи. Източникът не предоставя пълния оперативен текст на черновата извън свързания документ Microsoft и не потвърждава независимо как правилата ще се прилагат към конкретни съществуващи или бъдещи продукти.
Детайли за източника: mynorthwest.com ↗
Защо има значение
Предложението е важно, защото описва границите на предвидената цел, автономността и границите на безопасност на бъдещите AI системи на Microsoft. Той също така очертава подхода на компанията като отказ от преследване на универсален суперинтелект на всяка цена. Това обаче е проект на рамка, а не доказателство, че всички Microsoft продукти в момента следват тези правила или че предложените предпазни мерки работят на практика. MyNorthwest е източникът на докладваното съдържание и статията не проверява независимо изпълнението, изпълнението или ефективността.
Ако бъде финализирана и прилагана последователно, рамката може да повлияе на начина, по който Microsoft дефинира приемливи изисквания за автономност и безопасност за усъвършенствано развитие на ИИ. Неговият акцент върху ясните цели, оценката в реалния свят и човешкия контрол е подходящ за системи, които могат да предприемат действия, а не само да генерират текст или изображения. Предложението може също така да предостави публичен показател за сравняване на корпоративните ангажименти за безопасност на ИИ, въпреки че източникът не установява, че подходът на Microsoft е по-силен или по-ефективен от политиките на други компании.
Практическото значение остава условно. Статията съобщава за намерения и заявени принципи, незавършени предпазни мерки, резултати от одит, ограничения за внедряване или измерено намаляване на вредите. Също така не се установява дали правилата на Microsoft ще обвържат изпълнители, партньори, разработчици на трети страни или модели, пуснати по външни канали. Условията за достъп и цените за всеки свързан Microsoft продукт не са документирани в източника и остават неизвестни.
Интерактивен механизъм: как всъщност работи
Разгледайте интерактивно основната технология зад тази разработка.
Why can ethical evaluation not be reduced to one model score?
Какво да гледате след това
MyNorthwest казва, че Microsoft ще приема обществени коментари в продължение на шест седмици, преди да финализира рамката и планира да започне прилагането на правилата, докато разработва AI модели през 2027 г. Ключовите въпроси без отговор са как ще бъдат дефинирани забраните, кои продукти и екипи за разработка ще покриват, как ще се тества съответствието и какви механизми за прилагане или докладване ще се прилагат.
Непосредствената следваща стъпка, според MyNorthwest, е шестседмичен период на публичен коментар, последван от финализирането на правилата от Microsoft. Покритието трябва да проучи дали окончателният документ променя докладваните забрани или изяснява термини като „оръжия“, „кибератаки“, „смислен човешки надзор“ и „човешки контрол“.
В доклада се казва, че се очаква внедряването да започне, тъй като Microsoft разработва AI модели през 2027 г. Важни доказателства ще включват конкретни продуктови политики, процедури за оценка, изисквания за ескалация, независими оценки и примери, показващи как Microsoft управлява системи, които работят със значителна автономност. Източникът не съобщава дата на стартиране, обща наличност, ценообразуване или път на достъп за нов продукт, свързан с рамката.