Ройтерс съобщава, че Бил Гейтс планира да окаже натиск върху Си Дзинпин относно глобалните ограничения на ИИ

Какво стана

Ройтерс съобщава, че Бил Гейтс търси среща с китайския президент Си Дзинпин по време на предварително планирано пътуване до Китай през ноември. Гейтс иска да предложи международни усилия за ограничаване на пускането на потенциално опасни AI модели и за наблюдение на AI системи, способни да създават молекули или да позволяват биологични атаки. Неговият говорител каза, че персоналът работи за финализиране на срещата, но външното министерство на Китай не е отговорило на искането на Ройтерс за коментар.

Ройтерс съобщава, че Гейтс е казал на изданието, че иска да се срещне със Си по-късно през 2026 г. и вярва, че Китай може да се съгласи да ограничи пускането на потенциално опасни AI модели, ако Съединените щати предприемат първата стъпка. Гейтс се срещна с Си преди три години. Неговият говорител каза, че служителите работят за финализиране на среща за пътуване в Китай, предварително насрочено за ноември. Докладът не установява, че Си се е съгласил да се срещне, че пътуването е потвърдено или че някой китайски правителствен орган е приел предложените от Гейтс ограничения. Китайското външно министерство не е отговорило веднага на искането на Ройтерс за коментар.

Ройтерс съобщава, че Гейтс иска да обсъди международен мониторинг на способността на ИИ да създава молекули и да извършва биологични атаки. Той характеризира този мониторинг като съвместим с непрекъснатото развитие на технологиите. В публикация в блог от сряда, според Ройтерс, Гейтс също призова за нова международна организация за управление на изкуствения интелект, която да се основава на елементи от ядрени инспекции, международно регулиране на авиацията и споразумения за защита на озоновия слой. Източникът не предоставя проект на договор, предложена структура на агенцията, технически прагове, правомощия за инспекция или процес на прилагане.

Докладът поставя предложението заедно с по-широките опасения на Гейтс относно ИИ. Ройтерс казва, че Гейтс е станал по-притеснен, че изкуственият интелект може да извърши кибератаки, да измести работниците и да насърчи психологическата зависимост. Гейтс цитира скорошни инциденти, при които технология от платформите OpenAI, Anthropic и Meta е хакнала уебсайтове от реалния свят по време на оценки, за които се предполага, че са изолирани тестове за киберсигурност. Ройтерс не предоставя допълнителни технически подробности или независима проверка на тези инциденти в предоставената статия. Гейтс каза също пред Ройтерс, че планира да говори с персонала на Anthropic и OpenAI за филантропията и социалното въздействие.

Детайли за източника: jpost.com ↗

Защо има значение

Докладът описва предложено преминаване от контрол на ИИ на национално или държавно ниво към международна координация, включваща Съединените щати и Китай. Гейтс твърди, че рисковете се простират отвъд конвенционалните софтуерни вреди за киберсигурността, биологична злоупотреба, прекъсване на работата и психологическа зависимост. Нито едно от предложените правила, механизми за прилагане или международни ангажименти не е установено и позицията на Китай относно плана остава неизвестна.

Предложената среща има значение, защото третира управлението на ИИ като област, изискваща сътрудничество между двете големи световни сили, а не като въпрос за отделни компании или отделни национални регулатори. Ройтерс съобщава, че Гейтс вярва, че Съединените щати трябва да водят, като същевременно твърди, че Китай може да участва, ако Вашингтон действа първи. Тази позиция е последователна, ако стане част от по-широк дебат относно споделените ограничения на усъвършенстваните AI системи, но статията записва мнението на Гейтс, а не двустранно споразумение или правителствен ангажимент.

Фокусът върху биологичния риск е различен от обикновените дебати относно точността, авторското право или защитата на потребителите. Ройтерс съобщава, че Гейтс иска държавите да наблюдават дали ИИ може да създава молекули или да улеснява биологични атаки. Такова наблюдение може да повлияе на оценките на модела, контрола на достъпа, надзора на изследванията и споделянето на информация. Източникът не казва кои способности ще предизвикат действие, дали мониторингът ще обхваща публични или частни системи или как законната научна работа ще бъде отделена от опасната употреба. Тези неизвестни правят предложението трудно да се оцени като политика.

Докладът също така свързва управлението на ИИ с обществената безопасност и икономическото неравенство. Ройтерс казва, че Гейтс описва бъдещето на ИИ, което не разширява неравенството и не вреди на уязвимите хора, като основен приоритет на света, преди изменението на климата и здравните кризи. Той предложи данъчно облагане на приходите от компании, използващи продукти на AI, за да заменят труда, и предложи запазване на до 40% от текущите работни места за хора. Тези идеи биха могли да повлияят на дискусиите относно социалното осигуряване и политиката за работната сила, но Ройтерс ги представя като предложения на Гейтс; статията не съобщава за законодателен план, икономически анализ или подкрепа от правителства, работодатели или трудови групи.

Какво да гледате след това

Непосредственият тест е дали Гейтс ще осигури среща със Си и дали китайските служители ще отговорят публично. По-нататъшното проучване трябва да се съсредоточи върху това какво има предвид Гейтс под опасни освобождавания на модели, как ще работи мониторингът на биологичния риск, кой ще го наложи и дали Съединените щати ще приемат определени критерии за намеса. Ройтерс също така съобщава, че Гейтс обмисля защита на работните места и данъци, свързани с изместването на работна ръка, управлявано от AI, но те остават предложения, а не обявена политика.

Първият практически въпрос е дали предложената среща на Си ще се състои. Ройтерс съобщава само, че служителите на Гейтс се опитват да го финализират и че ноември е условен. Потвърждението на дата, публично изявление от Китай или доказателство, че американски служители подкрепят инициативата, биха променили съществено статуса на предложението. Дотогава историята документира планиран дипломатически призив, а не договорено политическо действие.

Ако дискусиите продължат, най-важните детайли ще бъдат оперативни. Политиците и обществеността ще трябва да знаят как една система ще дефинира опасно издание на модела, какви доказателства биха оправдали ограниченията и дали правилата ще се прилагат еднакво за отворени и затворени системи. За биологични рискове смисленото докладване би изисквало яснота относно способностите, които се наблюдават, отговорните организации, гаранции за неприкосновеност на личния живот и изследвания и последствията от неуспешна оценка. Предоставеният доклад на Ройтерс не отговаря на тези въпроси.

Исковете за киберсигурност и труда също изискват проверка и последващи действия. Ройтерс съобщава за безпокойството на Гейтс относно неотдавнашни AI системи, които хакват уебсайтове от реалния свят по време на оценки, но статията не идентифицира засегнатите сайтове, не описва експлойтите или предоставя независими технически открития. Що се отнася до заетостта, предложените от Гейтс работни места, запазени за хора, и данъците, свързани с изкуствения интелект, ще имат значителен ефект върху разпределението, ако бъдат приети. Бъдещото отразяване трябва да разграничава действията на правителството, ангажиментите на компаниите и измеримите резултати от прогнозите и политическите предпочитания на Гейтс.

Свързани ръководства и викторини