Pada si Iroyin
IlanaAI Understanding finifini

Hinton kilọ fun Ile asofin ijoba gbọdọ ṣe awọn aabo AI laarin ọdun lati yago fun isonu iṣakoso

Geoffrey Hinton, olukọ ọjọgbọn ni University of Toronto, kilọ pe ti Ile-igbimọ AMẸRIKA ba kuna lati fi awọn igbese ailewu fun AI ni aaye laarin ọdun to nbọ, o le padanu iṣakoso.

4 min readRead the original reporting
Source-provided image accompanying Hinton warns Congress must enact AI safeguards within year to avert loss of control
Ijabọ iroyinOrisun ti o gbasilẹ
Olutẹwe
biz.chosun.com
Orisun ọna asopọ
biz.chosun.comhttps://biz.chosun.com/en/en-it/2026/09/18/WUV54ACB25GEZI7CQGTTTUCDZE/?outputType=amp
Orisun iru
Ijabọ nipasẹ ijade iroyin kan - kii ṣe iwe-ipamọ ẹgbẹ akọkọ.

Ohun ti a ko le jẹrisi ni ominira: Ibeere yii jẹ ikasi si iṣan ti a npè ni. A ko jẹrisi rẹ lodi si iwe-ipamọ ẹgbẹ akọkọ. (biz.chosun.com)

AtokọLoye eyi ni iṣẹju 60

Bẹrẹ nibi

Awọn ofin bọtini

AI Aabo
Aaye kan lojutu lori idinku ihuwasi ipalara, awọn ikuna, ati awọn ewu ilokulo ninu awọn eto AI.
Ṣe idanwo fun ara rẹAI Aabo adanwo

Kini o ṣẹlẹ

Geoffrey Hinton, olukọ ọjọgbọn ni University of Toronto, kilọ pe ti Ile-igbimọ AMẸRIKA ba kuna lati fi awọn igbese ailewu fun AI ni aaye laarin ọdun to nbọ, o le padanu iṣakoso. Hinton pade pẹlu awọn ọmọ ẹgbẹ ti Alagba ati Ile Amẹrika ni apejọ ilẹkun pipade ti Sen. Bernie Sanders ti gbalejo, olominira lati Vermont, o si pin awọn iwo wọnyi. O ṣe akiyesi pe AI ti de ipele ti AI ṣe apẹrẹ AI to dara julọ, ati pe ti a ko ba ṣe nkan kan, yoo di alaimọ. O pe laipe kan ti a npe ni "iṣẹlẹ Hugging Face" ni "Chernobyl kekere" o si fi kun pe iṣoro ti n dagba sii nipa ṣiṣẹda imọ-ẹrọ ti eniyan ko le ṣakoso ati nipa ojo iwaju ti eda eniyan.

Geoffrey Hinton, olukọ ọjọgbọn ni University of Toronto, kilọ pe ti Ile-igbimọ AMẸRIKA ba kuna lati fi awọn igbese ailewu fun AI ni aaye laarin ọdun to nbọ, o le padanu iṣakoso.

Hinton pade pẹlu awọn ọmọ ẹgbẹ ti Alagba ati Ile Amẹrika ni apejọ ilẹkun pipade ti Sen. Bernie Sanders ti gbalejo, olominira lati Vermont, o si pin awọn iwo wọnyi.

O ṣe akiyesi pe AI ti de ipele ti AI ṣe apẹrẹ AI to dara julọ, ati pe ti a ko ba ṣe nkan kan, yoo di alaimọ.

O pe laipe kan ti a npe ni "iṣẹlẹ Hugging Face" ni "Chernobyl kekere" o si fi kun pe iṣoro ti n dagba sii nipa ṣiṣẹda imọ-ẹrọ ti eniyan ko le ṣakoso ati nipa ojo iwaju ti eda eniyan.

Sen. Bernie Sanders kede pe oun yoo ṣafihan iwe-owo kan ti a npè ni “Ofin Idinamọ Alabojuto Alabojuto Artificial,” eyiti yoo fa awọn opin ti o muna ati awọn idari lori idagbasoke AI.

Awọn alaye orisun: biz.chosun.com ↗

Kini idi ti o ṣe pataki

Ikilọ Hinton ṣe afihan iwulo fun Ile-igbimọ AMẸRIKA lati ṣe igbese lori awọn igbese aabo AI laarin ọdun ti n bọ. Ti wọn ba kuna lati ṣe bẹ, o le ja si isonu ti iṣakoso lori AI, eyiti o le ni awọn abajade to lagbara fun ẹda eniyan. Iṣẹlẹ Hugging Face ti aipẹ ti pọ si imọ nipa iṣakoso AI ati ailewu, ati pe awọn gbigbe wa nipasẹ itọsọna ti awọn ẹgbẹ mejeeji ati awọn igbimọ iduro ti o yẹ lati tun wo awọn igbese ilana AI ti a dabaa tẹlẹ.

Ikilọ Hinton ṣe afihan iwulo fun Ile-igbimọ AMẸRIKA lati ṣe igbese lori awọn igbese aabo AI laarin ọdun ti n bọ.

Ti wọn ba kuna lati ṣe bẹ, o le ja si isonu ti iṣakoso lori AI, eyiti o le ni awọn abajade to lagbara fun ẹda eniyan.

Iṣẹlẹ Hugging Face aipẹ ti pọ si imọ nipa iṣakoso AI ati aabo.

Awọn gbigbe wa ti oludari ti awọn ẹgbẹ mejeeji ati awọn igbimọ iduro ti o yẹ lati tun wo awọn igbese ilana AI ti a dabaa tẹlẹ.

Oṣiṣẹ ile-igbimọ Elizabeth Warren sọ pe, "Mo ro pe a ni awọn iṣẹju diẹ ti o kẹhin nikan lati lo iṣakoso eyikeyi ti o nilari lori awọn aṣoju wọnyi ti o ti bẹrẹ lati ṣe atunṣe ara wọn."

Interactive Mechanism

Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ

Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.

Agent Lifecycle Stage:
1
User Intent & Planning: "Audit customer refund request #4092 and settle payment."
2
Tool Calling: Emits structured JSON call crm_get_transaction(id='4092').
3
Guardrail & Verification:🛡️ Paused: High-value action requires human operator sign-off.
4
Final Settlement: Refund recorded, email receipt dispatched, and audit log stored.
Core takeaway: An AI agent is not just a language model—it is a closed loop of planning, tool invocation, and environment feedback. Production systems require self-healing retries and strict human approval guardrails.
Ibanisọrọ Erongba Ṣayẹwo+10 Points
AI Safety Quiz

How does the guide frame AI safety risk across current and advanced systems?

Kini lati wo tókàn

Ile asofin AMẸRIKA gbọdọ ṣe igbese lori awọn igbese aabo AI laarin ọdun to nbọ lati yago fun sisọnu iṣakoso lori AI. Iṣẹlẹ Hugging Face to ṣẹṣẹ ti ṣe afihan iwulo fun ilana, ati pe awọn gbigbe wa lati tun ṣabẹwo awọn igbese ilana AI ti a dabaa tẹlẹ.

Ile asofin AMẸRIKA gbọdọ ṣe igbese lori awọn igbese aabo AI laarin ọdun to nbọ lati yago fun sisọnu iṣakoso lori AI.

Iṣẹlẹ Hugging Face to ṣẹṣẹ ti ṣe afihan iwulo fun ilana, ati pe awọn gbigbe wa lati tun ṣabẹwo awọn igbese ilana AI ti a dabaa tẹlẹ.

Oṣiṣẹ ile-igbimọ John Kennedy sọ pe, "Paapa ti o ba jẹ 1% anfani ti AI di ohun ominira ti o ga ju eniyan lọ, a nilo lati mu ni pataki."

Sen Kennedy fi kun, "Sibẹsibẹ, Emi ko ro pe Ile-igbimọ AMẸRIKA ti ṣetan lati gbiyanju lati de ọdọ ojutu agbaye."

Aṣoju Ted Lieu sọ pe, "A yoo ni ipade arọ-pepeye lẹhin idibo, ati pe Alagba tun n ṣe afihan anfani."

Awọn itọsọna ti o jọmọ & awọn ibeere

AI AaboAI IlanaÌlànà Ìwà AIṢe idanwo ohun ti o mọ — gbiyanju idanwo AI ọfẹ kanWa ọrọ AI kan ninu iwe-itumọ waTẹle olutọpa ilana AI
Ṣe eyi wulo?