Wat is er gebeurd
Geoffrey Hinton, emeritus hoogleraar aan de Universiteit van Toronto, waarschuwde dat als het Amerikaanse Congres er niet in slaagt om binnen een jaar veiligheidsmaatregelen voor AI te treffen, het de controle zou kunnen verliezen. Hinton had een ontmoeting met leden van de Amerikaanse Senaat en het Huis van Afgevaardigden tijdens een briefing achter gesloten deuren, georganiseerd door senator Bernie Sanders, een onafhankelijke uit Vermont, en deelde deze standpunten. Hij merkte op dat AI nu het stadium heeft bereikt waarin AI betere AI ontwerpt, en als we niets doen, zal het oncontroleerbaar worden. Hij noemde het recente zogenaamde “Hugging Face-incident” een “klein Tsjernobyl” en voegde eraan toe dat er groeiende bezorgdheid bestaat over het creëren van technologie die mensen niet kunnen controleren en over de toekomst van de mensheid.
Geoffrey Hinton, emeritus hoogleraar aan de Universiteit van Toronto, waarschuwde dat als het Amerikaanse Congres er niet in slaagt om binnen een jaar veiligheidsmaatregelen voor AI te treffen, het de controle zou kunnen verliezen.
Hinton had een ontmoeting met leden van de Amerikaanse Senaat en het Huis van Afgevaardigden tijdens een briefing achter gesloten deuren, georganiseerd door senator Bernie Sanders, een onafhankelijke uit Vermont, en deelde deze standpunten.
Hij merkte op dat AI nu het stadium heeft bereikt waarin AI betere AI ontwerpt, en als we niets doen, zal het oncontroleerbaar worden.
Hij noemde het recente zogenaamde “Hugging Face-incident” een “klein Tsjernobyl” en voegde eraan toe dat er groeiende bezorgdheid bestaat over het creëren van technologie die mensen niet kunnen controleren en over de toekomst van de mensheid.
Senator Bernie Sanders kondigde aan dat hij een wetsvoorstel zou indienen met de naam ‘Artificial Superintelligence Prohibition Act’, die strikte beperkingen en controles zou opleggen aan de ontwikkeling van AI.
Brongegevens: biz.chosun.com ↗
Waarom het ertoe doet
De waarschuwing van Hinton benadrukt de noodzaak voor het Amerikaanse Congres om binnen een jaar actie te ondernemen op het gebied van AI-veiligheidsmaatregelen. Als ze dit niet doen, kan dit leiden tot verlies van controle over AI, wat ernstige gevolgen kan hebben voor de mensheid. Het recente Hugging Face-incident heeft het bewustzijn over de beheersbaarheid en veiligheid van AI vergroot, en er zijn stappen onder leiding van de leiding van beide partijen en de relevante vaste commissies om eerder voorgestelde AI-regelgevingsmaatregelen te herzien.
De waarschuwing van Hinton benadrukt de noodzaak voor het Amerikaanse Congres om binnen een jaar actie te ondernemen op het gebied van AI-veiligheidsmaatregelen.
Als ze dit niet doen, kan dit leiden tot verlies van controle over AI, wat ernstige gevolgen kan hebben voor de mensheid.
Het recente Hugging Face-incident heeft het bewustzijn over de beheersbaarheid en veiligheid van AI vergroot.
Er zijn stappen onder leiding van de leiding van beide partijen en de relevante vaste commissies om eerder voorgestelde AI-regelgevingsmaatregelen te herzien.
Senator Elizabeth Warren zei: "Ik denk dat we nog maar de laatste paar minuten hebben om enige betekenisvolle controle uit te oefenen over deze agenten die zichzelf beginnen te repliceren."
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
crm_get_transaction(id='4092').How does the guide frame AI safety risk across current and advanced systems?
Wat je nu moet bekijken
Het Amerikaanse Congres moet binnen een jaar actie ondernemen op het gebied van AI-veiligheidsmaatregelen om te voorkomen dat de controle over AI verloren gaat. Het recente Hugging Face-incident heeft de noodzaak van regulering benadrukt, en er zijn stappen om eerder voorgestelde AI-regelgevingsmaatregelen te herzien.
Het Amerikaanse Congres moet binnen een jaar actie ondernemen op het gebied van AI-veiligheidsmaatregelen om te voorkomen dat de controle over AI verloren gaat.
Het recente Hugging Face-incident heeft de noodzaak van regulering benadrukt, en er zijn stappen om eerder voorgestelde AI-regelgevingsmaatregelen te herzien.
Senator John Kennedy zei: "Zelfs als er maar een kans van 1% is dat AI een onafhankelijke entiteit wordt die superieur is aan de mens, moeten we het serieus nemen."
Senator Kennedy voegde hieraan toe: “Ik denk echter niet dat het Amerikaanse Congres nog bereid is te proberen een mondiale oplossing te bereiken.”
Vertegenwoordiger Ted Lieu zei: "We zullen na de verkiezingen een lame-duck-sessie houden, en de Senaat toont ook interesse."