Pada si Iroyin
ỌjaAI Understanding finifini

Goodfire ṣafihan Silico, aṣoju fun itumọ ati ṣiṣatunṣe awọn awoṣe AI

A ṣe apẹrẹ Syeed Silico tuntun ti Goodfire lati ṣayẹwo awọn aṣoju awoṣe ti o farapamọ, ṣe iwadii ihuwasi ati itọsọna awọn ilowosi ifọkansi kọja awọn imọ-jinlẹ igbesi aye, awọn roboti, iran ati awọn awoṣe ede.

6 min readRead the linked source
Primary-source image accompanying Goodfire presents Silico, an agent for interpreting and debugging AI models
itọkasi orisunOrisun ti o gbasilẹ
Olutẹwe
goodfire.com
Orisun ọna asopọ
goodfire.comhttps://www.goodfire.com/
Orisun iru
Orisun ti o sopọ mọ - ipo orisun akọkọ ko ti fi idi mulẹ.
AtokọLoye eyi ni iṣẹju 60

Bẹrẹ nibi

Awọn ofin bọtini

Pq-ti-ero
Ara ironu nibiti awoṣe AI kan ti bajẹ iṣoro kan sinu awọn igbesẹ agbedemeji.
Awoṣe Itankale
Apẹrẹ ipilẹṣẹ ti o kọ ẹkọ lati yi ariwo pada lati ṣajọpọ awọn aworan, ohun, tabi akoonu miiran.
Aṣepari
Idanwo idiwon tabi data ti a lo lati ṣe iwọn ati ṣe afiwe iṣẹ awoṣe.
Ṣe idanwo fun ara rẹAwọn awoṣe AI ti ṣalaye adanwo
Source video from goodfire.com · shown with attribution.

Kini o ṣẹlẹ

Oju opo wẹẹbu Goodfire ṣafihan Silico bi aṣoju itumọ ati pẹpẹ fun oye, n ṣatunṣe aṣiṣe ati apẹrẹ imomose awọn awoṣe AI. Ile-iṣẹ naa sọ pe Silico le ṣafihan awọn aṣoju inu, ṣe idanimọ ihuwasi aifẹ ati atilẹyin awọn ilowosi ikẹkọ ti a fojusi kọja awọn imọ-jinlẹ igbesi aye, awọn ẹrọ roboti, iran ati awọn awoṣe ede nla.

Oju opo wẹẹbu Goodfire ṣafihan Silico bi “aṣoju itumọ rẹ,” pẹlu idi aarin ti oye ati ṣiṣatunṣe awọn awoṣe AI. Syeed jẹ apejuwe bi ọna lati ṣii awọn aṣoju ti o farapamọ inu awọn nẹtiwọọki nkankikan, ṣayẹwo kini awoṣe kan ti kọ, wa ihuwasi ti ko fẹ ati ṣe awọn ilowosi ifọkansi. Awọn fireemu Goodfire eyi bi gbigbe lati amoro-ati-ṣayẹwo ikẹkọ awoṣe si ohun ti o pe ni imọ-ẹrọ konge ati apẹrẹ awoṣe imotara. Awọn wọnyi ni awọn apejuwe ile-iṣẹ ti idi ọja; orisun ko pese igbelewọn imọ-ẹrọ ominira ti awọn agbara wọnyẹn.

Oju-iwe naa sọ pe Silico jẹ ipinnu lati ṣiṣẹ kọja awọn ẹka pupọ ti awọn eto AI: awọn awoṣe imọ-aye, awọn ẹrọ roboti ati awọn eto iran, ati awọn awoṣe ede nla. Goodfire ṣe apejuwe awọn iṣẹ akọkọ mẹta. “Oye” ti pinnu lati yiyipada-ẹrọ fa awọn ọna ṣiṣe okunfa ati ṣafihan igbekalẹ inu. "Ṣiṣatunṣe" ni ifọkansi lati ṣe idanimọ awọn confounders, awọn igo alaye ati awọn idi ikuna ṣaaju iṣelọpọ. “Apẹrẹ” jẹ itumọ lati ṣe itọsọna ikẹkọ ki awọn awoṣe kọ ẹkọ awọn ẹya ti o fẹ pẹlu data ti o dinku ati awọn ipa ibi-afẹde diẹ. Orisun ko ni pato awọn faaji ti o ni atilẹyin, awọn iwọn awoṣe, awọn ibeere imuṣiṣẹ tabi fọọmu gangan ti awọn ilowosi.

Goodfire tun ṣe apejuwe awọn apẹẹrẹ lati inu iwadi rẹ ati iṣẹ iṣowo. Ile-iṣẹ naa sọ pe o lo itumọ ti awoṣe epigenetic lati ṣe idanimọ kilasi ti a ko sọ tẹlẹ ti awọn alamọ-ara fun wiwa Alzheimer. O sọ pe igbekale ti Arc Institute's Evo 2 awoṣe genomic ṣe afihan awọn ẹya ti o baamu si awọn imọran ti ibi, ati pe awọn ifibọ Evo 2 ni a lo lati ṣe asọtẹlẹ boya awọn iyatọ jiini fa arun. Fun awọn awoṣe ede, Goodfire sọ pe ikẹkọ ẹya-ara ti o dinku awọn ifọkansi nipasẹ 58 ogorun, lakoko ti ọna lọtọ fun wiwa pq-ti-ero iṣẹ ṣiṣe dinku lilo ami ami nipasẹ bii 68 ogorun pẹlu pipadanu deede.

Awọn apẹẹrẹ miiran lori oju-iwe jẹ pẹlu awoṣe echocardiography ọkan, awoṣe roboti kan ati awoṣe itankale fun wiwa awọn ohun elo. Goodfire sọ pe itupalẹ aaye-isinmi fihan iru awọn ẹya ninu awoṣe ọkan ọkan ṣe aṣoju išipopada ati anatomi, ati pe ṣiṣe ayẹwo geometry oniduro ṣe iranlọwọ idanimọ awọn ẹya brittle lẹhin ihuwasi roboti ti ko duro. O tun sọ awọn esi lati inu awọn aṣoju inu inu awoṣe ti o ṣejade nipa 30 ida ọgọrun diẹ sii awọn oludije ohun elo ti o le yanju pẹlu awọn ohun-ini ibi-afẹde. Orisun ko pese awọn apẹrẹ ikẹkọ, awọn ipilẹ, awọn iwọn ayẹwo, awọn iwe data, awọn ifi aṣiṣe tabi awọn atunṣe ominira fun awọn abajade wọnyi, nitorinaa wọn yẹ ki o ṣe itọju bi awọn iṣeduro ti ile-iṣẹ royin.

Awọn alaye orisun: goodfire.com ↗

Kini idi ti o ṣe pataki

Ti awọn agbara Syeed ati awọn abajade ijabọ duro labẹ idanwo ominira, Silico le fun awọn olupilẹṣẹ AI diẹ sii awọn ọna taara lati ṣe iwadii awọn ikuna ati paarọ ihuwasi awoṣe ju imupadabọ idanwo-ati-aṣiṣe. Iyẹn yoo ṣe pataki julọ ni awọn eto nibiti awọn aṣiṣe jẹ idiyele, pẹlu itupalẹ biomedical, aworan ile-iwosan, awọn ẹrọ roboti ati awọn eto ede ti a fi ranṣẹ.

Awọn eto AI nigbagbogbo ni ilọsiwaju nipasẹ data afikun, atunkọ, itọsi tabi igbelewọn ita. Idojukọ Silico ti sọ yatọ: ṣe ayẹwo awọn aṣoju inu ti o ṣe atilẹyin ihuwasi awoṣe ati lilo alaye yẹn lati ṣe itọsọna awọn ayipada. Ti ilana yẹn ba ni igbẹkẹle ṣe idanimọ awọn ẹya ti o ni iduro fun idahun tabi iṣe, awọn olupilẹṣẹ le ni ọna ifọkansi diẹ sii lati ṣe iwadii awọn ikuna. Iye iṣe yoo jẹ idinku iwulo lati yipada awoṣe laisi mimọ iru ihuwasi inu ti o fa iṣoro naa.

Ipa gbangba ti o pọju jẹ kedere julọ ni awọn agbegbe ti a darukọ nipasẹ Goodfire. Ninu awọn imọ-jinlẹ igbesi aye, awoṣe ti o so awọn ẹya inu si awọn imọran ti ibi-aye le jẹ ki awọn asọtẹlẹ rẹ rọrun lati ṣayẹwo, botilẹjẹpe itumọ nikan kii yoo fi idi ijẹrisi ile-iwosan mulẹ. Ninu awọn roboti ati iran, idamo awọn igo alaye tabi awọn aṣoju brittle le ṣe iranlọwọ fun awọn ẹgbẹ ṣe iwadii ihuwasi aiduroṣinṣin ṣaaju imuṣiṣẹ. Ni awọn awoṣe ede, awọn ilowosi ifọkansi le dinku awọn ifọkansi tabi awọn ami ero ti ko wulo, ṣugbọn orisun ko ṣe fi idi bi awọn ayipada wọnyi ṣe ṣe ni ita awọn adanwo ti a ṣalaye.

Syeed naa tun ṣe afihan iyipada nla ni bii awọn eto AI ṣe le ni idagbasoke. Goodfire jiyan pe agbọye jiometirika neural-nẹtiwọọki le yi ikẹkọ awoṣe pada si ilana tiipa-pipade: ṣayẹwo ohun ti awoṣe ti kọ, ṣe idanimọ iṣoro kan, laja, ati ṣe iṣiro abajade. Ọna yẹn yoo ṣe pataki ni adaṣe ti o ba ṣe gbogbogbo kọja awọn idile awoṣe ati awọn iṣẹ ṣiṣe. O tun le jẹ ki idagbasoke awoṣe jẹ alaye diẹ sii si awọn onimọ-ẹrọ ati awọn aṣayẹwo nipa sisopọ awọn abajade si ẹri inu kuku ki o gbẹkẹle awọn ikun ala alapapọ nikan.

Awọn opin pataki wa si ohun ti ikede naa fihan. Awoṣe le ṣe alaye ti o wulo laisi alaye ti o jẹ akọọlẹ oloootitọ ti iṣiro ti o ṣe ipilẹṣẹ. Oju-iwe naa sọ pe Silico le ṣe awari awọn ọna ṣiṣe okunfa, ṣugbọn ko ṣe asọye awọn idanwo idiwo ti a lo tabi ṣe alaye bii awọn oniwadi ṣe ṣọra lodi si awọn ibatan ṣina. Bakanna, awọn ilọsiwaju ipin ogorun ti a royin ko fihan boya awọn anfani duro kọja awọn akojọpọ data, awọn ẹya awoṣe tabi awọn ipo ọta. Ikede naa ṣe agbekalẹ itọsọna ọja kan ati ṣeto ti awọn ẹtọ ile-iṣẹ, kii ṣe ẹri ominira pe itumọ ti di igbẹkẹle kọja awọn eto AI.

Interactive Mechanism

Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ

Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.

Thinking Budget (Test-Time Tokens):1,024 tokens
Complex Accuracy79%Math & Code Logic
Latency3.2sTime to first full output
Inference Cost$0.0092Per query estimated
Reasoning StyleStep VerificationInternal chain depth
Active Thinking Trace:
1Deconstruct user problem into formal constraints
2Propose candidate hypotheses & step-by-step calculation
3Self-correction: Backtrack and refute subtle edge cases
4Exhaustive consistency check & final output synthesis
Core takeaway: Test-time compute fundamentally changes AI economics. Instead of only scaling during pre-training, giving reasoning models more tokens at inference time allows them to systematically solve PhD-level STEM problems.
Ibanisọrọ Erongba Ṣayẹwo+10 Points
AI Models Explained Quiz

Which component of an AI application is the machine-learning model itself?

Kini lati wo tókàn

Orisun naa ko fi idi rẹ mulẹ nigbati Silico di wa, awọn awoṣe ti o ṣe atilẹyin, iye owo ti o jẹ, tabi boya awọn ilọsiwaju ti o royin ti ni ẹda ni ominira. Ẹri atẹle ti o ṣe pataki julọ yoo jẹ awọn iwe imọ-ẹrọ, awọn ọna igbelewọn, awọn alaye iwọle ati awọn ifihan ti o ṣe iyatọ oye idi lati awọn alaye iwo-iwoye.

Aimọ akọkọ jẹ akoko ati iwọle. Orisun naa nlo ede ti ifihan ati pese awọn aṣayan lati beere demo tabi ṣe igbasilẹ Silico fun macOS, ṣugbọn ko ṣe afihan ọjọ titẹjade fun ikede ọja tabi sọ boya pẹpẹ wa ni gbogbogbo. Ko tun funni ni idiyele, awọn ofin iwe-aṣẹ, ohun elo atilẹyin, awọn asopọ awoṣe, awọn ipo ikọkọ tabi boya awọn alabara le ṣiṣe ni kikun laarin awọn amayederun tiwọn. Awọn alaye wọnyẹn yoo pinnu boya Silico jẹ ọja lilo gbooro tabi ni akọkọ iwadii ati iṣẹ ile-iṣẹ.

Ẹri imọ-ẹrọ yẹ ki o jẹ idojukọ atẹle. Awọn ọna asopọ oju-iwe Goodfire si awọn akọle iwadii pẹlu eto inu ti awọn nẹtiwọọki nkankikan, idari lẹgbẹẹ ọpọlọpọ ati itumọ awọn aye-awoṣe ede, ṣugbọn orisun ti a pese ko pẹlu awọn iwe abẹlẹ tabi awọn ọna. Ijerisi to wulo yoo nilo awọn asọye ti o han gbangba ti awọn ẹya ti a tumọ, awọn ilana idasi, awọn ọna lafiwe, awọn ọran ikuna ati awọn idanwo ti n fihan pe itumọ kan sọ asọtẹlẹ ihuwasi labẹ awọn ipo tuntun. Koodu ti o tun ṣe atunṣe tabi iwe alaye ti o to yoo jẹ ki awọn abajade ti o royin rọrun lati ṣe ayẹwo.

Awọn ibeere imuṣiṣẹ jẹ pataki bakanna. Awọn irinṣẹ itumọ le ṣee lo lori awọn awoṣe ti o mu oogun, jiini, biometric tabi data iṣẹ ṣiṣe, sibẹ ikede naa ko ṣe apejuwe iṣakoso data, awọn iṣakoso iwọle, gedu, awọn iṣe aabo tabi awọn aabo lodi si awọn ilowosi ipalara. Ko tun ṣe alaye boya ṣiṣayẹwo awoṣe kan ṣafihan alaye ikẹkọ ifura tabi boya awọn iyipada ti o ni itọsọna nipasẹ pẹpẹ le ṣafihan awọn ipo ikuna tuntun. Awọn alabara ti n ṣakiyesi eto naa yoo nilo ẹri nipa bii awọn iwadii ti ṣe atunyẹwo nipasẹ awọn amoye agbegbe ati bii awọn ilowosi ṣe yiyi pada nigbati wọn gbe awọn ipa airotẹlẹ jade.

Aṣeyọri ọja ti o nilari yoo ṣe afihan lilo ominira kọja iru awoṣe ju ọkan lọ, pẹlu awọn abajade ti o ye awọn ayipada ninu data ati awọn ibeere igbelewọn. Ṣọra fun awọn oniwadi ita tabi awọn alabara ti n ṣe ijabọ boya awọn alaye Silico ṣe deede si awọn ilana awoṣe gangan, boya awọn ilowosi rẹ mu ilọsiwaju ṣiṣẹ laisi awọn iṣowo ti o farapamọ, ati boya awọn ifowopamọ ti a sọ ni awọn ami-ami tabi idiyele idasi duro ni iwọn iṣiṣẹ. Titi ti ẹri yẹn yoo fi han, ipari atilẹyin ti o lagbara julọ jẹ dín: Goodfire n funni ni pẹpẹ ti o dojukọ lori itumọ ati sisọ pe itupalẹ awoṣe inu le ṣe atilẹyin idagbasoke AI ti a fojusi diẹ sii.

Awọn itọsọna ti o jọmọ & awọn ibeere

Awọn awoṣe AI ti ṣalayeAI IkẹkọAyirapadaÌlànà Ìwà AIṢe idanwo ohun ti o mọ — gbiyanju idanwo AI ọfẹ kanWa ọrọ AI kan ninu iwe-itumọ waTẹle olutọpa idasilẹ awoṣe AI
Ṣe eyi wulo?