Vad hände
Många AI-arbetare på stora företag som OpenAI, Meta och DeepMind är skeptiska till tanken att AI utgör ett existentiellt hot mot mänskligheten. De uttrycker sina tvivel genom humor och påpekar bristen på konkreta bevis som stödjer dessa påståenden. Även om det finns oro för omedelbara risker som AI-säkerhet och etisk användning, särskilt i militära miljöer, känner arbetarna att samtalet är mer nyanserat än de senaste högprofilerade varningarna.
Artikeln delar reaktioner från AI-arbetare på företag som OpenAI, Meta och DeepMind som är skeptiska till de existentiella hoten från AI. De uttrycker nöje och tvivel om bristen på konkreta bevis i påståenden från vissa branschpersoner.
Jacob Coxon, en före detta Anthropic-anställd, hävdade att framtida AI-verktyg kan utsätta människor för fara, men många arbetare tycker att dessa påståenden är vaga och saknar stöd.
Rishub Jain, grundare av Sampura Research, noterar att tonen bland AI-arbetare är "lite skämt" när det gäller nya rädslor för AI. Colin Fraser, en Meta dataforskare, hävdar att det inte finns några verkliga bevis för att AI-modeller oundvikligen kommer att sträva efter mål som leder till mänsklig död.
Trots skepsis är AI-arbetare överens om vikten av att mildra olika risker, inklusive att förhindra AI-skyddsräcken från att misslyckas och ta itu med etiska problem kring AI i militära miljöer.
Det finns ett växande stöd för att ta in externa utvärderare för att bedöma nya AI-modeller för säkerhet, med ledare som Anthropic:s Dario Amodi och OpenAI:s Sam Altman som stödjer detta tillvägagångssätt.
Varför det spelar roll
Detta är viktigt eftersom det belyser en klyfta inom AI-branschen om de potentiella riskerna med AI. Medan vissa varnar för existentiella hot, känner många arbetare att dessa farhågor är överdrivna och inte stöds av bevis. Denna skepsis kan påverka hur branschen närmar sig AI-säkerhet och reglering.
Skepsisen bland AI-arbetare kan påverka branschens syn på säkerhet och reglering, vilket kan leda till mer nyanserade och evidensbaserade diskussioner.
Skillnaden i åsikter om AI-risker kan påverka allmänhetens uppfattning och policybeslut angående AI-utveckling och implementering.
Omedelbara risker som AI-säkerhet och etisk användning får uppmärksamhet, med fokus på praktiska åtgärder för att mildra dessa risker.
Interaktiv mekanism: hur det faktiskt fungerar
Utforska den underliggande tekniken bakom denna utveckling interaktivt.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Vad du ska titta på härnäst
AI-branschens inställning till säkerhet och reglering, integrationen av externa utvärderare i AI-labb och hur omedelbara risker som att AI-räcken går sönder hanteras.
Integreringen av externa utvärderare i stora AI-labb och deras inverkan på AI-säkerhet.
Hur branschen hanterar omedelbara risker som att AI-skyddsräcken misslyckas och etiska problem.
Utvecklingen av offentliga och regulatoriska diskussioner kring AI-risker och säkerhet.