Hva skjedde
BBC News Chinese rapporterer at AI-genererte videoer med fiktive medisinske eksperter sirkulerer blant eldre seere i Taiwan. Rapporten beskriver en Taipei-klasse der eldre brukte Gemini og ChatGPT for å undersøke en video presentert av en antatt lege. Forskere og lærere fortalte BBC at videoene produseres billig og i stor skala, ofte ved å kombinere syntetiske ansikter, stemmer og AI-sammensatt informasjon. BBC fant også at operatørene av mange kanaler ikke er offentlig identifiserbare. Påstander om valgrelatert manipulasjon forblir ubekreftede.
BBC News kinesiske rapporter fra en Taipei senior barnehage hvor folk i alderen 60 til 90 lærte å bruke telefoner og vurdere AI-genererte videoer. Artikkelen fokuserer på et klipp med en antatt lege kalt Zheng, iført hvit frakk og stetoskop, diskuterer sarkopeni og hevder at proteinmat ikke lenger fungerer etter fylte 60. En deltaker hadde mottatt og videresendt den. I klassen spurte han Gemini og ChatGPT; assistentene skal ha sagt at legen ikke eksisterte og at videoen og helseinformasjonen var generert eller satt sammen av AI. BBC gir ikke uavhengig en klinisk vurdering eller fastslår assistentenes nøyaktighet.
Klasselæreren, Li Zi-qiang, fortalte BBC at AI-genererte videoer har sirkulert bredt i taiwanske seniormiljøer og meldingsgrupper det siste året. Videoene bruker virtuelle presentatører som hevder å være leger, pensjonerte jernbaneansatte eller tidligere flyvertinner. Taiwan FactCheck Center fortalte BBC at innholdsfarmen YouTube-kanaler produserte falske påstander om helse, seniorfordeler og transportrabatter. Eksempler inkluderer fabrikkerte påstander om at eldre passasjerer automatisk kan motta høyhastighets-jernbaneoppgraderinger i forretningsklasse, gratisbilletter til ledsagere, pengegaver eller gratis sykehuspleiere. Taiwans jernbaneoperatører har gjentatte ganger sagt at de påståtte seniorfordelene og skjulte rabattene ikke eksisterer.
Dai Yu-chen, en taiwansk cybersikkerhetsforsker, fortalte BBC at han hadde sporet mer enn 200 YouTube-kanaler med mer enn 70 000 videoer med til sammen 1,32 milliarder visninger. Han anslo at en video kunne lages på omtrent 20 sekunder ved å bruke gjeldende verktøy: AI kunne lage en leges eller eksperts ansikt og bakgrunn, synkronisere en lydfil til munnen, samle informasjon fra nettmateriale og legge til undertekster. Disse tallene og estimatene er forskerens påstander rapportert av BBC; kilden beskriver ikke en uavhengig revisjon av kanallisten, antall visninger eller arbeidsflyt.
BBC sier at de har undersøkt 20 kanaler med høyt abonnentnivå og fant at operatørene deres ikke avslørte noen nyttig identifiserende informasjon. Steder inkluderte angivelig Taiwan, USA, Malaysia og Hong Kong, og noen kanaler hadde blitt fjernet for brudd på plattformreglene. En anonym taiwansk nasjonal sikkerhetskilde påsto at noen helse- og livsstilskanaler endret seg til politisk talsmann i valgperioder. Påstanden er ikke uavhengig bekreftet og etablerer ikke en koordinert operasjon. Kinas Taiwan Affairs Office har gjentatte ganger benektet påstander om at Kina gjennomfører påvirkningsoperasjoner mot Taiwan og anklaget Taiwans regjering for å manipulere opinionen.
Hvorfor det betyr noe
Videoene kan få falske helse-, velferds- og transportpåstander til å virke autoritative, og BBC rapporterer at noen seere handlet på disse påstandene. Materialet utnytter også pålitelige sosiale relasjoner: eldre seere kan se lange videoer for informasjon eller vennskap og deretter videresende dem til venner. Skalaen beskrevet av en taiwansk cybersikkerhetsforsker antyder at syntetisk feilinformasjon kan bli en vedvarende del av det daglige informasjonsmiljøet. Rapporten slår ikke fast at kanalene er en del av en koordinert politisk operasjon, men den dokumenterer hvorfor den muligheten får oppmerksomhet.
Den umiddelbare bekymringen er ikke at hver syntetisk video forårsaker målbar skade, men at falske påstander presenteres gjennom kjente autoritetssignaler. BBC rapporterer at en klassedeltaker reiste til en høyhastighetsbanestasjon fordi en video lovet en fordel som ikke ble realisert. Artikkelen rapporterer ingen medisinsk skade forårsaket av den falske legevideoen, men feilinformasjon om helse kan påvirke valg om symptomer, behandling eller kosthold. En autoritativ programleder og informasjon skreddersydd til eldre menneskers bekymringer gjør innholdet vanskeligere å avvise som åpenbar satire.
Videresending er ikke bare informasjonsdeling. En 86 år gammel deltaker fortalte BBC at hun hadde stolt på og videresendt materiale fra venner og nå følte seg lurt etter å ha fått vite at noen videoer var AI-generert. En annen deltaker, som bruker flere timer om dagen på å se og sortere videoer før de videresender dem til minst 50 venner, beskrev deling som en måte å opprettholde sosial forbindelse. En psykiater i Taipei fortalte BBC at helsevideoer kan svare på angst for aldring ved å tilby tilsynelatende handlingsrettede løsninger, mens videresending kan gi kameratskap og en følelse av å være nyttig.
Skala endrer problemet. Hvis forskerens estimater er nøyaktige, kan et lite antall kanaler produsere og distribuere enorme volumer av plausibelt materiale til svært lave kostnader. BBC rapporterer emner inkludert helse, pensjonering, vitenskap, religion og velferd, emner som er nært knyttet til eldre seeres daglige behov. YouTubes morselskap, Google, fortalte BBC at reglene deres gjelder for AI-generert materiale og forbyr medisinsk feilinformasjon som kan forårsake alvorlig skade i den virkelige verden. Rapporten bemerker at mange eldre seere ikke legger merke til AI-etikettene knyttet til videoer.
Politiske implikasjoner er betydelige, men uavklarte. En syntetisk lege eller pensjonert arbeider kan bygge troverdighet rundt ikke-politiske emner før en kanal introduserer politiske påstander. BBC siterer en studie fra 2024 om livsstils- og helsesider som tiltrekker taiwansk publikum før politiske meldinger ble blandet inn, men den bakgrunnen beviser ikke at kanalene her er koordinert. En ekspert på digital kompetanse fortalte BBC at selv uten ondsinnet koordinering kan videoer fungere som AI-slop: lavverdi eller falskt materiale som bruker oppmerksomhet og gjør pålitelig informasjon vanskeligere å finne. Det dokumenterte informasjonskvalitetsproblemet er forskjellig fra den ubeviste påstanden om utenlandsk politisk kontroll.
Interaktiv mekanisme: Hvordan det faktisk fungerer
Utforsk den underliggende teknologien bak denne utviklingen interaktivt.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Hva du skal se neste
Nøkkelspørsmålene er om plattformer kan identifisere og begrense høyvolums syntetisk feilinformasjon, om etiketter er synlige og effektive for eldre seere, og om uavhengige etterforskere kan verifisere kanalene, visningstallene og produksjonsmetodene beskrevet til BBC. Valgperiodeovervåking vil kreve bevis om koordinering, eierskap, finansiering og endringer i innhold i stedet for anonyme påstander alene. Folkehelsepersonell og mediekunnskapslærere må også vurdere hvordan folk kan bekrefte medisinske påstander uten å behandle en AI-assistent som en endelig autoritet.
Uavhengig verifisering bør først fokusere på grunnleggende empiriske påstander. Etterforskere må publisere eller dokumentere listen over kanaler, samplingsmetoder, datoer, beregninger av antall visninger og kriterier for å avgjøre om en video ble generert av AI. BBC rapporterer en forskers estimater og sin egen gjennomgang av 20 kanaler, men gir ikke det underliggende datasettet. Den fastslår heller ikke hvor mange seere som handlet på medisinske påstander, hvor ofte falske videoer anbefales av plattformsystemer eller hvor mye innhold som kommer fra en felles operatør.
Plattformhåndhevelse er en annen praktisk test. Google sa at de samme reglene gjelder for AI-genererte videoer og at alvorlig medisinsk feilinformasjon er forbudt, mens BBC rapporterer at noen kanaler ble fjernet. Ukjente inkluderer hvor konsekvent etiketter vises, om syntetiske videoer demoniseres, hvordan anbefalingssystemer behandler dem og om fjerning av én kanal fører til rask erstatning med andre. Disse spørsmålene betyr noe fordi forskeren beskrev et nettverk av kanaler med lignende bot-kontoprofiler, men kilden etablerer ikke uavhengig en organisasjon som kontrollerer dem.
Valgperiodeovervåking bør skille observerbare innholdsendringer fra spekulasjoner. Den anonyme nasjonale sikkerhetskilden sitert av BBC er ikke uavhengig bekreftet, så den bør ikke brukes som bevis på at kanaler skiftet mot et bestemt politisk budskap. Sterkere bevis vil inkludere transparente eierskapskoblinger, gjentatt koordinering på tvers av kanaler, vanlige produksjonsmidler, finansieringsposter eller dokumenterte endringer i distribusjon og meldinger. BBC rapporterer at noen kanaler har begynt å diskutere om forening med Kina er å foretrekke, men omfanget, opprinnelsen og koordineringen av innholdet er fortsatt ukjent.
Taipei-klassen gir et konkret svar: seerne tar med seg kjente videoer til en leksjon, stiller spørsmål ved påstandene deres og sammenligner resultatene med det de allerede vet. Den tilnærmingen kan forbedre skepsisen, men BBC fastslår ikke at Gemini eller ChatGPT pålitelig kan autentisere en video eller validere medisinske råd. Fremtidig dekning bør spore om slike klasser endrer videresendingsatferd, om deltakerne konsulterer autoritative medisinske eller offentlige kilder og hvordan lærere adresserer risikoen for at ett ufullkommen AI-system brukes til å sjekke et annet.