Iyatọ Asiri
Aṣiri iyatọ jẹ iṣeduro mathematiki pe ṣiṣe ayẹwo iwe-ipamọ data kan ṣafihan awọn ilana iwulo lakoko fifipamo boya data eniyan kan wa pẹlu.
Akopọ
It matters because it lets organizations share statistics and train models without exposing the individuals behind the numbers.
Jin Dive
Aṣiri iyatọ n pese asọye ti aṣiri ti aṣiri: abajade ti itupalẹ yẹ ki o fẹrẹ jẹ kanna boya tabi rara ẹnikankan wa ninu dataset. Eyi jẹ aṣeyọri nipa fifi ariwo laileto ni iṣọra si awọn abajade tabi awọn iṣiro, nitorinaa ikọlu ko le sọ pẹlu igboya boya eniyan kan pato ṣe alabapin. Agbara naa jẹ iṣakoso nipasẹ paramita kan ti a npe ni epsilon ('isuna ipamọ'): epsilon ti o kere julọ tumọ si ariwo diẹ sii ati asiri ti o lagbara ṣugbọn deede kekere. Awọn adun akọkọ meji wa. Ninu awoṣe agbedemeji, olutọju ti o ni igbẹkẹle mu data aise mu ati ṣafikun ariwo si awọn idahun ti o tu silẹ. Ninu awoṣe agbegbe, data eniyan kọọkan ni ariwo lori ẹrọ tirẹ ṣaaju ki o to lọ, ko nilo ẹgbẹ aarin ti o ni igbẹkẹle ṣugbọn igbagbogbo n beere ariwo diẹ sii.
Imọ-imọ-ẹrọ
Ilana mojuto jẹ ariwo calibrated, nigbagbogbo fa lati Laplace tabi pinpin Gaussian, ti iwọn si 'ifamọ' ibeere kan - melo ni data eniyan kan le yi abajade pada. Ayipada-eniyan kan yẹ ki o wa ni iṣiro nipa ariwo yẹn. Pipadanu asiri kojọpọ kọja awọn ibeere, tọpinpin nipasẹ isuna epsilon labẹ awọn ofin akopọ, nitorinaa itupalẹ tuntun kọọkan n lo lati igbanilaaye ipari. Ninu ẹkọ ẹrọ, DP-SGD ṣe afikun ariwo si awọn gradients gige lakoko ikẹkọ lati di ipa igbasilẹ eyikeyi lori awoṣe ikẹhin.
Ipa Ilana
Iye owo ati isuna
Awọn ipinnu faaji ṣe awakọ iṣẹ ati idiyele iṣẹ fun awọn ọdun.
Awọn ipinnu diẹ sii
Ẹkọ imọ-ẹrọ ṣe iranlọwọ fun awọn ẹgbẹ lati yan akopọ to tọ, kii ṣe ọkan tuntun nikan.
Iṣakoso didara
Awọn yiyan imọ-ẹrọ to dara julọ dinku awọn iṣẹlẹ igbẹkẹle ni iṣelọpọ.
Ojo iwaju ti Asiri Iyatọ
Aṣiri iyatọ ti di awọn amayederun boṣewa: awọn ile-iṣẹ ikaniyan, awọn iru ẹrọ imọ-ẹrọ, ati awọn oniwadi ilera n pọ si lati gbejade awọn iṣiro lailewu. Reti ohun elo irinṣẹ to dara julọ ti o ṣe atẹle awọn isuna ikọkọ laifọwọyi, awọn isunmọ arabara ni apapọ DP pẹlu ẹkọ ti o ni aabo ati iṣiro to ni aabo, ati awọn ọna ariwo ti o ni ilọsiwaju ti o tọju deede diẹ sii fun ẹyọkan ti ikọkọ. Awọn olutọsọna ati awọn ara awọn iṣedede n gbe lọ si idanimọ DP gẹgẹbi ala-ilẹ fun data 'aimọ-orukọ', eyiti o le jẹ ki o jẹ ibeere aiyipada fun idasilẹ awọn iwe data ifura ati awọn awoṣe AI.
Real-World imuse
Ile-iṣẹ ikaniyan AMẸRIKA ṣe itasi ariwo aṣiri iyatọ si awọn iṣiro ikaniyan 2020 lati daabobo awọn oludahun lakoko ti o ṣe atẹjade data olugbe.
Apple nlo aṣiri iyatọ agbegbe lati kọ ẹkọ emoji olokiki ati awọn aṣa titẹ lati awọn iPhones laisi idamo awọn olumulo kọọkan.
Awọn oniwadi ṣe ikẹkọ awọn awoṣe iṣoogun pẹlu DP-SGD nitorina awoṣe ikẹhin ko le ṣe akori ati ṣafihan igbasilẹ alaisan kọọkan.
Google's RAPPOR kojọpọ awọn iṣiro lilo aṣawakiri apapọ nipa sisọ ijabọ olumulo kọọkan ṣaaju ki o to kuro ni ẹrọ wọn.
Awọn ewu & Awọn ọna iṣọ
Ṣiṣepe ala-ilẹ kan le tọju awọn ailagbara eto ti o gbooro.
Awọn ohun elo amayederun ati awọn idiyele itọju nigbagbogbo ni aibikita.
Aabo ati awọn ela akiyesi le dagba bi awọn eto ṣe di eka sii.
Ilana Ilana imuse
Ṣetumo lairi, didara, ati awọn ibi-afẹde idiyele ṣaaju imuse.
Aṣepari labẹ ẹru ojulowo ati awọn ipo data.
Abojuto ohun elo fun awọn aṣiṣe, fiseete, ati ipa olumulo.
Mura ipadasẹhin pada ati awọn ipa ọna esi iṣẹlẹ ṣaaju iwọn.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Differential Privacy quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
AI & Asiri
Awọn ibeere ti a beere nigbagbogbo
What is Differential Privacy?
Aṣiri iyatọ jẹ iṣeduro mathematiki pe ṣiṣe ayẹwo iwe-ipamọ data kan ṣafihan awọn ilana iwulo lakoko fifipamo boya data eniyan kan wa pẹlu. O ṣe pataki nitori pe o jẹ ki awọn ajo pin awọn iṣiro ati awọn awoṣe ikẹkọ laisi ṣiṣafihan awọn ẹni-kọọkan lẹhin awọn nọmba naa.
Kini iṣakoso epsilon paramita asiri ni aṣiri iyatọ?
Epsilon jẹ isuna aṣiri: epsilon kere tumọ si ariwo diẹ sii ati aṣiri ti o lagbara ṣugbọn o dinku deede.
Báwo ni ìpamọ́ ìyàtọ̀ ṣe máa ń fi àkópọ̀ ẹnì kọ̀ọ̀kan pamọ́?
Ariwo aileto ti a ṣe iwọn ni iṣọra jẹ ki awọn abajade jẹ aami kanna boya eyikeyi eniyan kan wa tabi rara.
Kini o ṣe iyatọ awoṣe 'agbegbe' ti asiri iyatọ si awoṣe 'aarin'?
Ni awoṣe agbegbe, data ti wa ni ariwo lori ẹrọ, yọkuro iwulo lati gbẹkẹle ẹgbẹ aarin, ṣugbọn nigbagbogbo nilo ariwo diẹ sii.
Kini 'ifamọ' ti a lo fun nigba mimu ariwo?
Ariwo ti di iwọn si ifamọ ki ipa ti ẹni kọọkan jẹ boju-ṣiṣiriṣi.
Kini idi ti ibeere tuntun kọọkan n na lati 'isuna-isuna ikọkọ'?
Labẹ akopọ, awọn ibeere ti o leralera n jo alaye diẹ sii ni akopọ, nitorinaa ọkọọkan fa lati igbanilaaye epsilon kan.