Universiteto mokslininkai, sukūrę CSAM nuskaitymo sistemą, ragina „Apple“ nenaudoti „pavojingos“ technologijos

Gerbiami universitetų mokslininkai skambina pavojaus varpais dėl technologijos, nulėmusios „Apple“ nuskaitymo planus iPhone naudotojų nuotraukų bibliotekos, skirtos CSAM arba seksualinės prievartos prieš vaikus medžiagai, kuri technologiją vadina „pavojinga“.

Jonanath Mayer, Prinstono universiteto kompiuterių mokslo ir viešųjų reikalų docentė, taip pat Anunay Kulshrestha, Prinstono universiteto Informacinių technologijų politikos centro tyrėja. parašė op-ed dėl „The Washington Post“. , aprašydami savo patirtį kuriant vaizdų aptikimo technologiją.

Tyrėjai prieš dvejus metus pradėjo projektą, skirtą CSAM identifikuoti nuo galo iki galo užšifruotose internetinėse paslaugose. Tyrėjai pažymi, kad atsižvelgiant į jų sritį, jie „žino galutinio šifravimo, kuris apsaugo duomenis nuo trečiųjų šalių prieigos, vertę“. Šis susirūpinimas, pasak jų, kelia siaubą dėl CSAM „dauginančio šifruotose platformose“.

kaip priversti telefoną mirksėti gavus pranešimą

Mayeris ir Kulshrestha teigė norintys rasti vidurį šiai situacijai: sukurti sistemą, kurią internetinės platformos galėtų naudoti CSAM rasti ir apsaugoti nuo galo iki galo šifravimą. Tyrėjai pastebi, kad šios srities ekspertai abejojo ​​tokios sistemos perspektyva, tačiau jiems pavyko ją sukurti ir pastebėjo didelę problemą.

Siekėme ištirti galimą aukso vidurį, kai internetinės paslaugos galėtų nustatyti žalingą turinį, o kitu atveju išsaugant visišką šifravimą. Koncepcija buvo paprasta: jei kas nors pasidalintų medžiaga, atitinkančia žinomo žalingo turinio duomenų bazę, paslauga būtų įspėta. Jei asmuo pasidalintų nekaltu turiniu, paslauga nieko neišmoktų. Žmonės negalėjo perskaityti duomenų bazės ar sužinoti, ar turinys atitinka, nes ši informacija gali atskleisti teisėsaugos metodus ir padėti nusikaltėliams išvengti aptikimo.

Patyrę stebėtojai tvirtino, kad tokia sistema kaip mūsų toli gražu neįgyvendinama. Po daugelio klaidingų paleidimų sukūrėme veikiantį prototipą. Tačiau susidūrėme su akivaizdžia problema.

Nuo tada, kai „Apple“ paskelbė apie šią funkciją, įmonė buvo bombarduojama su rūpesčiais kad CSAM aptikimo sistema galėtų būti naudojama kitų formų nuotraukoms aptikti slegiančių vyriausybių prašymu. „Apple“ griežtai pasisakė prieš tokią galimybę, sakydama, kad atmes bet kokį tokį vyriausybių prašymą.

Nepaisant to, susirūpinimas dėl CSAM aptikimui naudojamos technologijos pasekmių ateityje yra plačiai paplitęs. Mayeris ir Kulshrestha teigė, kad jų susirūpinimas dėl to, kaip vyriausybės galėtų naudoti sistemą, kad aptiktų kitą turinį nei CSAM, juos „sutrikdė“.

Kaip įrašyti ekrano vaizdo įrašą iphone

Pavyzdžiui, užsienio vyriausybė galėtų priversti žmones, kurie dalijasi nepalankiomis politinėmis kalbomis. Tai nėra hipotetinė: „WeChat“, populiari kinų pranešimų siuntimo programa, jau naudoja turinio atitikimą, kad nustatytų disidentinę medžiagą. Šiais metais Indija priėmė taisykles, pagal kurias gali būti reikalaujama iš anksto tikrinti turinį, kritišką vyriausybės politiką. Rusija neseniai skyrė baudas „Google“, „Facebook“ ir „Twitter“ už tai, kad nepašalino demokratiją remiančios protesto medžiagos.

Pastebėjome ir kitų trūkumų. Turinio atitikimo procesas gali turėti klaidingų teigiamų rezultatų, o kenkėjiški vartotojai gali žaisti sistemoje, kad būtų tikrinami nekalti vartotojai.

Buvome taip sutrikę, kad žengėme žingsnį, kurio dar nematėme informatikos literatūroje: įspėjome dėl savo sistemos dizaino, ragindami atlikti tolesnius tyrimus, kaip sumažinti rimtus trūkumus....

„Apple“ toliau sprendžia vartotojų susirūpinimą dėl savo planų, papildomų dokumentų paskelbimas ir DUK puslapis . „Apple“ ir toliau tiki, kad jos CSAM aptikimo sistema, kuri bus naudojama vartotojo įrenginyje, atitinka jos ilgalaikes privatumo vertybes.