Sukob između digitalna privatnost i zaštita djece Ponovo se našla u središtu tehnološke debate nakon tužba podnesena u Sjedinjenim Američkim Državama protiv Applea. Savezna država Zapadna Virdžinija optužuje kompaniju da je dozvolila da se njena usluga u oblaku, iCloud, koristi kao sredstvo za pohranjivanje i distribuciju materijala o seksualnom zlostavljanju djece (CSAM).
Implikacije ovog slučaja protežu se daleko izvan granica jedne američke savezne države. Odluka suda mogla bi utjecati na... Kako tehnološki giganti upravljaju otkrivanjem ilegalnog sadržaja? širom svijeta, uključujući i Evropu, gdje se raspravlja o vrlo strogim pravilima o šifriranju i skeniranju poruka i fotografija.
Tužba u Zapadnoj Virdžiniji: iCloud pod sumnjom
Generalni tužilac Zapadne Virdžinije, JB McCuskeyProtiv kompanije Apple podnesena je građanska tužba u kojoj se tvrdi da je kompanija godinama dozvoljavala iCloudu da funkcioniše kao "sredstvo" za pohranjivanje i distribuciju CSAM-a. Prema tužbi, kompanija je znala da se njena platforma koristi u tu svrhu, a ipak... ne bi poduzeo efikasne tehničke mjere da to zaustavim.
U sudskom dokumentu se tvrdi da je Apple, umjesto jačanja kontrola, donosio dizajnerske odluke koje su olakšale problem. McCuskey tvrdi da je Apple, pod krinkom privatnosti i enkripcije, pokazao "namjerno zanemarivanje" ovog problema. štete koje su, po mišljenju Tužilaštva, bile u velikoj mjeri izbježljiveTužilaštvo ovaj problem opisuje kao kršenje državnih zakona o zaštiti potrošača.
Najupečatljiviji aspekt tužbe je pozivanje na interne komunikacije samog AppleaU jednoj od izjava, koja se pripisuje šefu odjela za prevare u kompaniji, Ericu Friedmanu, tvrdi se da bi iCloud bio "najbolja platforma za distribuciju dječje pornografije". Ako se ova izjava potvrdi u sudskom postupku, to bi sugeriralo da je kompanija bila svjesna rizika povezanih s dizajniranjem cloud usluge.
McCuskey tvrdi da je, uprkos ovim internim upozorenjima, Apple "odlučio da dugo vremena ništa ne preduzima po tom pitanju" i da je, u praksi, dao je prioritet privatnosti odraslih nad sigurnošću maloljetnikaTužilac smatra da je "apsolutno neoprostivo" štititi povjerljivost navodnih seksualnih predatora pozivanjem na principe privatnosti.
Tužba nije ograničena samo na traženje finansijske kazne. Zapadna Virdžinija zahtijeva naknada za pravnu i kaznenu štetu i, nadalje, da sudovi prisile Apple da implementira efikasne sisteme za detekciju CSAM-a u iCloudu i redizajnira svoje proizvode kako bi uključio više zaštitnih mjera za budućnost.
Od skeniranja planiranog za 2021. godinu do end-to-end enkripcije
Tehnička pozadina spora datira iz 2021. godine, kada je Apple najavio sistem za automatsko poređenje fotografija postavljenih na iCloud sa bazama podataka poznatih slika seksualnog zlostavljanja djece. Ideja je bila da se koristi metoda poređenja (hashovi) koja bi omogućila otkrivanje ilegalnog sadržaja bez direktnog pregledavanja slika od strane zaposlenih u kompaniji, pristup koji je nastojao uravnotežiti... zaštita maloljetnika i povjerljivost korisnika.
Međutim, objava je izazvala snažnu reakciju organizacija za građanska prava, stručnjaka za kriptografiju i zagovornika privatnosti, kako u Sjedinjenim Državama tako i u Evropi. Mnogi su upozorili da mehanizam, iako je predstavljen kao da ima legitimne svrhe, predstavlja stvaranje... nadzor "stražnja vrata" da bi autoritarne vlade mogle pokušati proširiti svoj uticaj kako bi progonile disidente, pratile novinare ili kontrolisale manjine.
Kritike su bile toliko intenzivne da je Apple na kraju odgodio implementaciju tog sistema i, neko vrijeme kasnije, objavio da definitivno odustaje od projekta. Gotovo godinu dana kasnije, kompanija je potvrdila da otkazani planovi za skeniranje iCloud fotografija u potrazi za CSAM-om i odlučila je usmjeriti svoje napore na preventivne mjere u uređajima i sigurnosnim alatima u komunikacijama.
Craig Federighi, glavni softverski direktor kompanije Apple, objasnio je u intervjuu da kompanija preferira da se fokusira na zaustavljanje zlostavljanja djece "prije nego što se dogodi", umjesto masovne inspekcije već pohranjenih fotografija. Ova strategija je usklađena s Appleovom posvećenošću end-to-end enkripciji, modelu u kojem Čak ni sama kompanija ne može pristupiti sadržaju.
Ured državnog tužioca Zapadne Virginije tumači ove odluke na suprotan način: tvrdi da je Apple, napuštanjem automatiziranih sistema za detekciju i jačanjem enkripcije, pretvorio iCloud u "siguran i nesmetan put" za one koji žele pohranjivati i dijeliti dječju pornografiju. Za državu, ova promjena kompanije nije gest u korist privatnosti, već... odbija koristiti dostupne alate za ublažavanje vrlo specifične štete.
Izvještavanje o brojkama i poređenje sa Google-om i Meta-om
Jedan od stubova tužbe su podaci o CSAM obavještenjima koje su velike tehnološke kompanije dostavile Nacionalni centar za nestalu i eksploatisanu djecu (NCMEC)Agencija koja centralizuje ove vrste upozorenja u Sjedinjenim Američkim Državama. Savezni zakon zahtijeva od kompanija sa sjedištem u zemlji da prijave kada otkriju materijal o seksualnom zlostavljanju djece na svojim uslugama.
Prema dokumentaciji koju je dostavila Zapadna Virdžinija, 2023. godine Apple je prijavio samo 267 prijava u vezi sa CSAM-om NCMEC-u. Ova brojka je u oštroj suprotnosti sa više od 1,47 miliona prijava koje potiču od Googlea i više od 30,6 miliona pripisanih Meti (matičnoj kompaniji Facebooka i Instagrama) tokom istog perioda. Kvantitativna razlika je toliko značajna da je postala jedan od centralnih argumenata u slučaju.
Za tužilaštvo, ova suprotnost otkriva da je Apple daleko iza drugih tehnoloških giganata u otkrivanju i prijavljivanju ilegalnog sadržaja, te to predstavlja kao dokaz da iCloud nema dovoljno mehanizama za lociranje i blokiranje CSAM-a. McCuskey insistira da, s obzirom na Appleovu kontrolu nad svojim hardverskim i softverskim ekosistemom, "nema opravdanja" za tako niske brojke.
Međutim, poređenje otvara složenu debatu. Višemilionske brojke za Google i Metu objašnjavaju se i njihovim intenzivnim korištenjem tehnologija kao što su PhotoDNA (od Microsofta) ili API za sigurnost sadržaja (od Googlea)Masivni sistemi skeniranja mogu generirati obimne liste upozorenja, uključujući potencijalno lažno pozitivne rezultate. Razlika između 267 upozorenja i preko 30 miliona ukazuje ne samo na razliku u efikasnosti, već i na metodologija praćenja.
Ova tačka je posebno osjetljiva u Evropi, gdje zakonodavci EU dugo raspravljaju o tome da li bi platforme trebale biti obavezne skenirati šifrirane komunikacije ili pohranu u oblaku za CSAM. Iskustvo drugih servisa, poput Googlea, pokazalo je da automatizirani sistemi mogu otkriti blokirati cijele račune i uzrokovati gubitak pristupa e-porukama, fotografijama i dokumentima kada dođe do greške u identifikaciji.
Privatnost, lažno pozitivni rezultati i presedan za druge platforme
Appleov slučaj nije izolovan incident. Brojna svjedočanstva objavljena na tehničkim forumima i mrežama poput Reddita opisuju kako su korisnici drugih servisa izgubili svoje račune zbog istog problema. lažno pozitivni rezultati u algoritmima detekcijeU mnogim slučajevima objašnjavaju da suspenzija dolazi samo uz generičku poruku o kršenju pravila, bez jasnog ljudskog pregleda ili transparentnog postupka žalbe.
Ovakvo iskustvo podstaklo je ideju da, iako automatizirano skeniranje može pomoći u lociranju ozbiljno ilegalnog sadržaja, ono također ima potencijalno vrlo visoku cijenu kada se primjenjuje na kompletan digitalni život osobeZa mnoge stručnjake za sigurnost, lekcija je da nije preporučljivo centralizirati sve lične podatke u jednoj kompaniji i da se uvijek preporučuje održavanje lokalnih sigurnosnih kopija svega što se ne može izgubiti.
Međutim, Zapadna Virdžinija smatra da je trenutna ravnoteža previše nagnuta prema privatnosti. Tužba nastoji postaviti presedan koji bi prisilio kompanije poput Applea da preuzmu aktivniju ulogu. aktivnija odgovornost u identifikaciji i izvještavanju materijala o seksualnom zlostavljanju djece, čak i ako to znači preispitivanje njihovih politika šifriranja ili usvajanje invazivnijih sistema skeniranja.
Ako sudovi presude u korist države, to bi otvorilo vrata drugim američkim tužiocima da pokrenu slične postupke protiv Applea ili protiv druge platforme koje se odlučuju za jaka rješenja za šifriranjePresuda u tom pogledu mogla bi uticati i na evropske propise, gdje su već u toku diskusije o tome kako uskladiti šifrirane poruke s obavezom zaštite maloljetnika na internetu.
U međuvremenu, tužba Zapadne Virdžinije naglašava da već postoje druge otvorene pravne puteve protiv Applea iz sličnih razloga. U 2024. godini, hiljade žrtava seksualnog zlostavljanja djece podnijele su kolektivne tužbe optužujući kompaniju da je povukla ili nije u potpunosti implementirala alate koji bi mogli pomoći u automatskom otkrivanju i uklanjanju CSAM-a iz svojih usluga.
Appleov odgovor i njegovi alati za roditeljski nadzor
Suočen s lavinom kritika, Apple je javno branio svoj pristup. Kompanija tvrdi da sigurnost i privatnost korisnika, posebno maloljetnikaOvo su centralni elementi u dizajnu njihovih proizvoda. U izjavama za razne medije, glasnogovornici grupe insistirali su da je u iOS, iPadOS i druge sisteme implementirano više slojeva zaštite.
Među ovim mjerama, Apple ističe funkciju "Sigurnost u komunikacijama"što može zamutiti potencijalno osjetljive golišave slike koje maloljetnici šalju ili primaju u iMessageu, kao i slična upozorenja u drugim funkcijama kao što su AirDrop, FaceTime ili aplikacija Fotografije kada se otkrije sadržaj koji bi mogao biti neprikladan za djecu.
Kompanija također ističe da nudi napredne roditeljske kontrole koje omogućavaju majkama i očevima ograničiti korištenje određenih aplikacijapostaviti ograničenja sadržaja i upravljati vremenom provedenim pred ekranom. Prema Appleu, ovi mehanizmi, u kombinaciji sa šifriranjem i drugim internim mjerama, formiraju robustan sistem zaštite koji ne zahtijeva masovno i sistematsko skeniranje svih datoteka pohranjenih u iCloudu.
U pismu iz 2023. godine upućenom organizacijama za zaštitu djece, kompanija je ponovila svoje protivljenje široko rasprostranjenoj analizi digitalnih datoteka svojih korisnika. Apple je upozorio da svaka tehnologija dizajnirana za otkrivanje određene vrste sadržaja "otvara vrata... masovni nadzor"i vlade bi mogle vršiti pritisak na njega da proširi njegovu upotrebu na područja izvan zaštite djece."
U svjetlu ovih objašnjenja, Ured državnog tužioca Zapadne Virginije smatra da su rješenja koja je usvojio Apple "nedovoljna" i da je kompanija izbjegla svoju obavezu da sistematski izvještavati kriminalni sadržaj koji bi mogao cirkulirati putem njenih usluga. Stoga država zahtijeva ne samo odštetu, već i da sudovi prisile kompaniju da redizajnira svoje sisteme s većim naglaskom na aktivno otkrivanje CSAM-a.
Globalni uticaj i potencijalni efekti u Evropi
Iako se tužba vodi na sudu u Okrug Mason, Zapadna VirdžinijaNjegovi potencijalni efekti su globalni. Apple upravlja iCloudom i svojim servisima za razmjenu poruka na gotovo svakom tržištu, uključujući Španiju i ostatak Evrope, tako da bi svaka značajna promjena u njegovim sistemima za šifriranje ili detekciju predvidljivo uticala na korisnike širom svijeta.
U Evropskoj uniji, debata o tome kako se boriti protiv seksualnog zlostavljanja djece na internetu postala je duboko isprepletena s diskusijom o... šifriranje od kraja do krajaPrijedlozi poput takozvane "kontrole chata" izazvali su snažne tenzije između vlada, zastupnika u Evropskom parlamentu, organizacija za digitalna prava i udruženja za zaštitu djece, koji imaju vrlo suprotstavljene stavove o tome šta bi trebalo prevladati.
Ako američki sudovi na kraju prisile Apple da oslabi ili modificira svoj model šifriranja u iCloudu ili iMessageu, razumno je pretpostaviti da evropske vlasti To iskustvo će uzeti u obzir prilikom unapređenja vlastitih propisa. Suprotno je također tačno: presuda u korist Applea ojačala bi argumente onih koji tvrde da je jaka enkripcija neophodna i da je moguće boriti se protiv CSAM-a bez skeniranja svih korisničkih podataka.
Indirektno, ovaj slučaj još jednom naglašava ulogu evropskih i španskih korisnika. Mnogi stručnjaci preporučuju da se ne oslanjate u potpunosti na jednog dobavljača usluga u oblaku i savjetuju održavajte lokalne kopije važnih dokumenata i fotografijaupravo zato što poslovne odluke ili greške u automatizovanim sistemima mogu uzrokovati iznenadni gubitak pristupa cijelim računima.
U međuvremenu, regulatorni pritisak na gigante Silicijske doline raste. Slični zahtjevi To je već uticalo na druge kompanije poput Mete, koja je u državama poput Novog Meksika optužena za stvaranje objekti za kontakt s maloljetnicimaSlučaj Zapadna Virdžinija protiv Applea tako doprinosi trendu sve intenzivnijeg ispitivanja načina na koji platforme upravljaju rizicima povezanim s njihovim uslugama.
Budućnost ove tužbe označit će prekretnicu u načinu na koji se privatnost i sigurnost djece balansiraju u digitalnom okruženju. U pitanju nije samo iCloud model, već standard koji će se primjenjivati na cijelu industriju: ako prevlada stav Zapadne Virginije, Apple i druge tehnološke kompanije mogle bi biti prisiljene da fundamentalno redizajniraju svoje sisteme; ako prevlada stav kompanije, to će ojačati ideju da šifriranje i zaštita podataka Ne smiju popustiti, čak ni pred pravnim pritiscima koji su osjetljivi kao što je borba protiv seksualnog zlostavljanja djece.
