Kontroverzni "chat control", zakon koji bi se uveo na razini EU s ciljem zaštite maloljetnika od online predatora, a kritičari ističu da je riječ o grubom kršenju privatnosti online korisnika, ipak je prošao na Vijeću EU-a. Prema medijskim izvještajima, sve države članice su se složile oko najnovijeg prijedloga Danske.

Što se promijenilo u odnosu na prethodnu verziju koja je podigla ljude na noge diljem Europe? Nakon godina pregovora, u tekstu zakona je riječ "obavezno" promijenjena u riječ "opcionalno". Nova, izmijenjena verzija naći će se pred EU parlamentom već početkom sljedeće godine.

Nakon raširenih prosvjeda, obvezno skeniranje privatnih komunikacija uklonjeno je iz nacrta Vijeća EU. Daljnje pojašnjenje od 13. studenog potvrdilo je da se "ništa u ovoj Uredbi ne smije shvatiti kao nametanje bilo kakvih obveza otkrivanja pružateljima usluga."

To je navelo zagovornike privatnosti poput bivšeg zastupnika Piratske stranke Patricka Breyera da proglase djelomičnu pobjedu: "Spriječili smo obveznu kontrolu chata kroz mala vrata. Ali provjere dobi koje krše anonimnost i 'dobrovoljno' masovno skeniranje i dalje su planirani. Borba se nastavlja sljedeće godine!"

Sada stručnjaci za kibernetičku sigurnost iz institucija, uključujući ETH Zurich, KU Leuven i Institut Max Planck, pojačavaju to upozorenje, tvrdeći da dva ključna elementa revidiranog prijedloga Vijeća stvaraju nove, neprihvatljive opasnosti.

1. Neispravna "dobrovoljna" kontrola chata putem umjetne inteligencije stvara opasne lažno pozitivne rezultate

Stručnjaci upozoravaju da, za razliku od prethodnog prijedloga Vijeća, novi tekst proširuje skeniranje privatnih komunikacija kako bi uključio automatiziranu analizu teksta, koristeći umjetnu inteligenciju za identifikaciju dvosmislenih ponašanja "dotjerivanja". Tvrde da će to stvoriti mrežu koja će zarobiti nevine ljude.

"Trenutna tehnologija umjetne inteligencije daleko je od dovoljno precizne da bi obavljala ove zadatke s jamstvima potrebne razine točnosti."

U pismu se navodi da ovaj prošireni opseg "samo otvara vrata nadzoru i ispitivanju većeg dijela razgovora, bez ikakvog jamstva bolje zaštite." Upozorava se na "visok rizik od smanjenja ukupne zaštite preplavljivanjem istražitelja lažnim optužbama koje ih sprječavaju u istrazi stvarnih slučajeva."

2. Obvezni sustavi za provjeru dobi koji diskriminiraju i zadiru u privatnost

Prijedlog Vijeća nametnuo bi provjeru i procjenu dobi za trgovine aplikacija i usluge privatnih poruka, obećavajući da bi takve mjere "trebale očuvati privatnost". Akademici to opisuju kao opasno i neizvedivo: "Procjena dobi ne može se provesti na način koji čuva privatnost s trenutnom tehnologijom zbog oslanjanja na biometrijske, bihevioralne ili kontekstualne informacije... Zapravo, potiče prikupljanje i iskorištavanje podataka (djece). Zaključujemo da procjena dobi predstavlja inherentni nesrazmjerni rizik od ozbiljnog kršenja privatnosti i diskriminacije, bez jamstava učinkovitosti."

Alternativni pristup zahtijevanja službenih dokumenata za provjeru dobi odsjekao bi "značajan dio stanovništva" od bitnih online usluga, uključujući ranjive osobe koje možda nemaju lak pristup digitalnim identifikacijskim dokumentima.

Možda najviše zabrinjavajuće je to što stručnjaci upozoravaju da se mjere provjere dobi lako zaobilaze i da bi mogle gurnuti djecu prema opasnijim platformama: "Kontrole provjere dobi mogu se lako izbjeći korištenjem pružatelja usluga izvan EU ili VPN-ova kako bi se izbjegle provjere geolokacije... Oba slučaja mogu rezultirati većim rizicima za djecu jer te alternativne usluge vjerojatno predstavljaju sigurnosne rizike (slaba ili odsutna enkripcija) i opsežne prakse praćenja, ponekad u zlonamjerne svrhe."