Una nuova polemica sta investendo Scale AI, una società statunitense specializzata nell’annotazione dei dati, che si trova ad affrontare cinque denunce relative al Regolamento generale sulla protezione dei dati (GDPR) in quattro paesi dell’Unione Europea. Le accuse, presentate dall’organizzazione per la privacy noyb, riguardano presunti monitoraggi illeciti dei lavoratori europei che operano sulla piattaforma Outlier di Scale AI.
Secondo noyb, la società sarebbe colpevole di monitorare i contrattisti impegnati nell’annotazione dei dati sulla sua piattaforma, complessa simile ai lavori su piattaforme come Mechanical Turk di Amazon. Questi contrattisti sono incaricati di etichettare dati, valutare risposte generate dall’intelligenza artificiale e svolgere altre funzioni per migliorare i modelli di AI. Tra i clienti di Scale AI figurano noti nomi come OpenAI, xAI, Anthropic, Google e persino il governo degli Stati Uniti.
Le denunce di noyb si allineano ad un crescente numero di accuse simili rivolte ad altre aziende tecnologiche statunitensi, emerse dopo l’entrata in vigore del GDPR nel 2018, che sollevano questioni circa potenziali violazioni della normativa. Con il lavoro svolto in modalità digitale e remota, Scale AI avrebbe implementato pratiche di raccolta dati estensive, non solo per verificare l’identità dei lavoratori di Outlier, ma anche per monitorare dettagliatamente le loro attività.
Thomas Le Bonniec, ricercatore sociale del gruppo francese di ricerca sulla privacy DIPLab, ha evidenziato che “il lavoro sulle piattaforme sembra essere terreno fertile per un nuovo tipo di sorveglianza sul luogo di lavoro”. Questo tipo di monitoraggio, ha aggiunto, sarebbe considerato inaccettabile in qualsiasi altra forma di impiego all’interno dell’Unione Europea.
Una delle critiche mosse dai legali di noyb riguarda il sistema di verifica dell’identità utilizzato da Persona, un’azienda che ha già subito scrutinio per un ambiente di test esposto legato ai suoi tentativi di garantirsi contratti con il governo degli Stati Uniti. Sebbene Persona abbia rigettato l’interpretazione che il suo sistema potesse essere usato per costruire un tracciatore di persone, ha affrontato altre controversie sulla sua relazione con Discord e sul fallimento nel rispettare requisiti di stima dell’età tramite riconoscimento facciale.
Secondo quanto sostiene noyb, Persona raccoglie dati biometrici per verificare l’identità dei contrattisti di Outlier, nonché indirizzi IP, informazioni sui dispositivi, dati di geolocalizzazione, indirizzi e dati finanziari. Inoltre, Scale AI è accusata di monitorare i lavoratori di Outlier raccogliendo dati di sistema e attività dei dispositivi, includendo azioni anche al di fuori dell’ambito lavorativo, trasmettendo queste informazioni a terzi come LinkedIn, TikTok e Facebook ogni pochi secondi. Noyb avverte che tali dati potrebbero essere utilizzati per profilare gli utenti e servire pubblicità mirate.
Lisa Steinfeld Leiser, avvocato per la protezione dei dati di noyb, ha commentato: “Tale monitoraggio costante e diffuso durante il lavoro va contro ogni ragionevole aspettativa.” Ha inoltre posto la domanda: “Perché LinkedIn o Facebook dovrebbero sapere quali attività stai svolgendo?”
Le denunce sono state presentate in Francia, Italia, Paesi Bassi e Austria, sostenendo che Scale AI non ha una base legale per installare software di tracciamento sui dispositivi dei contrattisti e violerebbe le norme del GDPR sulla minimizzazione dei dati, che richiedono alle aziende di raccogliere solo le informazioni strettamente necessarie per scopi specifici. Le denunce includono anche la violazione dei diritti di accesso ai dati, poiché Scale ha ignorato le richieste degli interessati relative ai dati conservati.
Noyb sta chiedendo alle autorità per la protezione dei dati di questi paesi di avviare un’indagine completa e di infliggere eventuali sanzioni a Scale per le presunte violazioni. Scale, dal canto suo, ha risposto alle accuse con una dichiarazione secondo cui “le affermazioni del rapporto sono infondate e inaccurate. Le pratiche di Outlier sono divulgate ai collaboratori e richiedono il loro consenso. Usiamo strumenti standard per verificare le identità, prevenire frodi, proteggere le informazioni riservate dei progetti e garantire un pagamento accurato.”
Questa querela spingerà probabilmente il movimento per la sovranità digitale in Europa, che negli ultimi anni ha iniziato a comprendere che il blocco potrebbe non essere nell’interesse di dipendere completamente dalle aziende tecnologiche statunitensi, anche se tale separazione potrebbe essere difficoltosa da realizzare.
