Traduzione del Ted di Veronica Barassi – C’è chi si preoccupa delle foto dei bambini pubblicate sui social media, ma il problema è molto più grande della cosiddetta “condivisione”. C’è qualcosa di molto più grande.
Per la prima volta nella storia, si monitorano i dati individuali dei bambini da molto prima che nascano, a volte dal momento del concepimento e poi per tutta la vita.
Vedete, quando i genitori decidono di concepire, vanno online per cercare “modi per rimanere incinta”, oppure scaricano app per il monitoraggio dell’ovulazione. Quando rimangono incinte, pubblicano ecografie dei loro bambini sui social media, scaricano app per la gravidanza o consultano il dottor Google per ogni sorta di cose. Qual è rischio di aborto spontaneo durante il volo o come vengono i crampi addominali in gravidanza.
E poi, quando il bambino nasce, tengono traccia di ogni pisolino, ogni poppata, ogni evento della vita su diverse tecnologie. E tutte queste tecnologie trasformano le informazioni comportamentali, quelli sulla salute, fino a quelli più intimi del bambino, in profitto.
Come? Aggregandoli e convertendoli in dati.
Nel 2019, il British Medical Journal ha pubblicato una ricerca che ha dimostrato che su 24 app per la salute mobile, 19 condividevano informazioni con terze parti. E queste terze parti hanno condiviso le informazioni con 216 altre organizzazioni. Di questi altri 216 quarte parti, solo tre appartenevano al settore sanitario. Le altre società che avevano accesso a quei dati erano grandi società tecnologiche come Google, Facebook o Oracle, erano società di pubblicità digitale e c’era anche un’agenzia di segnalazione del credito al consumo.
Quindi avete capito bene: le società pubblicitarie e le agenzie di credito potrebbero già avere dati sui bambini piccoli. Ma il fatto è che app mobili, ricerche web e social media sono davvero solo la punta dell’iceberg, perché i bambini vengono monitorati da più tecnologie nella loro vita quotidiana.
Sono monitorati da tecnologie domestiche e assistenti virtuali nelle loro case. Sono monitorati da piattaforme educative nelle loro scuole. Vengono tracciati da documenti e portali online presso l’ufficio del medico. Vengono monitorati dai loro giocattoli connessi a Internet, dai loro giochi online e da molte, molte, molte, molte altre tecnologie.
Quindi durante la mia ricerca, molti genitori sono venuti da me e mi hanno detto: “E allora? Perché è importante se i miei figli vengono rintracciati? Non abbiamo niente da nascondere”.
È importante perché oggi le persone non vengono solo tracciate, ma anche profilate sulla base dei dati raccolti. L’intelligenza artificiale e l’analisi predittiva vengono utilizzate per sfruttare il maggior numero possibile di dati di un individuo da fonti diverse: storia familiare, abitudini di acquisto, commenti sui social media.
Quindi riuniscono questi dati per prendere decisioni basate sui dati sull’individuo. E queste tecnologie sono utilizzate ovunque. Le banche li usano per decidere i prestiti. L’assicurazione li usa per decidere i premi. Reclutatori e datori di lavoro li usano per decidere se uno è adatto per un lavoro o meno. Anche la polizia e i tribunali li usano per determinare se si è un potenziale criminale o è probabile che si ripeta un crimine.
Non abbiamo alcuna conoscenza o controllo su questo. Su coloro che acquistano, vendono ed elaborano i nostri dati e stanno profilando noi e i nostri figli. E questi profili possono avere un impatto davvero significativo sui nostri diritti.
Per fare un esempio, nel 2018 il “New York Times” ha pubblicato la notizia che i dati che erano stati raccolti attraverso i servizi di pianificazione universitaria online, completati da milioni di ragazzi delle scuole superiori negli Stati Uniti che cercano un programma universitario o una borsa di studio, erano stati venduti a broker.
Ora, i ricercatori della Fordham hanno rivelato che queste aziende hanno profilato i bambini di appena due anni sulla base di diverse categorie: etnia, religione, ricchezza, disagio sociale e molte altre categorie casuali. E poi vendevano questi profili insieme al nome del ragazzo, l’indirizzo di casa e molti altri dettagli.
I ricercatori di Fordham hanno chiesto a un broker, specializzato in dati educativi, di fornire loro un elenco di ragazze di 14-15 anni interessate ai servizi di pianificazione familiare. Il broker ha accettato, e in pochi giorni ha fornito l’elenco.
Ma i data broker educativi sono davvero solo un esempio. La verità è che i nostri figli vengono profilati in modi che non possiamo controllare ma che possono avere un impatto devastante sulle loro vite.
Quindi dobbiamo chiederci: possiamo fidarci di queste tecnologie quando si tratta di profilare i nostri figli? La mia risposta è no.
In qualità di antropologo, credo che l’intelligenza artificiale e l’analisi predittiva possano essere ottime per prevedere il decorso di una malattia o per combattere il cambiamento climatico. Ma dobbiamo abbandonare la convinzione che queste tecnologie possano profilare oggettivamente gli esseri umani e che possiamo fare affidamento su di loro per prendere decisioni. Perché non possono profilare gli umani. Le tracce dei dati non sono lo specchio di chi siamo. Gli esseri umani pensano una cosa e dicono il contrario, si sentono in un modo e agiscono in modo diverso. Le previsioni algoritmiche o le nostre pratiche digitali non possono spiegare l’imprevedibilità e la complessità dell’esperienza umana. Come diceva David Olgilvy, “il problema delle ricerche di marketing è che le persone non si rendono davvero conto delle proprie emozioni, non dicono quello che pensano e non fanno quasi mai quello che dicono”.
Abbiamo bisogno che i governi riconoscano che i nostri diritti sui dati sono i nostri diritti umani. Abbiamo bisogno che ci sia un limite, come per bere, perché è ingiusto esporre un adolescente a cose di cui potrebbe pentirsi, cose non capisce ora.
La differenza tra me e le mie figlie è che non ci sono documenti pubblici della mia infanzia. Di certo non esiste un database di tutte le cose stupide che ho fatto e pensato quando ero un adolescente. Ma per le mie figlie questo potrebbe essere diverso. I dati che vengono raccolti oggi possono essere utilizzati per giudicarli in futuro e potrebbero distruggere le loro speranze e i loro sogni.
È ora che facciamo tutti un passo avanti. È ora che iniziamo a lavorare insieme come individui, come organizzazioni e come istituzioni e che chiediamo una maggiore giustizia dei dati per noi e per i nostri figli prima che sia troppo tardi.
(Trascrizione del Tedx di Veronica Barassi)
