Perché i bambini hanno bisogno di una protezione speciale dall'influenza dell'IA

Ludovic Toinel / Unsplash

Gli algoritmi possono cambiare il corso della vita dei bambini. I bambini interagiscono con Alexas che può registrare i loro dati vocali e influenzare il loro linguaggio e lo sviluppo sociale. Stanno abbuffando video su TikTok e YouTube spinti loro da sistemi di raccomandazione che finiscono per plasmare le loro visioni del mondo.

Gli algoritmi sono anche sempre più utilizzati per determinare com'è la loro istruzione, se riceveranno assistenza sanitaria e anche se i loro genitori sono ritenuti idonei a prendersi cura di loro . A volte questo può avere effetti devastanti: la scorsa estate, ad esempio, migliaia di studenti hanno perso l'ammissione all'università dopo algoritmi —usato al posto dei test standardizzati annullati dalla pandemia—ha predetto in modo impreciso il loro rendimento scolastico.

I bambini, in altre parole, sono spesso in prima linea quando si tratta di usare ed essere usati dall'IA, e questo può lasciarli nella posizione di farsi male. Poiché si stanno sviluppando intellettualmente, emotivamente e fisicamente, sono molto modellabili, afferma Steve Vosloo, specialista in politiche per la connettività digitale presso Unicef, il Fondo delle Nazioni Unite per l'infanzia.

Vosloo ha guidato la stesura di un nuova serie di linee guida di Unicef ​​progettato per aiutare i governi e le aziende a sviluppare politiche di intelligenza artificiale che tengano conto dei bisogni dei bambini. Rilasciate il 16 settembre, le nove nuove linee guida sono il culmine di numerose consultazioni tenute con responsabili politici, ricercatori sullo sviluppo infantile, professionisti dell'IA e bambini di tutto il mondo. Prendono inoltre in considerazione la Convenzione delle Nazioni Unite sui diritti dell'infanzia, un trattato sui diritti umani ratificato nel 1989.

Le linee guida non intendono essere un altro insieme di principi di intelligenza artificiale, molti dei quali dicono già le stesse cose. Nel gennaio di quest'anno, una recensione dell'Harvard Berkman Klein Center di 36 dei documenti più importanti che guidano le strategie di IA nazionali e aziendali hanno trovato otto temi comuni, tra cui privacy, sicurezza, equità e spiegabilità.

Piuttosto, le linee guida dell'Unicef ​​intendono integrare questi temi esistenti e adattarli ai bambini. Ad esempio, i sistemi di intelligenza artificiale non dovrebbero essere solo spiegabili, dovrebbero essere spiegabili ai bambini. Dovrebbero anche considerare i bisogni di sviluppo unici dei bambini. I bambini hanno diritti aggiuntivi rispetto agli adulti, dice Vosloo. Si stima inoltre che rappresentino almeno un terzo degli utenti online. Non stiamo parlando di un gruppo minoritario qui, sottolinea.

Oltre a mitigare i danni dell'IA, l'obiettivo dei principi è incoraggiare lo sviluppo di sistemi di intelligenza artificiale che potrebbero migliorare la crescita e il benessere dei bambini. Se sono progettati bene, ad esempio, è stato dimostrato che gli strumenti di apprendimento basati sull'intelligenza artificiale migliorare le capacità di pensiero critico e di problem solving dei bambini e possono essere utili per i bambini con difficoltà di apprendimento. Gli assistenti emotivi dell'IA, sebbene relativamente nascenti, potrebbero fornire supporto per la salute mentale e hanno dimostrato di migliorare le abilità sociali dei bambini autistici. Il riconoscimento facciale, utilizzato con attente limitazioni, potrebbe aiutare a identificare i bambini che sono stati rapiti o vittime di tratta.

I bambini dovrebbero anche essere istruiti sull'IA e incoraggiati a partecipare al suo sviluppo. Non si tratta solo di proteggerli, dice Vosloo. Si tratta di responsabilizzarli e dare loro l'agenzia per plasmare il loro futuro.

Parlando di gruppi svantaggiati, ovviamente i bambini sono i più svantaggiati.

Yi Zeng

L'Unicef ​​non è l'unico a pensare al problema. Il giorno prima dell'uscita di quella bozza di linee guida, l'Accademia dell'intelligenza artificiale di Pechino (BAAI), un'organizzazione sostenuta dal Ministero cinese della scienza e della tecnologia e dal governo municipale di Pechino, ha rilasciato un insieme di principi di intelligenza artificiale anche per i bambini.

L'annuncio segue un anno dopo il rilascio di BAAI i principi dell'IA di Pechino , intesi come i valori guida per lo sviluppo dell'IA nazionale cinese. I nuovi principi delineati specificamente per i bambini vogliono essere un'attuazione concreta di quelli più generali, afferma Yi Zeng, direttore del Centro di ricerca per l'etica e lo sviluppo sostenibile dell'IA presso BAAI che ne ha guidato la stesura. Si allineano strettamente alle linee guida dell'Unicef, toccando anche privacy, equità, spiegabilità e benessere dei bambini, sebbene alcuni dettagli siano più specifici delle preoccupazioni della Cina. Una linea guida per migliorare la salute fisica dei bambini, ad esempio, include l'uso dell'IA per combattere l'inquinamento ambientale.

Sebbene i due sforzi non siano formalmente correlati, anche la tempistica non è casuale. Dopo una marea di principi di intelligenza artificiale negli ultimi anni, entrambi i redattori principali affermano che la creazione di linee guida più personalizzate per i bambini è stato un logico passo successivo. Parlando di gruppi svantaggiati, ovviamente i bambini sono i più svantaggiati, dice Zeng. Questo è il motivo per cui abbiamo davvero bisogno di [prestare] cure speciali a questo gruppo di persone. Le squadre si sono confrontate mentre redigevano i rispettivi documenti. Quando l'Unicef ​​ha tenuto un seminario di consultazione nell'Asia orientale, Zeng ha partecipato come relatore.

L'Unicef ​​prevede ora di condurre una serie di programmi pilota con vari paesi partner per osservare quanto siano pratiche ed efficaci le loro linee guida in diversi contesti. BAAI ha formato un gruppo di lavoro con i rappresentanti di alcune delle più grandi aziende che guidano la strategia nazionale di intelligenza artificiale del paese, tra cui la società di tecnologia educativa TAL, la società di elettronica di consumo Xiaomi, la società di computer vision Megvii e il gigante di Internet Baidu. La speranza è che inizino a prestare attenzione ai principi nei loro prodotti e che influenzino altre aziende e organizzazioni a fare lo stesso.

Sia Vosloo che Zeng sperano che, articolando le preoccupazioni uniche che l'IA pone per i bambini, le linee guida aumenteranno la consapevolezza di questi problemi. Entriamo in questo con gli occhi sbarrati, dice Vosloo. Comprendiamo che questo è una specie di nuovo territorio per molti governi e aziende. Quindi, se nel tempo vediamo più esempi di bambini inclusi nell'IA o nel ciclo di sviluppo delle politiche, maggiore attenzione al modo in cui i loro dati vengono raccolti e analizzati, se vediamo l'IA resa più spiegabile ai bambini o ai loro caregiver, sarebbe una vittoria per noi.

nascondere