Come Apple personalizza Siri senza aspirare i tuoi dati

Una donna usa il suo assistente vocale sul suo telefono. kyonntra/Getty Images

Se hai un iPhone, potresti aver notato un cambiamento nel comportamento di Siri nell'ultimo anno. L'assistente vocale sul telefono si sveglia quando dici Ehi Siri, ma non quando la stessa frase proviene dai tuoi amici o dalla tua famiglia.

Il motivo per cui Apple lo ha fatto era ragionevole: voleva un modo per impedire a tutti gli iPhone in una stanza di rispondere quando una persona pronuncia la frase di attivazione. Potresti pensare che Apple avrebbe bisogno di raccogliere molti dei tuoi dati audio per farlo. Sorprendentemente, non è così.

Invece, si basa principalmente su una tecnica chiamata apprendimento federato, ha detto il responsabile della privacy di Apple, Julien Freudiger a un pubblico alla conferenza sui sistemi informativi di elaborazione neurale l'8 dicembre. L'apprendimento federato è un metodo di apprendimento automatico che preserva la privacy che è stato introdotto per la prima volta da Google nel 2017 . Consente ad Apple di addestrare diverse copie di un modello di riconoscimento degli altoparlanti su tutti i dispositivi degli utenti, utilizzando solo i dati audio disponibili localmente. Invia quindi solo i modelli aggiornati a un server centrale per essere combinati in un modello master. In questo modo, l'audio grezzo delle richieste Siri degli utenti non lascia mai i loro iPhone e iPad, ma l'assistente migliora continuamente nell'identificare l'altoparlante giusto.

Oltre all'apprendimento federato, Apple utilizza anche qualcosa chiamato privacy differenziale per aggiungere un ulteriore livello di protezione. La tecnica inietta una piccola quantità di rumore in qualsiasi dato grezzo prima che venga inserito in un modello di apprendimento automatico locale. Il passaggio aggiuntivo rende estremamente difficile per gli attori malintenzionati il ​​reverse engineering dei file audio originali dal modello addestrato.

Anche se Apple lo è stata utilizzando la privacy differenziale dal 2017, è stato combinato con l'apprendimento federato solo a partire da iOS 13, che è stato lanciato al pubblico a settembre di quest'anno. Oltre alla personalizzazione di Siri, entrambe le tecniche vengono ora utilizzate anche per alcune altre applicazioni, tra cui QuickType (la tastiera personalizzata di Apple) e la funzione Trova nelle app, che esegue la scansione delle app del calendario e della posta per i nomi di sms e chiamanti i cui numeri non sono nel tuo telefono Freudiger ha affermato che la società prevede di implementare presto i metodi di privacy in più app e funzionalità.

Nell'ultimo anno, l'apprendimento federato è diventato sempre più popolare all'interno della comunità di ricerca sull'intelligenza artificiale poiché sono aumentate le preoccupazioni sulla privacy dei dati. A marzo Google rilasciato un nuovo set di strumenti per semplificare agli sviluppatori l'implementazione dei propri modelli di apprendimento federativi. Tra i molti altri usi, i ricercatori sperano che aiuterà a superare le sfide della privacy nell'applicazione dell'IA all'assistenza sanitaria. Aziende come Owkin, Doc.ai e Nvidia sono interessate a usarlo in questo modo.

Sebbene la tecnica sia ancora relativamente nuova e necessiti di ulteriori perfezionamenti, l'ultima adozione di Apple offre un altro caso di studio su come può essere applicata su larga scala. Segna anche un cambiamento fondamentale nel compromesso che l'industria tecnologica ha tradizionalmente assunto tra privacy e utilità: infatti, ora è possibile ottenere entrambe le cose. Speriamo che altre aziende prendano rapidamente piede.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.

nascondere