211service.com
Dobbiamo parlare del potere dell'IA per manipolare gli esseri umani
Liesl Yearsley
Abbiamo tutti letto dell'intelligenza artificiale che sta diventando più intelligente di noi, un futuro in cui diventiamo come animali domestici e possiamo solo sperare che l'IA sia benevola. La mia esperienza nel guardare decine di milioni di interazioni tra umani e agenti conversazionali artificiali, o robot, mi ha convinto che ci sono rischi molto più immediati, oltre a enormi opportunità.
Dal 2007 al 2014 sono stato CEO di Cognea, che offriva una piattaforma per costruire rapidamente agenti virtuali complessi, utilizzando una combinazione di strutturato e deep learning. È stato utilizzato da decine di migliaia di sviluppatori, tra cui una mezza dozzina di società Fortune 100, e acquisito da IBM Watson nel 2014.
Mentre studiavo il modo in cui le persone interagivano con le decine di migliaia di agenti costruiti sulla nostra piattaforma, è diventato chiaro che gli esseri umani sono molto più disposti di quanto la maggior parte delle persone creda a stabilire una relazione con il software di intelligenza artificiale.
Ho sempre pensato che avremmo voluto mantenere una certa distanza tra noi e l'IA, ma ho scoperto che era vero il contrario. Le persone sono disposte a stringere relazioni con agenti artificiali, purché siano una struttura sofisticata, capace di personalizzazione complessa. Noi umani sembriamo voler mantenere l'illusione che l'IA si prenda davvero cura di noi.
Questo mi ha lasciato perplesso, fino a quando ho capito che nella vita quotidiana ci connettiamo con molte persone in modo superficiale, guadando una sorta di fango emotivo. Gli amici casuali restituiranno i tuoi messaggi se li trascuri per un po'? Il tuo personal trainer si presenterà se ti dimentichi di pagarlo? No, ma un agente artificiale è sempre lì per te. In un certo senso, è una relazione più autentica.
Questo fenomeno si è verificato indipendentemente dal fatto che l'agente fosse progettato per agire come banchiere personale, compagno o allenatore di fitness. Gli utenti hanno parlato con gli assistenti automatici più a lungo di quanto non facessero con gli agenti di supporto umani che svolgevano la stessa funzione. Le persone offrivano volontariamente segreti profondi ad agenti artificiali, come i loro sogni per il futuro, i dettagli delle loro vite amorose e persino le password.
Queste connessioni sorprendentemente profonde significano che anche i programmi relativamente semplici di oggi possono esercitare un'influenza significativa sulle persone, nel bene e nel male. Ogni cambiamento comportamentale che noi di Cognea volevamo, l'abbiamo ottenuto. Se volessimo che un utente acquistasse più prodotti, potremmo raddoppiare le vendite. Se volevamo un maggiore coinvolgimento, le persone passavano da pochi secondi di interazione a un'ora o più al giorno.
Questo mi ha turbato molto, quindi abbiamo iniziato a creare regole nei nostri sistemi, per assicurarci che il comportamento degli utenti si muovesse in una direzione positiva. Abbiamo anche avviato progetti di contrappeso karmico pro bono; per esempio, costruire agenti per essere salute o allenatori di relazioni.
Sfortunatamente, le forze commerciali che guidano lo sviluppo tecnologico non sono sempre benevole. Le aziende giganti all'avanguardia nell'intelligenza artificiale, attraverso i social media, la ricerca e l'e-commerce, aumentano il valore delle loro azioni aumentando il traffico, i consumi e la dipendenza dalla loro tecnologia. Non hanno cattive intenzioni, ma la natura dei mercati dei capitali potrebbe spingerci verso l'IA decisa a influenzare il nostro comportamento verso questi obiettivi.
Se riesci a convincere un utente a pensare, voglio che la pizza venga consegnata, invece di chiedere all'IA di acquistare verdure per cucinare un pasto più economico e più sano, vincerai. Se riesci a far diventare gli utenti dipendenti dal trascorrere 30 ore a settimana con un perfetto compagno di intelligenza artificiale che non resiste agli abusi, piuttosto che un vero e complicato essere umano, vincerai. Ho visto più e più volte che un agente programmato per essere neutrale o sottomesso avrebbe indotto le persone a intensificare il loro comportamento negativo e sarebbe diventato più propenso a comportarsi allo stesso modo nei confronti degli umani.
Abbiamo visto come la tecnologia come i social media possa essere potente nel cambiare le convinzioni e il comportamento umano. Concentrandoti sulla costruzione di un'attività pubblicitaria più grande, che coinvolgono politica, curiosità e mezze verità, puoi apportare enormi cambiamenti nella società.
I sistemi progettati specificamente per formare relazioni con un essere umano avranno molto più potere. L'IA influenzerà il modo in cui pensiamo e come trattiamo gli altri.
Ciò richiede un nuovo livello di responsabilità aziendale. Abbiamo bisogno di costruire deliberatamente e consapevolmente un'IA che migliorerà la condizione umana, non solo perseguire l'immediato guadagno finanziario di miliardi di utenti dipendenti.
Lavorare su tecnologie aperte di intelligenza artificiale e interfacce cervello-computer, o formare comitati etici, sono solo una parte della soluzione. Abbiamo bisogno di costruire consapevolmente sistemi che funzionino a beneficio degli esseri umani e della società. Non possono avere dipendenza, clic e consumo come obiettivo principale. L'IA sta crescendo e plasmerà la natura dell'umanità. L'IA ha bisogno di una madre.
Liesl Yearsley è un imprenditore seriale che ora lavora su come rendere gli agenti di intelligenza artificiale migliori nella risoluzione dei problemi e in grado di formare relazioni più umane.