COSA STA DIETRO L’INTELLIGENZA ARTIFICIALE

A rendere l’intelligenza artificiale un pericolo per la società non sono le stranezze dei programmi, ma gli interessi delle aziende che li controllano

di Greta Bellelli

L’intelligenza artificiale sta provocando paura o ansie in molte persone, spaventate dall’uso che se ne potrà fare. Poiché tecnologia e capitalismo sono strettamente intrecciati, è difficile distinguerli e sperare in un uso etico della prima da parte del secondo.

C’è molto da preoccuparsi anche quando è lo stato a controllare la tecnologia. Negli stati odierni la diffusione di queste tecnologie è spesso accompagnata dalla convinzione che saranno usate esclusivamente a fin di bene, ma si tratta di un’idea piuttosto ingenua. Basti pensare alla Cina: chi ha sviluppato i sistemi di riconoscimento facciale non pensava certo che il governo li avrebbe usati per dare la caccia agli Uiguri, un’etnia turcofona di religione islamica che vive nel nord-ovest del paese. Nel peggiore dei casi si prospetta uno scenario cupo: programmi che scandagliano banche dati biologiche alla ricerca di virus mortali per conto di terroristi, modelli linguistici che scatenano disordini con post manipolatori sui social network… In futuro quello che ha fatto la Russia durante la campagna elettorale statunitense del 2016 potrebbe essere completamente automatizzato.

Due sono le domande cruciali riguardo l’intelligenza artificiale: come sarà usata? E chi lo deciderà?

Nello sviluppare questi nuovi sistemi, i ricercatori sono ossessionati dalla questione dell’allineamento: come possiamo fare in modo che gli algoritmi d’apprendimento automatico siano allineati alle nostre esigenze? Tuttavia c’è un problema forse più urgente da risolvere: a chi serviranno queste macchine? Per conto di chi agiranno?

Prendiamo il caso della collaborazione tra Bing e Chat GPT: Bing dovrebbe essere allineato agli interessi del suo proprietario e padrone, la Microsoft. Il suo compito dovrebbe consistere nell’essere una buona chatbot, che risponde educatamente alle domande e fa guadagnare alla Microsoft un mucchio di soldi. Insomma, dietro all’intelligenza artificiale vi sono i modelli commerciali che la guideranno. L’era delle dimostrazioni gratuite e divertenti finirà e la tecnologia diventerà lo strumento per aumentare gli introiti delle aziende, probabilmente a spese degli utenti. In parte è già così. Lo afferma Margaret Mitchell, ex capo di un gruppo di lavoro di Google, che, parlando di etica dell’intelligenza artificiale, ha dichiarato che questi sistemi non sono assolutamente adatti a essere integrati nei motori di ricerca: e allora perché finiscono in cima alle ricerche? Perché con le ricerche si possono fare un sacco di soldi. Secondo Mitchell “L’applicazione al motore di ricerca dimostra una mancanza d’immaginazione e di comprensione del modo in cui questa tecnologia può essere utile e si limita invece ad applicarla al settore con cui le aziende tecnologiche fanno più soldi: gli annunci pubblicitari”. E cos’è la pubblicità, in fondo? Persuasione e manipolazione. Si pensi a quando i programmi sono impiegati per alimentare le truffe che da sempre abbondano su internet o per conto di campagne politiche. Questi software, sono fatti per persuadere.

I problemi di allineamento non sono una novità. Sono una caratteristica del capitalismo– e della vita umana – da sempre.

Gran parte della funzione dello stato moderno e democratico consiste nell’applicare i valori della società al funzionamento dei mercati; spetta allo stato capire cosa può accettare che l’intelligenza artificiale faccia e cosa non le dovrebbe essere permesso di fare, per salvaguardare i cittadini. Se lo stato tituberà nella sua regolamentazione, i vincitori di questa corsa all’oro avranno il capitale e una base di utenti sufficiente ad affermarsi.

La maggior parte delle paure sul capitalismo sono più comprensibili se immaginate come paure della nostra incapacità di regolamentarlo. Ma questa via va percorsa al più presto.