Come evitare che l'intelligenza artificiale prenda il controllo

Il super computer MareNostrum-4 a Barcellona in Spagna. Immagine di Martidaniel (CC BY-SA 4.0)

Nel 1951 il matematico britannico Alan Turing, considerato uno dei fondatori dell’intelligenza artificiale, disse che «una volta avviato lo sviluppo di macchine intelligenti, non ci vorrà molto perché superino i nostri deboli poteri. A un certo punto dovremo aspettarci che le macchine prendano il controllo».

L’idea di una macchina o un algoritmo super intelligente era già comparsa nella finzione letteraria, come per esempio nel racconto di fantascienza “The Machine Stops” scritto da Edward Morgan Forster in 1909 che descrive una infrastruttura intelligente onnipotente da cui gli esseri umani diventano gradualmente sempre più dipendenti e di cui conoscono sempre meno il funzionamento.

Ma proprio il lavoro di Turing del 1936, in cui introdusse gli oggetti matematici di macchina e programma, ha trascinato questa prospettiva dalla finzione alla realtà. Quei due oggetti si sono rivelati tra le entità matematiche più potenti mai inventate: otto delle dieci più profittevoli aziende del mondo oggi sono basate sul loro sviluppo.

L’intelligenza artificiale che potrebbe sottrarci il controllo sul nostro futuro di specie umana viene indicata con l’espressione general purpose AI, ovvero “sistemi capaci di imparare rapidamente a svolgere l'intera gamma di compiti che gli esseri umani sono in grado di eseguire”. Spesso viene usata anche l’espressione intelligenza artificiale generale.

Come possiamo evitare di perdere il controllo, consegnandolo alle macchine generaliste? Come possiamo imparare a coesistere con queste macchine? A queste domande ha risposto il matematico e informatico britannico Stuart Russell, della University of California at Berkeley in una serie di quattro lezioni chiamate Reith Lectures, trasmesse ogni anno tra novembre e dicembre via radio dalla BBC dal 1948 e affidate a una figura intellettuale di spicco. Il titolo delle lezioni tenute da Russell è “Living with Artificial Intelligence”.

Russell ammette che per gran parte della sua carriera ha considerato questo problema marginale e mal posto. Ma nel 2013, contattato dalla National Public Radio per un parere sul film "Transcendence", Russell, insieme ad altri due colleghi, Stephen Hawking e Max Tegmark, scrive in un editoriale per Huffington Post: «il successo nella creazione dell'IA (general purpose, ndr) sarebbe il più grande evento della storia umana. Purtroppo, potrebbe anche essere l'ultimo, a meno che non impariamo a evitare i rischi.»

Russell precisa che abbiamo ancora molto da fare per raggiungere questo “successo”. Per andare dalle attuali applicazioni, che sono specializzate in singole attività e per questo vengono chiamate narrow AI, alla general purpose AI sono necessarie ancora molte svolte concettuali e non è facile prevedere quanto tempo sarà necessario. Russell fa riferimento orientativamente a un periodo di 20 o 30 anni, ma precisa che questo tipo di previsioni sono quasi sempre sbagliate.

Alcuni rischi sono posti già da questi sistemi specializzati. Continua a leggere su Scienza in rete

Altre notizie

Remissione in 14 pazienti con tumore del retto trattati con sola immunoterapia
I pazienti erano affetti da un particolare tipo di tumore del retto e sono stati trattati con un anticorpo monoclonale nell'ambito di uno studio clinico condotto dal Memorial Sloan Kettering Cancer Centre di New York. In tutti e 14 il tumore è scomparso. Il farmaco sfrutta una mutazione delle cellule tumorali e le spoglia di uno scudo protettivo, rendendole in questo modo vulnerabili agli attacchi delle cellule T del sistema immunitario. Il risultato è particolarmente promettente perché potrebbe evitare il ricorso a chemioterapia, chirurgia e radiazioni che hanno conseguenze di lungo termine sulla qualità della vita soprattutto in pazienti giovani [The Guardian]

Tumore metastatico della mammella: un anticorpo coniugato amplia i suoi bersagli
Durante la conferenza annuale dell’American Society of Clinical Oncology a Chicago, è stato presentato il risultato di uno studio che ha mostrato un significativo aumento della sopravvivenza in pazienti con un particolare tipo di tumore metastatico della mammella trattati con una combinazione di anticorpi monoclonali e chemioterapia. Gli anticorpi servono a indirizzare il farmaco tossico per le cellule verso il tumore, aumentandone l’efficacia e diminuendone la tossicità. Secondo alcuni oncologi potrebbe essere utile anche nel trattamento di altri tumori, alle ovaie, ai polmoni e al colon [Le Monde]

L'OMS rivede le sue stime sull'eccesso di mortalità durante la pandemia
L’OMS ha corretto alcuni errori nelle stime sul numero di decessi causati dalla pandemia, dopo che il suo rapporto, pubblicato all’inizio di maggio, aveva sollevato molti dubbi nella comunità scientifica. I ricercatori hanno ridotto del 37% la stima dei decessi legati alla pandemia in Germania, portando il suo tasso di mortalità in eccesso al di sotto di quelli del Regno Unito e della Spagna. Hanno anche aumentato le stime per la Svezia del 19% [Nature]

I CDC negano che il vaiolo delle scimmie possa essere trasmesso per via aerea, ma alcuni esperti non sono d'accordo
Secondo il Centro statunitense, il virus si trasmetterebbe tramite contatto fisico diretto con le lesioni cutanee o con materiale contaminato. Il virus può essere trasmesso anche dalle goccioline emesse da una persona infetta che si depositano sulle mucose di con un'altra persona. Ma non può rimanere sospeso nell'aria e percorrere lunghe distanze. Gli esperti non sono in disaccordo nella sostanza ma contestano il fatto che i CDC non abbiano riconosciuto la possibilità che le goccioline più piccole possano essere inalate da persone suscettibili su corte distanze e contagiarle. L'OMS afferma che anche se la via di trasmissione aerea sembra essere improbabile è comunque possibile e richiede attenzione. «La trasmissione per via aerea potrebbe non essere la via di trasmissione dominante né efficiente, ma potrebbe comunque verificarsi», ha dichiarato Linsey Marr, esperta di virus aerei presso il Virginia Tech. «Penso che l'OMS abbia ragione e che il messaggio del CDC sia fuorviante», ha aggiunto [The New York Times]