Rischio armi biologiche quando l’intelligenza artificiale incontra la genetica

Di chi è la colpa? Di colui che costruisce il martello o di chi lo usa per colpire un’altra persona invece che piantare un chiodo? Il quesito può essere riproposto anche in altri campi, tra cui la medicina. Nello specifico a essere sotto osservazione è l’ingegneria genetica, le cui applicazioni stanno rivoluzionando l’approccio a diverse patologie, tra cui i tumori. Di recente, però, è tornato un timore che di tanto in tanto serpeggia tra i tavoli della politica e che riguarda il misuso delle tecnologie genetiche a fini bellici e o terroristici. Vi fa riferimento uno studio condotto dall’Università di Cambridge che mette in guardia non solo dall’uso distorto, ma anche e soprattutto dall’utilizzo dell’intelligenza artifciale per migliorare e accelerare i processi in essere. Secondo il Center for the study of existential risk (Cser) dell’Università, con l’avanzare delle conoscenze in queste branche dell’It, il rischio per la creazione di armi biologiche e genetiche intelligenti è destinato ad aumentare, anche se al momento il tutto rimane nel campo delle ipotesi.

Lo studio di Cambridge

L’avviso ai naviganti è diretto agli Stati. In futuro i governi potrebbero dover affrontare armi biologiche capaci di colpire anche solo una persona tra mille o, addirittura, una sola etnia. Questo grazie alla diffusione di batteri o virus modificati geneticamente e “istruiti” a colpire un determinato target caratterizzato da altrettanto precise informazioni genetiche. Insomma un’arma “dedicata” in un’epoca in cui sta prendendo sempre più piede, invece, la medicina personalizzata. Chi ci dice che surrogati di prodotti a base di Crispr non possano diventare armi di distruzione di massa? Tecnicamente nessuno.

Come già accaduto in passato, soprattutto durante la guerra fredda, non sono stati pochi i governi che hanno finanziato ricerche su nuovi agenti patogeni (parallelamente alla ricerca sul nucleare) e tutt’oggi non è raro leggere sui giornali di attacchi biologici o chimici in zone di guerra (ultima in ordine di tempo l’invasione turca nel Rojava, la regione del Kurdistan al nord della Siria). Senza considerare poi il bioterrorismo e il mercato nero delle armi proibite. Tra l’altro, il costo della ricerca e sviluppo sulla genomica è calato negli ultimi decenni e a tal proposito Cambridge ravvisa che nei prossimi anni la “democratizzazione” e la maggiore fruibilità di tecnologie potrebbe favorire l’uso (e il misuso) di tali potenzialità. Tra l’altro, come hanno dichiarato a marzo di quest’anno alcuni esperti del Sipri (Istituto internazionale di ricerche sulla pace di Stoccolma) anche la stampa 3D potrebbe facilitare queste pratiche.

Pensieri distruttivi

Molti amanti del cinema ricorderanno la saga “Terminator” in cui il villain di turno, Skynet, altro non era che la personificazione di un programma di intelligenza artificiale ribelle alla volontà umana. L’esito della sua “hybris” è una guerra globale proprio contro l’umanità. Al di là delle trovate cinematografiche, il concetto di “computer pensante” ha da sempre fatto storcere il naso a molti. Il fatto che una macchina possa imparare (machine learning), perfezionarsi e andare al di là della sua condizione ontologica di mero calcolatore, ha permesso di sviluppare filoni di pensiero talvolta distruttivi nei confronti dell’Ai. Cosa potrebbe accadere se perdessimo il controllo di questa meraviglia o se fosse scientemente usata per nuocere? I campi di applicazione sono praticamente infiniti, ma, secondo il Cser, bisogna essere consapevoli delle varie zone d’ombra.

Le priorità

Per far fronte ai pericoli nei quali l’umanità potrebbe andare incontro, serviranno, secondo il rapporto, gruppi indipendenti che stabiliscano il rischio di ogni singola tecnologia e determinare protocolli specifici per proteggere le persone. Le nuove strutture avrebbero il compito di affiancare i dipartimenti statali soprattutto nella pianificazione a lungo termine laddove i politici, per loro stessa natura, hanno una visione meno lungimirante e più aderente al breve termine. Nella lista delle catastrofi che potrebbero colpire il pianeta, quelli della proliferazione di armi biologiche e della perdita del controllo dell’intelligenza artificiale sono ai primissimi posti. Nella top five sono affiancate da cambiamenti climatici, nuove ondate epidemiche, terrorismo nucleare.

La minaccia della genetica

Nel 2016 James Clapper, direttore dell’intelligence americana, nell’annuale report sulle minacce globali, ha sottolineato il pericolo reale della modificazione genetica, definendola “arma di distruzione di massa”. Clapper ha aggiunto: “Data la grande diffusione all’estero, i costi ridotti, e lo sviluppo di tecnologie dual-use, il misuso deliberato o non intenzionale avrà forti ripercussioni sull’economia e sulla sicurezza della nazione”. All’epoca molti esperti rimasero sorpresi, in quanto le biotecnologie furono affiancate ai pericoli (presunti o reali) dei test nucleari in Corea del Nord, le armi chimiche in Siria o i missili russi. In quell’occasione, però, la Crispr non fu mai nominata direttamente. Clapper ha però detto che “la ricerca sulla modificazione genetica condotta dai vari Paesi è soggetta a differenti regolamentazioni o standard etici e ciò potrebbe aumentare il rischio di nuove armi biologiche”.

A giugno dell’anno scorso dagli Usa arriva un altro report che non ha gettato acqua sul fuoco. Il Dipartimento della difesa aveva commissionato una ricerca all’Accademia nazionale delle scienze per capirne di più sul tema. L’Accademia, come poi ha spiegato anche The Atlantic, ha espresso molte perplessità sulle capacità americane di difendersi da attacchi di questo tipo se, per esempio, molte aree del Paese vengono messe in ginocchio da semplici fenomeni influenzali. Più in generale, secondo Chukwuma Muanya sul Guardian, i Paesi nel mondo con un piano di guerra per le armi biologiche dovrebbero essere una ventina. Quelli che invece sarebbero capaci di procurarsene una sarebbero oltre cento. Uno degli elementi che conta e che, ad esempio, marca una netta distinzione tra nucleare ed editing genetico militare è la distinzione dei laboratori. Centrali per lo sviluppo di bombe atomiche sono facilmente riconoscibili, ma uno stabilimento per la ricerca genetica (magari anche illegale?). Decisamente no.

Le varianti genetiche

La deterrenza nucleare ha avuto il suo ruolo. Il timore di venire coinvolti nel proprio stesso attacco ha alimentato la necessità di trovare altre soluzioni per combattere il nemico. Gli studi sulle varianti genetiche hanno avuto quindi nuovi impulsi e già dagli anni ‘50 del secolo scorso si è lavorato su specifiche malattie, tra cui la malaria. Per esempio alcune popolazioni sub-sahariane presentano una resistenza genetica superiore ad alcune forme moderate della patologia, cosa non presente, ad esempio, nel patrimonio genetico dei giapponesi. Un gap che in linea teorica potrebbe risultare fatale.

Funghi modificati

Nel 1998 è diventata cosa pubblica una sperimentazione avviata dal laboratorio di ricerca della marina statunitense a Washington su alcuni funghi modificati geneticamente ad alto tasso “offensivo”. Gli scienziati isolarono un microrganismo capace di degradare una grande quantità di materiali come plastica, gomma e metalli per poi renderlo più aggressivo grazie a interventi sul codice genetico. In soli tre giorni, il fungo distrusse interi campioni di tinteggiatura militare su cui era stato testato. Lo studio fu presentato nel ‘98 dal ricercatore James Campbell durante il terzo simposio sulla difesa non letale ammettendo che, come riporta Ncbi “alcuni batteri potevano essere utilizzati per eliminare il rivestimento degli aerei, ma allo stesso tempo facilitavano anche lo smaltimento e la distruzione del velivolo stesso”. Per i quattro anni successivi il progetto fu classificato come “difensivo”, ma nel 2002 ulteriori ricerche ipotizzarono che l’impiego di quei batteri potesse essere soprattutto offensivo.

L’uso degli insetti

Nel 2016 Bill Gates vaticinò un futuro inquietante. “La prossima epidemia potrebbe nascere sullo schermo di un computer di un terrorista che voglia usare l’ingegneria genetica per creare una versione sintetica del virus del vaiolo”. In aggiunta a questo discorso c’è il cosiddetto “taglia e cuci”. Nel 2017 la Darpa, l’agenzia scientifica dell’esercito degli Stati Uniti, ha annunciato un investimento di 100 milioni di dollari per una serie di ricerche focalizzate all’eradicazione della malaria. Come? Modificando geneticamente le zanzare per ridurre la loro capacità di trasmettere il virus o, come spiegato nell’articolo di AboutPharma poc’anzi citato, limitare la capacità riproduttiva degli insetti. In quell’occasione, però, qualcuno alle Nazioni Unite ha sobbalzato sulla sedia. Infatti sono stati in molti a ritenere che esperimenti di questo tipo (non per altro, ma perché c’è la Darpa dietro) possano condurre alla creazione di armi biologiche per la trasmissione di geni modificati. Guy Reeves, biologo dell’Istituto Max Planck ha più volte ribadito i suoi dubbi in merito all’alto potenziale di abuso di queste tecnologie. “Quando si pensa ai passi avanti che si possono fare per esempio in agricoltura con questi insetti, è altrettanto facile pensare alle armi che si possono sviluppare”. Il riferimento all’agricoltura non è casuale. Allo stato attuale uno dei filoni di ricerca più interessanti prevede l’utilizzo di insetti come vettori di geni modificati per migliorare la qualità e le caratteristiche delle piante su cui questi si posano (quindi renderle più resistenti alle avversità climatiche o maggiormente produttive). I dubbi che circondano progetti di questo tipo (tra cui proprio quello della Darpa denominato “Insect allies”) stanno nel fatto che sciami interi potrebbero contaminare le coltivazioni di Paesi nemici, renderle sterili e portare così alla fame intere popolazioni. Gli insetti scelti per questa pratica sarebbero cicaline, afidi o mosche bianche, tutti animali dalla longevità ridotta. Altro dato da tenere in considerazione è la tipologia di pianta cui si sta lavorando tra cui pomodori e grano. Inutile dire che quest’ultima è alla base dell’alimentazione di quasi tutti i popoli del mondo.

Il rischio Ai

Ad aggiungere carne al fuoco è l’impiego dell’intelligenza artificiale. Profeti di un futuro distopico sono state personalità di altissimo profilo scientifico e grandi imprenditori. Due su tutti, Stephen Hawking ed Elon Musk. Il primo, durante il Web summit di Lisbona nel 2017 ha affermato senza peli sulla lingua che lo sviluppo dell’Ai “potrebbe essere il peggior evento della storia della nostra civiltà” senza un controllo adeguato. “Non possiamo sapere se l’intelligenza artificiale ci aiuterà o ci distruggerà”. Detto da una delle menti più brillanti del secolo, il problema assume tutto un altro significato. “Porta con sé pericoli – riportava La Stampa all’epoca – come potenti armi automatiche, nucleari o biologiche”. Secondo Musk, noto per le sue idee visionarie, l’Ai potrebbe addirittura “portare verso una terza guerra mondiale e va regolamentata prima che sia troppo tardi”.

George Church, professore di genetica alla Harvard medical school ritiene che se per l’uso delle armi tradizionali non servano una grande esperienza o mezzi (anche economici), la stessa cosa si può dire per le armi batteriologiche o genetiche. L’evoluzione è così veloce che presto potrebbe essere possibile produrre un’arma anche fuori dai laboratori specializzati. I costi, come accennato, stanno diminuendo e un giorno i materiali necessari potrebbero essere anche stampati. In aggiunta, la democratizzazione della conoscenza grazie a internet consente a chiunque di entrare in possesso delle informazioni necessarie per attuare piani poco nobili.

I due “misusi”

La congiunzione dei due “misusi” potrebbe rivoluzionare non solo la scienza, ma lo stesso concetto di guerra. I famosi tre pilastri del confitto, come descritti nel libro di Qiao Liang e Wang Xiangsui “Unrestricted warfare”, ossia “soldati, armi e campo di battaglia”, potrebbero essere messi in discussione. Se ripensiamo agli insetti a cui sta lavorando la Darpa, una guerra senza militari è possibile e il rischio di dover affrontare sciami di cavallette geneticamente modificate aumenta con l’aumentare della potenza di calcolo dei nostri computer.

La stampa 3D

Il terzo incomodo è la stampa 3D. Una tecnologia di cui si parla dagli anni ‘80 e su cui esistono ancora gravi lacune normative (soprattutto in Europa), ma che è ormai alla portata di tutti o quasi. Sul tema è intervenuto anche il Sipri a marzo di quest’anno con il suo rapporto “Bio plus X” sul controllo degli armamenti e convergenza della biologia e delle tecnologie emergenti come stampa 3D, Ai e robotica. Anche se secondo gli autori della ricerca il rischio di una proliferazione di armi è moderato, il futuro risulta “incerto e ambiguo” e alcune armi stampate in 3D hanno già fatto la loro comparsa. Nel 2013 i dati online della pistola Liberator sono stati scaricati da oltre 100 mila persone prima che intervenisse il governo Usa per bloccarne la diffusione. Anche qui l’Ai ha il suo peso. Per fare degli esempi pratici la startup Relativity in passato ha ricreato un razzo e di recente ha brevettato un software “intelligente” per riconoscere e correggere in tempo reale gli errori di produzione, mentre altre società stanno lavorando su software per perfezionare la miscela e composizione dei materiali. Molti di questi, però, possono avere anche applicazioni “duali”. In Cina stanno pensando a materiali a base di tungsteno-rame e vogliono rendere più volubile l’acciaio inossidabile. Uno dei campi di utilizzo può essere il nucleare. C’è poi il berillio, utilizzato anche per ordigni esplosivi e per rimpiazzare componenti dei missili. La compagnia statunitense Senvol ha collaborato con l’Ufficio della Marina per la ricerca navale (Onr) per sviluppare sistemi di intelligenza artificiale per “analizzare la relazione tra le Am (Additive manufacture) e i parametri dei materiali impiegati nel processo. L’obiettivo della Marina sarebbe quello di sviluppare materiali molto più adattabili alle varie necessità.

Blitzkrieg

Kolja Brockmann, Sibylle Bauer e Vincent Boulanin, che sono tra gli autori del report di Sipri, fanno un esempio interessante. L’integrazione di conoscenze diverse può essere dirompente tanto quanto lo è stata la guerra lampo (in tedesco blitzkrieg) della Germania nella prima e seconda guerra mondiale. Mettere insieme in maniera perfetta manovre offensive con mezzi pesanti, ottima strategia e tecnologie all’avanguardia, permisero ai tedeschi di conquistare nuovi territori in brevissimo tempo. Oggi la situazione non è poi così diversa.

L’uso di armi biologiche nella storia

Le armi “biologiche” sono sempre state utilizzate nella nostra storia. Molti accademici tendono a considerare il primo vero uso di prodotti biologici in guerra negli anni ‘30 e ‘40 durante l’occupazione giapponese della Cina. In Manciuria, dal 1936 al 1945, operava la famigerata “Unità 731”, un corpo scelto dell’esercito imperiale nipponico destinato alla sperimentazione di armi chimiche e biologiche. Agli ordini del generale Shirō Ishii (tra l’altro un chirurgo), il corpo aveva ufficialmente il compito di purificare l’acqua, ma dietro le quinte si impegnava a testare sui civili cinesi contravvenendo al protocollo di Ginevra (firmato nel 1925 e ratificato solo nel 1970). Ma se le “sperimentazioni” sono relativamente recenti, l’impiego dei batteri e dei virus, è piuttosto datato. Negli assedi medievali non era raro utilizzare cadaveri infetti da lanciare al di là delle mura cittadine o avvelenare le fonti d’acqua. Un esempio su tutti è stato l’assedio del 1347 del porto genovese di Caffa (oggi Feodosia in Ucraina) a opera dei tartari di Ganī Bek. In quell’occasione furono utilizzati i corpi di morti per peste per stanare gli assediati.

Altri casi sono quelli del plasmodio della malaria usato dai nazisti nella provincia di Latina nel 1943 o i teli destinati al mercato ottomano (inutilmente) contaminati con il bacillo della peste dai veneziani durante la guerra contro i Turchi sull’isola di Candia (1649-1651). Ma se parliamo di “genialità” in questo campo, tralasciando il famoso episodio della Medea euripidea che imbeve di veleno il peplo da donare a Glauce, promessa sposa di Giasone, non si possono non citare gli inglesi.

Almeno due gli episodi da ricordare. Il primo ha a che vedere con la pulizia etnica dei territori corrispondenti all’attuale Delaware (Usa) dai Pellerossa grazie a donazioni di abiti intrisi di vaiolo. Il secondo riguarda l’inoculazione del vaiolo in un gruppo di prostitute canadesi e inviate “in omaggio” ai battaglioni americani di stanza in Quebec. Poi come dimenticare le “bombe biologiche involontarie” rappresentate dai soldati spagnoli e portoghesi in Sud America tra il ‘500 e il ‘600? Fu proprio grazie a loro che in quell’area si sono diffusi per la prima volta vaiolo, varicella, morbillo e influenza, patologie contro cui gli indigeni non avevano difese immunitarie.

Furti di Dna

C’è chi ruba il codice genetico altrui. Per farne cosa? Difficile dirlo. L’argomento è tornato di recente alla ribalta con un’accusa di Julien Assange agli Stati Uniti. Davanti a un tribunale londinese il 21 ottobre scorso, il padre di Wikileaks ha dichiarato: “Dicono (gli Usa n.d.r.) che i giornalisti e gli informatori sono nemici del popolo. Ma loro hanno dei vantaggi che nessun altro ha sui documenti e conoscono tutto della mia vita e della mia mente. Hanno rubato il Dna dei miei figli”. Fondate che siano o meno le parole di Assange (che attende l’estradizione negli Usa), il problema del furto di Dna è uno dei crucci della sicurezza nazionale di mezzo mondo. E pensare che non sarebbe nemmeno difficile prendere tracce del patrimonio genetico altrui da bicchieri, fazzoletti o posate. Sarebbe possibile anche inquinare prove o, peggio, alimentare le tensioni internazionali.

Un paio di casi: il Cremlino, nel 2017 ha accusato agenti segreti stranieri (nella fattispecie statunitensi) di “rubare” campioni di Dna di cittadini russi per portare avanti studi su specifiche armi biologiche. Per limitare i presunti danni, come rivelato dalla Bbc, Gennady Onishchenko, ex capo dell’agenzia di Stato Rospotrebnadzor, ha avviato una serie di controlli di prodotti sanitari e alimentari di importazione, soprattutto provenienti da Paesi filo americani come Georgia e Moldova.

Non è la prima volta che se ne parla. Nel 2007 il giornale locale Kommersant ha riportato la notizia secondo cui la Russia avrebbe vietato ogni esportazione di materiale genetico umano per timore di sperimentazioni illegali da parte di agenzie straniere. Anche gli Stati Uniti, da par loro, hanno avuto timori simili. Infatti nel 2012 si sono adoperati per “mettere in sicurezza” il patrimonio genetico dell’allora presidente Barack Obama. L’appropriazione indebita dei geni altrui è un reato e molte legislazioni, tra cui quella europea, si sono adeguate per tutelare la privacy dei cittadini e impedire che i centri di ricerca che acquisiscono legalmente i campioni di sangue (attraverso donazioni o esami) possano poi utilizzare le informazioni per altri scopi.

In aggiunta vanno considerate tutte quelle attività criminali che portano al mercato nero o comunque alla compravendita di materiale genetico. Il 4 aprile 2018 la corte del Kansas negli Stati Uniti, ha condannato a dieci anni di reclusione lo scienziato Weiqiang Zhang per appropriazione indebita di campioni di semi di riso geneticamente modificato all’azienda locale Ventria Biosciences. Come aggravante, il giudice ha anche accusato Zhang di trafficare il materiale rubato insieme a segreti industriali.

Articolo originale sul numero 173 di AboutPharma

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...