Giochiamo alla Guerra Batteriologica Globale!
2026-8-7 16:38:29 Author: mgpf.it(查看原文) 阅读量:10 收藏

In un piattino da laboratorio a Stanford, il 6 agosto 2026, sedici virus mai comparsi al mondo hanno cominciato a mangiare batteri di Escherichia coli. Alcuni li mangiavano meglio dei parenti che si trovano nelle acque reflue. Uno, ha detto il laboratorio, è “evolutivamente lontano da qualsiasi cosa presente in natura”: non un ritocco di qualcosa che c’era, un’altra cosa, che quattro miliardi di anni di evoluzione non avevano mai messo insieme.

Il modello che li ha disegnati si chiama Evo. È un large language model addestrato dal team di Brian Hie fra Stanford e l’Arc Institute di Palo Alto su due milioni di genomi di batteriofagi, e i virus umani non li ha mai neanche sfiorati: quelli glieli hanno tenuti fuori dai dati di partenza, apposta. Compito assegnato: scrivi da zero il genoma completo di un fago (un batterio che mangia batteri, più o meno) che infetti E. coli, undici geni, cinquemilaquattrocento basi. Il modello ne ha proposti più di 300, il team ne ha sintetizzati 285, in provetta 16 hanno cominciato a replicarsi. Sedici organismi interi, mai comparsi in natura, che funzionano. Il paper è su Science, dopo il preprint di bioRxiv del settembre 2025. Nella prima pagina gli autori, che di mestiere non sono giornalisti, buttano lì la frase che vale mille dichiarazioni: “La capacità dei modelli linguistici del genoma di generare interi genomi funzionali non era ancora stata testata”. Non era. Adesso sì.

Il bersaglio scelto, il ΦX174, è un fago che sequenziò per primo Frederick Sanger nel 1977 e che Craig Venter risintetizzò a mano nel 2003: quello che i biologi chiamano un organismo modello, il fago che si incontra prima di ogni altro nei corsi di biologia molecolare. Che oggi lo scriva un modello statistico, sul piano che compete a me, non è un miglioramento tecnico. È un salto di categoria: fino a ieri quel virus stava nelle mani di chi lo maneggiava per capirlo, da oggi sta anche in quelle di chi lo genera senza averlo mai incontrato.

Cosa cambia rispetto ad AlphaFold

Chi legge di AI e biologia da qualche anno credo come me abbia pensato subito ad AlphaFold di DeepMind, ai modelli di design proteico di Baker a Washington, a ESM3 di Meta. Tutti straordinari, tutti sullo stesso terreno: una proteina, una funzione, un pezzo alla volta. La differenza qui non è di grado, è di categoria. Il pezzo è l’intero organismo, e l’organismo si replica. Hie lo dice a un giornalista con la faccia da spettava solamente di poter dire una cosa del genere: “Se vogliamo ingegnerizzare funzioni più complesse dobbiamo uscire dallo spazio del singolo gene e disegnare genomi completi”. Ecco, l’hanno fatto.

Jef Boeke, biologo sintetico della New York University Langone che i fagi li tocca da trent’anni, guarda l’output e commenta al MIT Technology Review: “Hanno visto virus con geni nuovi, con geni troncati, e perfino ordini e disposizioni di geni diversi”. Boeke lo dice da mestierante che di provette ne ha viste passare: non sono varianti, sono grammatiche diverse. Quando parla così un biologo con trent’anni in laboratorio, ci si ferma un attimo prima di dire “vabbè, è un caso limite”.

La proiezione ovvia la fa il papà della biologia sintetica in persona. Craig Venter, allo stesso giornalista: “Se qualcuno lo facesse con il vaiolo o l’antrace, sarei molto preoccupato“. Grazie al c***o, aggiungerei prosaicamente… Ma detto da chi il primo genoma sintetico l’ha costruito a mano, e ha una voce su Wikipedia per meriti e non per timori, ha un peso specifico che manca a qualsiasi allarmista di professione. Se il ΦX174 oggi lo scrive un modello, alla stessa architettura addestrata su un altro dataset si può chiedere di scrivere altro. E con altro penso male. Non è fantascienza, è fine tuning, e chi lo sa fare in questo momento sono migliaia di persone.

Il gesto autoregolatorio, e dove si ferma

Il team di Stanford ha fatto la cosa giusta, va detto perché ci diranno tutti per anni che l’autoregolazione non funziona, e qui invece ha funzionato: “Evo 2 esclude i virus umani dai propri dati di addestramento”. Il modello non ha mai messo gli occhi su un virus che infetta l’uomo, e chi lo interroga non lo può portare dove non è mai stato. È un gesto etico serio, dichiarato, in linea di principio verificabile dal codice pubblico.

Sullo stesso numero di Science, Thomas Inglesby e Moritz Hanke, biosicurezzisti (che titolo figo!) del Johns Hopkins Center for Health Security, lodano le precauzioni del team e poi tirano fuori la frase da inchiodare al muro: “La capacità di comporre genomi virali con l’AI generativa oggi esiste; la governance per orientarla in sicurezza no”. Così, lapidario come una bestemmia gridata in una chiesa vuota e piena di eco.
Non si fermano lì. Chiedono, nero su bianco, di rendere illegale l’uso di tecniche generative per progettare patogeni che possano infettare esseri umani, animali o piante coltivate. Non regolare, non monitorare: illegale. È il primo salto legislativo netto pubblicato su una rivista peer reviewed di quel calibro, e non lo scrivono due massimalisti, lo scrivono due persone che di biosicurezza campano.

Il gesto di Stanford però non scala. Vale per Evo 2, per il laboratorio di Hie, per una precisa scelta di data curation. Non vale per il prossimo laboratorio, in un altro Paese, con un committente diverso, che addestrerà il proprio modello sui dati che decide lui. La biologia sintetica ha già il vocabolario per parlarne, si chiama Dual Use Research of Concern, DURC nella versione statunitense, aggiornato dalla Casa Bianca a maggio 2024. Il problema è che un modello generativo non è un esperimento singolo che passa in comitato: è una capacità che si cristallizza nei pesi, si ricompone con un fine tuning di due settimane e si sposta da un server all’altro come un file di pochi gigabyte.

Perché è il caso di cui Jonas ha scritto nel 1979

Il fondamento filosofico serio per parlare di questa roba non è nella parte di catalogo che di solito si trova nei pezzi sull’AI (Nick Bostrom, il paperclip maximizer, le timeline, roba da conferenza a Palo Alto). Sta un piano sotto, e la scrisse Hans Jonas nel 1979 nel suo Il principio responsabilità (Das Prinzip Verantwortung, Insel Verlag). L’etica di Kant era calibrata sull’uomo che risponde davanti all’altro uomo, faccia a faccia, in un arcata di braccia; la tecnica moderna agisce su scala di continenti e di generazioni, e a Kant non abbiamo mai chiesto di scalare fin lì. Jonas propone un imperativo nuovo, verbatim, lo lascio anche in tedesco questa volta: “Handle so, daß die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden” (Trad. “Agisci in modo che le conseguenze della tua azione siano compatibili con la permanenza di un’autentica vita umana sulla terra“).

I sedici fagi contro E. coli, presi da soli, non violano Jonas: sono un contributo autentico alla lotta contro l’antibiotico-resistenza, che secondo The Lancet uccide più di un milione di persone all’anno. Il problema non è il ΦX174. Il problema è che quella capacità si generalizza, che il metodo si copia in un pomeriggio, che l’architettura si porta da un bersaglio all’altro cambiando il dataset. È qui che Jonas serve davvero, con la mossa più utile del suo libro: l’euristica della paura. Quando le conseguenze potenziali di un’azione sono irreversibili e riguardano chi non può ancora difendersi (le generazioni future, o l’umanità come specie in un caso limite), la profezia di sventura merita metodologicamente più ascolto della profezia di salvezza. Non è pessimismo, è aritmetica: dell’errore ottimista non ci si può pentire, perché non resta nessuno per pentirsene.

Nella lingua avvocatesca di un ipotetico legislatore: l’onere della prova sta su chi accelera, non su chi frena. È la logica dietro il principio di precauzione europeo e dietro l’approccio risk-based dell’AI Act, e Jonas l’ha messa nero su bianco nel 1979, senza isteria e senza il vocabolario “doomer” che oggi la comprime a caricatura. Chi progetta un modello di whole-genome design ha una responsabilità positiva di dimostrare che non sta preparando armi biologiche di nuova generazione. Credere che il proprio dataset sia pulito non basta: la stessa architettura, in mani diverse, non lo sarà.

Perché non riusciamo a temere le cose che sappiamo costruire

Jonas fa metà del lavoro. L’altra metà la fa Günther Anders, in L’uomo è antiquato, con un concetto che vale il libro intero: il dislivello prometeico, das prometheische Gefälle. Lo scarto crescente fra ciò che sappiamo produrre e ciò che sappiamo immaginare. Sappiamo fabbricare la bomba atomica ma non riusciamo a rappresentarci cinquantamila morti in un istante; sappiamo scrivere un genoma virale, ma non riusciamo a sentire come nostra la responsabilità di un evento pandemico che nessuno ha voluto. Le nostre facoltà (fabbricare, immaginare, sentire) non evolvono alla stessa velocità.

Da qui Anders ricava una diagnosi che vale ogni rassegna stampa di questa settimana: la cecità all’apocalisse, die Apokalypse-Blindheit. Davanti a un rischio troppo grande per essere immaginato non reagiamo con più allarme, reagiamo con meno. La notizia dei sedici fagi generati da un LLM è una notizia da apertura di prima pagina, con un titolo che riordina il senso del progresso biotecnologico. È invece finita nella sezione Health di Axios, firmata da due giornalisti che apprezzo tanto (anche se spesso non capisco tutto quello che commentano), sotto un occhiello che dice “Perché è importante: cosa potrebbe andare storto?”. Cioè, senza troppi giri, la battuta con cui si ammette di non avere una risposta (nulla di personale contro Bettelheim e Nather: quella cornice l’aveva già smontata Anders nel suo carteggio con Claude Eatherly, il pilota di Hiroshima, sessant’anni fa). È come reagiamo, di natura, davanti a ciò che eccede l’immaginabile.

Peraltro il 17 febbraio 2026 la stessa Axios titolava “AI’s big biosecurity blind spot”, e raccontava che oltre cento ricercatori di Johns Hopkins, Oxford, Stanford, Columbia e New York University avevano firmato un framework di governance per proteggere i dati biologici a rischio dal training dei modelli, all’incirca lo stesso perimetro che oggi si condensa in una riga sulla stessa rivista. Sei mesi. Sei mesi fra il grido d’allarme di cento tra i migliori biosicurezzisti (ancora, mi piace la parola!) del mondo occidentale e la conferma sperimentale che avevano ragione. Nel frattempo la Casa Bianca lanciava la Genesis Mission per accelerare l’AI su dataset scientifici massivi. La cecità all’apocalisse in tempo reale, con la ricevuta del cronografo.

Il pubblico giudicherà questa tecnologia con lo stesso registro con cui ha giudicato ChatGPT: entusiasmo iniziale, saturazione, fatica, disinteresse. Il primo evento sanitario grave riconducibile a un whole-genome design model arriverà, la domanda è quando, non se, e sarà preceduto da tre anni di segnali deboli che nessuno avrà voluto prendere sul serio.

La governance non c’è (ancora)

Il modo più asciutto per dire come stiamo messi lo abbiamo già letto: la riga di Inglesby e Hanke su Science, la governance per orientarla in sicurezza non esiste. Il quadro, senza fronzoli: la Biological Weapons Convention del 1972 vieta agli Stati di sviluppare o produrre armi biologiche, ma non ha meccanismi di verifica (nota di colore, il protocollo del 2001 che la doveva implementare lo bloccarono gli Stati Uniti sotto Bush), ed è pensata per i laboratori di Stato, non per modelli generativi che girano su un cluster e per pesi che si scaricano in una notte. Lo Executive Order 14110 di Biden dell’ottobre 2023 prevedeva alcune valutazioni sui rischi biologici delle AI di frontiera, e l’amministrazione Trump l’ha revocata nel gennaio 2025. L’AI Act europeo dedica poche righe ai rischi bio ed è centrato sull’uso, non sulla progettazione dei modelli fondazionali (l’upstream). Le linee guida DURC del 2024 sono un po’ più avanti, ma coprono la ricerca finanziata dal governo federale statunitense, non i pesi di un LLM open source.

L’amministrazione Trump, il mese scorso, ha emesso una nuova USG Policy for Stopping High-Risk Life Sciences Research che proibisce la gain of function research con fondi federali e chiede più oversight per i progetti con agenti biologici pericolosi. Encomiabile, e prevedibile, dopo un anno di audizioni congressuali su Anthony Fauci, che il 6 agosto 2026, lo stesso giorno del paper di Hie, il Congresso ha dichiarato in oltraggio alla corte per il rifiuto di rispondere sull’origine del COVID-19. Solo che quella policy non affronta la ricerca AI-driven, come nota lo stesso pezzo di Axios di Bettelheim e Nather nel between-the-lines, ed è proprio il ramo che sta evolvendo più in fretta di tutti gli altri messi insieme. Il legislatore combatte l’ultima guerra con pezzetti di carta nuovi, mentre la prossima guerra si arruola in un laboratorio universitario a Palo Alto. In silenzio, con pochi gigabyte di dati spostati e ri-addestrati su un differente virus, magari che colpisce un umano.

C’è però una difesa che regge davvero, e non lo dico io, lo scrive lo stesso commento di Inglesby e Hanke su Science: lo screening delle sequenze di DNA sintetico organizzato dall’International Gene Synthesis Consortium (IGSC nella sigla). Come racconta il consorzio sulle sue pagine, se ordinate un pezzo di DNA a Twist Bioscience o a IDT, l’ordine viene automaticamente confrontato con una libreria di sequenze pericolose e se combacia parte il controllo. Sistema volontario, industriale, silenzioso, e oggi resta il vero collo di bottiglia difensivo fra un modello generativo e un patogeno funzionale. Per quanto un LLM possa scrivervi il genoma, il DNA lo dovete pur sempre ordinare da qualche parte, e chi lo produce (sono pochini, è una cosa abbastanza complessa) ha l’obbligo morale di guardare cosa spedisce. Ma il filtro, come nota chi lavora al Johns Hopkins, è tarato sulla corrispondenza esatta con sequenze già note, e non basta più: se il modello scrive un’architettura genica che l’evoluzione naturale non ha mai messo insieme, quella nel database non c’è, quindi il confronto non scatta. Che è esattamente quello che è successo nell’esperimento da cui siamo partiti. La responsabilità di allargare il filtro non è dei biologi, è del legislatore che finanzia il consorzio, ed è la parte che compete a chi scrive di policy.

Cosa si può fare, oggi, davvero

Questo non nasce per essere un editoriale nichilista, non serve che lo sia. I sedici fagi di E. coli sono un dono alla medicina (lo dico chiaro), non un incubo. La cornice giusta è chiedersi quali difese servono adesso perché quel dono resti dono, e sono tre cose molto concrete.

  • Primo: obbligo di bio-safety statement nei paper di whole-genome design. Come i paper clinici dichiarano un conflict of interest, i paper di progettazione di interi genomi devono dichiarare il perimetro del training set, i filtri di sicurezza applicati in output, e le procedure di red teaming biosicurezza. Non è esotico: Anthropic lo fa nella sua Responsible Scaling Policy dal settembre 2023, con soglie di capacità che fanno scattare evaluation biosicurezza. Oggi è una cortesia commerciale, e domani deve diventare requisito editoriale delle riviste peer reviewed. Nature e Science possono metterlo in policy domani mattina, e il commento di Inglesby e Hanke che accompagna il paper di Hie è già mezzo passo in quella direzione.
  • Secondo: obbligo di sequence screening rafforzato per gli output dei modelli generativi, con soglia più permissiva della corrispondenza esatta. Lo strumento c’è già ed è l’IGSC descritto sopra, ma deve imparare a riconoscere le architetture funzionali sospette progettate da zero, non solo le copie di sequenze note. Serve finanziamento pubblico, il consorzio a fronte di questo rischio non può farlo da solo.
  • Terzo: sospensione del rilascio pubblico dei pesi per i modelli di whole-genome design finché non esiste una procedura indipendente di red teaming biosicurezza pre-deployment, sul modello dello staged release che OpenAI usò per GPT-2 nel 2019. Non è moratoria alla ricerca: la ricerca va avanti, il team di Stanford pubblica i risultati, i pesi restano in casa finché non si è dimostrato che l’accesso pubblico non moltiplica il rischio. È l’euristica di Jonas messa in pratica: l’onere della prova sta su chi rilascia.

Nessuna di queste tre cose è tecnicamente difficile. Sono difficili politicamente. Che forse è peggio.
E sono difficili perché chiedono al mondo dell’AI di accettare un vincolo che si è raccontato per vent’anni di poter aggirare, e chiedono al mondo della biotecnologia di accettare un vincolo che si è raccontato di aver già chiuso con il DURC. Nessuno dei due mondi da solo capisce il pezzo che manca, e quelli che stanno al confine dei due, per adesso, sono davvero pochi.

La guerra sbagliata al tavolo sbagliato

C’è un dettaglio buffo, e istruttivo, in tutta la vicenda: il 6 agosto 2026, mentre Science pubblica il primo genoma virale scritto da un’AI, il Congresso americano tiene in oltraggio alla corte Anthony Fauci perché non risponde su cosa è successo in un laboratorio di Wuhan negli anni Dieci (mi fa ancora strano scriverlo).
E se vogliamo essere onesti, tutto il gioco è lì, in quel gesto, in quei tempi. Le istituzioni combattono con dieci anni di ritardo la guerra che pensavano fosse l’ultima, mentre la prossima comincia in una pubblicazione peer reviewed pulitissima, con virus umani esclusi dal training set e con un commento su biosicurezza sulla stessa rivista. Non ci sarà un altro gain of function scandal riconoscibile come tale.
Ci sarà una notte, in un laboratorio serio, in cui un dottorando addestra Evo 3 sui virus sbagliati per un progetto legittimo, e la storia comincierà lì, e temo somiglierà più a Resident Evil che non alla Pimpa. Jonas quarantasette anni fa, Anders settanta, ci avevano già spiegato che la finestra fra poter fare e saper decidere se farlo si sarebbe accorciata: ci resta il compito prosaico, molto meno filosofico, di scriverla nella legge prima che la la finestra si chiuda.

Che vuol dire: adesso.

P.S. Come forse sapete, chi scrive non è un biotecnologo, e questo pezzo non prova a esserlo: la parte tecnica la riporto dai paper e dai commenti di chi lo è, la lente sotto è tech policy, governance, filosofia della tecnica. Su quel piano, di cosa sta succedendo io qualcosa ho da dire.

Per Approfondire


文章来源: https://mgpf.it/2026/08/07/giochiamo-alla-guerra-batteriologica-globale.html
如有侵权请联系:admin#unsafe.sh