Nella società odierna, Intelligenza artificiale (AI) è usato principalmente per il bene. Ma se non lo fosse?

Questa è la domanda dei ricercatori di Farmaceutiche cooperative Si sono chiesti quando sperimentavano l’IA per cui era stato progettato Trova farmaci utili.

Quindi, hanno modificato questa IA per cercare armi chimiche e, in modo impressionante, l’algoritmo di apprendimento automatico ha trovato 40.000 scelte in sole sei ore, Secondo il giornale Pubblicato questo mese sulla rivista L’intelligenza della macchina della natura.

pensiero ingenuo

“Non avevamo mai avuto questo pensiero prima. Eravamo vagamente consapevoli dei problemi di sicurezza legati al lavoro con agenti patogeni o sostanze chimiche tossiche, ma non si trattava di noi; lavoriamo principalmente in un ambiente virtuale. Il nostro lavoro è radicato nella creazione di modelli di apprendimento automatico per bersagli Terapeutici e tossici per aiutare meglio nella progettazione di nuove molecole per la scoperta di farmaci”, hanno scritto i ricercatori nel loro articolo.

“Abbiamo passato decenni a utilizzare computer e intelligenza artificiale per migliorare, non compromettere, la salute umana. Siamo stati ingenui nel pensare al potenziale abuso del nostro commercio, poiché il nostro obiettivo è sempre stato quello di evitare caratteristiche molecolari che possono interferire con le molte classi di proteine ​​essenziali alla vita umana.”.

Anche il loro lavoro su Ebola e neurotossine, che potrebbero aver sollevato preoccupazioni sui potenziali effetti negativi dei loro modelli di apprendimento automatico, non ha suonato campanelli d’allarme, hanno affermato i ricercatori. Erano beatamente inconsapevoli del danno che avevano fatto.

Come ha funzionato la loro esperienza?

Collaborations Pharmaceuticals ha pubblicato modelli di apprendimento automatico computazionale per prevedere la tossicità. Tutto ciò che i ricercatori hanno dovuto fare è stato adattare la loro metodologia per cercare la tossicità piuttosto che eliminarla, e ciò che hanno ottenuto è stato un esercizio intellettuale che si è evoluto in una prova di concetto computazionale per le armi biochimiche.

L’esperienza è una chiara indicazione del motivo per cui dobbiamo tenere d’occhio i modelli di intelligenza artificiale e pensare davvero alle conseguenze del nostro lavoro.

Sommario:

L’Istituto Federale Svizzero per la Protezione Nucleare, Biologica e Chimica – SPICE Laboratory – tiene una serie di conferenze “Convergence” istituite dal governo svizzero per identificare gli sviluppi della chimica e della biologia e abilitare tecnologie che potrebbero avere implicazioni per i materiali chimici e biologici. Accordi sulle armi. Le conferenze si incontrano ogni due anni, riunendo un gruppo internazionale di esperti scientifici e del disarmo per esplorare gli ultimi sviluppi nei campi chimico e biologico e i loro percorsi, riflettere sulle potenziali implicazioni per la sicurezza e considerare come queste potrebbero essere più efficaci. gestito a livello internazionale. L’incontro si svolge per tre giorni di discussione sul potenziale danno, se c’è l’intenzione, da tecniche chimiche e biologiche avanzate. La nostra azienda di scoperta di farmaci ha ricevuto un invito a contribuire a una presentazione su come le tecnologie di intelligenza artificiale per la scoperta di farmaci possono essere utilizzate in modo improprio.