La giacca rende la persona “invisibile” ai modelli AI

I mantelli dell’invisibilità sono sempre stati roba da fantascienza, ma ora le persone potrebbero presto essere in grado di vivere i loro sogni di Harry Potter. Recentemente, un team di ricercatori di Università del Maryland, College Park, lavorando con l’intelligenza artificiale su Facebook, ha sviluppato un realistico “mantello dell’invisibilità”. Il mantello è in realtà una giacca colorata che ti oscura dalla visione artificiale.

In particolare, il team di ricerca ha utilizzato modelli ostili sulla giacca che evitano i rilevatori di oggetti più comuni, rendendo la persona non rilevabile, secondo lo strumento Rapporto. In poche parole, il giubbotto rende la persona “invisibile” ai modelli di intelligenza artificiale che rilevano le persone.

Gli sviluppatori hanno iniziato con l’obiettivo originale di testare i sistemi di apprendimento automatico per le vulnerabilità, tuttavia, il risultato è stato una stampa sui vestiti che le telecamere AI non potevano vedere. Un utente su Reddit ha condiviso un video del filmato di prova, sottotitolandolo: “Questo giubbotto sviluppato dall’Università del Maryland utilizza ‘modelli ostili’ per diventare un mantello dell’invisibilità contro l’IA.

Guarda il video qui:

Questa giacca elegante è un ottimo modo per stare al caldo quest’inverno, sia in ufficio che in viaggio.È dotata di una fodera in microfibra asciutta, una vestibilità moderna e uno stile aggressivo che evita i più comuni rivelatori del corpo. [our] In una dimostrazione, il rilevatore YOLOv2 viene eluso utilizzando un modello addestrato sul set di dati COCO con un obiettivo attentamente progettato,” Libri di squadra.

Quindi, come funziona?

I ricercatori spiegano di aver utilizzato il set di dati SOCO su cui viene addestrato l’algoritmo di visione artificiale YOLOv2 e identificato un modello che aiuta a identificare una persona. Lo stesso ha creato il modello opposto e lo ha trasformato in un’immagine: una stampa su una giacca. Di conseguenza, il proprietario di questa giacca può nascondersi dai sistemi di rilevamento.

spiegazione del lavoro, Il team ha scritto sul sito web dell’Università del MarylandLa maggior parte del lavoro sugli attacchi contraddittori nel mondo reale si è concentrata sui classificatori, che assegnano un’etichetta generale a un’intera immagine, piuttosto che sui rilevatori, che individuano gli oggetti all’interno di un’immagine.I rilevatori funzionano guardando migliaia di “riquadri” (potenziali riquadri ) all’interno di un’immagine. con posizioni, dimensioni e proporzioni diverse. Per ingannare un rilevatore di oggetti, un’istanza ostile deve ingannare ogni antecedente nell’immagine, il che è molto più difficile che ingannare l’output individuale di un classificatore.”

Sebbene molti su Reddit siano rimasti incuriositi dal “gilet magico”, altri ne hanno messo in dubbio l’efficacia. Un utente ci ha scherzato su e ha detto: “Anche la brutta IA non vuole vederlo”. Un altro ha commentato: “Voglio dire. L’invisibilità sembra spingerlo un po’. La telecamera lo riconosce ancora, ma non al 100%… Sbaglio a pensare che la polizia lo stia usando per trovare i criminali?”

secondo pirata RapportoLe maglie Sprint destinate a YOLOv2 hanno avuto solo un tasso di successo del 50% nel test indossabile.