tel Aviv
Cnn
–

L’uomo dai capelli rossi indossa quello che sembra il perfetto maglione natalizio Passeggiate per la fotocamera. Un quadrante giallo lo circonda. Il software di riconoscimento facciale riconosce immediatamente che l’uomo è… una giraffa?

Questo caso di identità errata non è un caso: è letteralmente progettato. La giacca fa parte della prima collezione Manifesto di una startup italiana capace. Oltre alle felpe, comprende felpe con cappuccio, pantaloni, magliette e abiti. Ognuno presenta uno schema, noto come “patch contraddittorio”, progettato da algoritmi di intelligenza artificiale per confondere il software di riconoscimento facciale: le telecamere non riescono a riconoscere chi lo indossa o pensano che sia una giraffa, una zebra, un cane o uno degli altri animali con stile.

“Quando sono davanti alla telecamera, non ho scelta se fornirle o meno i miei dati”, afferma Rachel Diderot, co-fondatrice e CEO. “Quindi realizziamo abiti che possono darti la possibilità di fare quella scelta. Non stiamo cercando di essere dirompenti”.

Diderot, 29 anni, che sta studiando per un dottorato di ricerca in “Textiles and Machine Learning for Privacy” al Politecnico di Milano — con un periodo al Media Lab del MIT — dice che l’idea di Cap_able le è venuta durante uno scambio di master programma presso l’Institute Fashion in Technology di New York. Mentre era lì, ha letto com’erano gli affittuari a Brooklyn Risposta all’attacco Contro i piani del proprietario di installare un sistema di riconoscimento facciale per il loro edificio.

“Era la prima volta che sentivo parlare di riconoscimento facciale”, dice. “Uno dei miei amici era un ingegnere informatico, quindi insieme abbiamo detto: ‘Questo è un problema e forse possiamo combinare il design della moda e l’informatica per creare qualcosa che puoi indossare ogni giorno per proteggere i tuoi dati. ”

Trovare l’idea è stata la parte facile. Per trasformarli in realtà, hanno dovuto prima capire – e poi progettare – i giusti “algoritmi contraddittori” per aiutarli a creare immagini che avrebbero ingannato il software di riconoscimento facciale. O creano l’immagine, ad esempio della nostra giraffa, e poi usano un algoritmo per regolarla. Oppure hanno impostato i colori, le dimensioni e la forma che volevano che l’immagine o il motivo avesse, quindi li hanno generati tramite l’algoritmo.

“Hai bisogno di una mentalità tra geometria e moda”, spiega Diderot.

Qualunque strada prendessero, dovevano farlo Prova le immagini Si basa su un noto sistema di rilevamento di oggetti chiamato YOLO, che è uno degli algoritmi più utilizzati nei software di riconoscimento facciale.

In un processo ora brevettato, possono quindi creare una copia fisica del modello utilizzando un file Macchina per maglieria computerizzata, che sembra un incrocio tra un telaio e una griglia gigante. Qualche ritocco qua e là per ottenere la forma, la dimensione e il posizionamento desiderati delle immagini sul capo, e poi possono creare la loro collezione, tutta made in Italy, in cotone egiziano.

L’abbigliamento attuale funziona, dice Diderot Dal 60% al 90% delle volte durante il test con YOLO. Gli algoritmi contraddittori di Cap_able miglioreranno, ma anche il programma che stai cercando di ingannare può migliorare, forse più velocemente.

“È una corsa agli armamenti”, afferma Brent Mittelstadt, direttore della ricerca e professore associato presso l’Oxford Internet Institute. Lo paragona alla battaglia tra il software che produce deepfake e il software progettato per rilevarli. Ad eccezione dei vestiti, gli aggiornamenti non possono essere scaricati.

“Potrebbe essere perché l’ha comprato, e poi è buono solo per un anno o due o cinque anni, o per quanto tempo ci vorrà per migliorare effettivamente il sistema a un livello tale da ignorare l’approccio utilizzato per imbrogliarli nel primo luogo.

E con prezzi che partono da $ 300, osserva, questi capi potrebbero diventare un prodotto di nicchia.

Tuttavia, il loro impatto può andare oltre il mantenimento della privacy di coloro che li acquistano e li indossano.

ha detto Woodrow Hartzog, professore alla Boston University School of Law.

Cap_able non è la prima iniziativa che integra protezione della privacy e design. Nell’ultima Coppa del Mondo in Qatar, un’agenzia creativa La virtù nel mondo Sono venuto su Pittura per il viso a tema bandiera Per i fan che cercano di ingannare la legione di telecamere di riconoscimento facciale del principato.

Adam Harvey, un artista con sede a Berlino che si concentra su dati, privacy, sorveglianza e visione artificiale, ha progettato trucco, abbigliamento e app volte a migliorare la privacy. Nel 2016, crea hyperfaceuna trama che include “modelli di sfocatura della visione artificiale a falsi volti” e ciò che può essere visto come un pioniere tecnico di ciò che Cap_able sta ora tentando di fare commercialmente.

“È una battaglia, e l’aspetto più importante è che questa battaglia è tutt’altro che finita”, afferma Shira Rivnai Baher, docente del programma Data, Government and Democracy presso l’Università israeliana Reichmann. “Quando andiamo alle proteste per strada, anche se non ci proteggono completamente, ci dà più fiducia, o un modo di pensare che non ci concediamo completamente alle telecamere”.

Revnai Baher, che sta per presentare la sua tesi di dottorato che esplora il ruolo dell’anonimato e le pratiche di segretezza nell’attivismo digitale, cita l’uso di mezzi di comunicazione da parte dei manifestanti di Hong Kong SfumatureE maschere e laser come alcuni dei modi più analoghi in cui le persone hanno resistito all’ascesa delle macchine. Ma sono facili da individuare – e confiscare – dalle autorità. Fare la stessa cosa in base al modello della giacca di qualcuno potrebbe essere più difficile.

Cap_able ha lanciato un file Campagna Kickstarter alla fine dell’anno scorso. Ho raccolto 5.000 euro. La società prevede ora di aderire al programma di accelerazione del Politecnico, per migliorare il proprio modello di business, prima di attrarre investitori nel corso dell’anno.

Quando Didero si è vestita, ha detto che la gente ha commentato il suo vestito “cool”, prima di ammettere: “Forse è perché vivo a Milano o New York, che non è la cosa più folle!”

Fortunatamente, ci sono ambiti più decenti nel prossimo futuro, con schemi meno evidenti all’occhio umano, ma che possono ancora confondere le fotocamere. Volare sotto il radar può anche aiutare le persone che indossano Cap_able a evitare sanzioni da parte delle autorità in luoghi come la Cina, dove il riconoscimento facciale è stato una parte fondamentale della tecnologia. Sforzi per identificare gli uiguri Nella regione nord-occidentale dello Xinjiang, o Iranche secondo quanto riferito intende utilizzare per identificare le donne che non indossano l’hijab in metropolitana.

Gli occhi del Grande Fratello potrebbero diventare onnipresenti, ma forse in futuro vedrà giraffe e zebre invece di te.