Adesso è nella fase di sospensione in attesa di commenti da parte dei cittadini della città californiana. Poi la proposta di ordinanza andrà in votazione al consiglio comunale, dove il proponente Aaron Peskin, uno dei city supervisor della città di San Francisco, prevede tempi brevi per l’approvazione. E l’ordinanza “Stop Secret Surveillance” potrebbe diventare operativa ai primi di aprile, vietando alla polizia di usare le telecamere con l’intelligenza artificiale per identificare i criminali.
La proposta di ordinanza regola infatti l’utilizzo pubblico (ma non quello privato) delle tecnologie di riconoscimento facciale, escludendole completamente dalla portata del Dipartimento di polizia di San Francisco. Sarebbe la prima volta che una città americana approva una norma del genere.
Nelle vicine città di Berkeley e Oakland ci sono normative simili ma non viene vietata la raccolta dei dati tramite sistemi automatici di riconoscimento facciale, bensì solo imposti una serie di filtri per la privacy, e normative simili esistono nel Massachusetts e nello stato di Washington. Non è un caso che a San Francisco sia dibattuta una norma del genere, perché da tempo il tema è all’ordine del giorno nelle discussioni di molte associazioni civili che, oltre a temi di privacy e libertà individuale, ne fanno anche una questione di discriminazione verso le minoranze, che verrebbero monitorate più assiduamente e in maniera automatica e quindi discriminatoria.
L’ordinanza cambierebbe completamente il modo di operare degli uffici pubblici ma anche dei sistemi di sorveglianza e delle forze dell’ordine nella città della baia. Per operare ad esempio i sistemi di telecamere a circuito chiuso ad esempio nella scansione e analisi delle targhe automobilistiche dovrà essere definita nel dettaglio una “politica di sorveglianza tecnologica” che permetta di chiarire chi raccoglie i dati, con quale tecnologia, dove vengono conservati, con chi vengono condivisi, come e dove i cittadini possono fare ricorso, e quali sono gli specifici utilizzi permessi e quali quelli vietati.
Il divieto di utilizzare tecniche di riconoscimento facciale è assoluto e non relativo: se ad esempio un altro comando di polizia di un’altra città o di un altro stato vuole condividere una lista di sospetti basata su tecniche di riconoscimento facciale, il Dipartimento di polizia di San Francisco non potrà utilizzarla. Secondo gli estensori dell’ordinanza si tratta di uno dei vari punti messi in chiaro per cercare di bilanciare l’uso della tecnologia nei sistemi di sorveglianza.
Una delle principali problematiche relative all’utilizzo di questo tipo di sistemi automatici è la difficoltà nel prevedere l’utilizzo finale dei dati raccolti. Le informazioni che vengono automaticamente raccolte possono essere correlate con altre raccolte in altri momenti e permettere di creare schemi di comportamento che portano non solo all’identificazione di reati ma anche in generale a forme di sorveglianza inimmaginabili con altri sistemi meno tecnologici.
L’ordinanza prevede per questo anche una serie di revisioni periodiche dell’utilizzo e delle politiche applicate a questo tipo di tecniche: i rapporti sull’impatto della sorveglianza, che devono essere analizzati in un comitato aperto alla discussione pubblica e in cui vengano spiegate quali tecnologie sono utilizzate e come. E devono essere indicati anche i costi, i luoghi in cui la tecnologia viene usata e le statistiche dei crimini in quelle aree.
L’ordinanza, se entrerà in vigore nella forma attualmente aperta allo scrutinio del pubblico, agirà anche retroattivamente e quindi riguarderà anche i sistemi e le tecnologie di sorveglianza già in uso. In questo senso i funzionari di polizia di San Francisco dovrebbero attivarsi in tempi molto brevi per fornire la loro prima valutazione di impatto delle tecnologie di sorveglianza già utilizzate.
Il paradosso della normativa è che, se dovesse passare, alcune cose impedite al Dipartimento di polizia di San Francisco, come utilizzare sistemi di scansione automatica del video per l’identificazione dei volti delle persone sospette che passano ad esempio in una fermata della metropolitana, sarebbero invece sempre permesse per usi commerciali, come ad esempio l’analisi dei comportamenti di spesa dei singoli all’interno dei grandi centri commerciali.
