È Senziente

Alla sessione finale del Simposio spaziale 2019 a Colorado Springs, i partecipanti si sono infilati in una gigantesca sala da ballo per ascoltare un funzionario dell’Air Force e un dirigente della National Geospatial-Intelligence Agency (NGA) discutere, come dice il titolo del panel, “Enterprise Disruption.”La presentazione è rimasta vaga come il titolo fino a quando una domanda diretta da parte del pubblico sembrava fare i relatori contorcersi.

Quanto è buono, si chiedeva la persona, gli algoritmi delle comunità militari e di intelligence hanno ottenuto l’interpretazione dei dati e l’azione basata su tale analisi? Hanno sottolineato che l’industria satellitare commerciale ha un software che può coincidere container su navi da carico e auto nei parcheggi subito dopo che le loro immagini sono scattate nello spazio. “Quando il Dipartimento della Difesa avrà in tempo reale, automatizzato, ordine globale di battaglia?”hanno chiesto.

“Questa è una grande domanda”, ha detto Chirag Parikh, direttore dell’Ufficio di Scienze e metodologie della NGA. “E ci sono molte risposte classificate davvero buone.”

Si fermò e si spostò al suo posto. “Qual è la prossima domanda?”chiese sorridendo. Ma ha continuato a parlare, descrivendo come “intelligenza geospaziale” non significa più semplicemente immagini dai satelliti. Significa qualsiasi cosa con un timestamp e un timbro di posizione, e il tentativo di integrare tutti quei dati vari.

Quindi, Parikh ha effettivamente risposto a questa domanda: quando si tradurrebbe in una comprensione quasi istantanea e in uno sviluppo strategico?

“Se non ora”, disse, ” molto presto.”

Parkih non ha menzionato programmi particolari che potrebbero aiutare a abilitare questo tipo di interpretazione autonoma in tempo reale. Ma un’iniziativa chiamata Senziente ha capacità rilevanti. Prodotto del National Reconnaissance Office (NRO), Senzient è (o almeno mira ad essere) uno strumento di analisi onnivoro, in grado di divorare dati di ogni tipo, dare un senso al passato e al presente, anticipare il futuro e puntare i satelliti verso ciò che determina saranno le parti più interessanti di quel futuro. Che, idealmente, rende le cose più semplici a valle per gli analisti umani di altre organizzazioni, come la NGA, con cui i partner satellite-centric NRO.

Fino ad ora, Senziente è stato trattato come un segreto governativo, fatta eccezione per vaghe allusioni in alcuni discorsi e presentazioni. Ma i documenti rilasciati di recente — molti precedentemente classificati segreti o top secret-rivelano nuovi dettagli sugli obiettivi, i progressi e la portata del programma.

La ricerca relativa a Senzient è in corso almeno da ottobre 2010, quando l’agenzia ha pubblicato una richiesta di white paper di Senzient Enterprise. Una presentazione dice che il programma ha raggiunto la sua prima pietra miliare R&D nel 2013, ma i dettagli su ciò che tale pietra miliare è stata effettivamente redatta. (Il vice direttore dell’Ufficio degli affari pubblici di NRO Karen Furgerson ha rifiutato di commentare questa tempistica in una e-mail a The Verge.) Un’audizione del Comitato dei servizi armati della Camera del 2016 sullo spazio di sicurezza nazionale includeva un breve riassunto di questo cervello basato sui dati, ma le riunioni pubbliche non lo hanno menzionato da allora. In 2018, una presentazione pubblicata online ha affermato che Senzient sarebbe andato in onda quell’anno, anche se Furgerson ha detto a The Verge che era attualmente in fase di sviluppo.

“L’NRO non ha detto molto su Senziente pubblicamente perché è un programma classificato”, afferma Furgerson in una e-mail, “e l’NRO appare raramente davanti al Congresso in udienze aperte.”

L’agenzia ha sviluppato questo cervello artificiale per anni, ma i dettagli disponibili al pubblico rimangono scarsi. “Ingerisce grandi volumi di dati e li elabora”, afferma Furgerson. “Senzient cataloga modelli normali, rileva anomalie e aiuta a prevedere e modellare le potenziali linee d’azione degli avversari.”Il NRO non ha fornito esempi di modelli o anomalie, ma si potrebbe immaginare che cose come “non muovere un missile” contro “spostare un missile” potrebbero essere sulla lista. Quelle previsioni in mano, Senziente potrebbe trasformare i sensori dei satelliti nel posto giusto al momento giusto per catturare la cattiva volontà (o qualsiasi altra cosa voglia vedere) in azione. “Senziente è un sistema di pensiero”, dice Furgerson.

Non è tutto distopico: i documenti rilasciati dal NRO implicano anche che Senziente può rendere i satelliti più efficienti e produttivi. Si potrebbe anche liberare gli esseri umani di concentrarsi su analisi profonde, piuttosto che noioso ago-finding. Ma potrebbe anche contenere pregiudizi indiscussi, giungere a conclusioni dubbie e sollevare preoccupazioni per le libertà civili. A causa della sua natura segreta, non sappiamo molto di questi potenziali problemi.

“La pratica standard del NRO e della comunità di intelligence è di NON rivelare fonti e metodi sensibili, in quanto tale divulgazione introduce un alto rischio di contrastare le nazioni avversarie”, afferma Furgerson. “Tale perdita danneggia la nostra nazione e i suoi alleati; diminuisce gli Stati Uniti. vantaggio informativo e sicurezza nazionale. Per questi motivi, i dettagli su Senzient rimangono classificati e ciò che possiamo dire al riguardo è limitato.”

I programmi satellitari sono stati generalmente alcune delle iniziative di intelligence più silenziose. Il primo programma per scattare foto dallo spazio, Corona, è iniziato nel 1958, e il satellite ha girato con successo il suo primo secchio di film indietro attraverso l’atmosfera nell’agosto del 1960. Pochi giorni dopo, Edwin Land, CEO di Polaroid, unspooled il film attraverso il pavimento dello studio ovale, mentre Dwight Eisenhower guardava. Prima di lui c’erano somiglianze di aeroporti e installazioni militari nell’Unione Sovietica.

“Ecco le sue foto, signor Presidente,” disse Land.

Quella grande rivelazione, secondo una storia ufficiale del NRO, portò direttamente alla creazione di una nuova agenzia responsabile della “progettazione, acquisizione e gestione di satelliti da ricognizione.”

Il NRO è stato formalmente istituito l’anno successivo.

Nel 1970, l’ufficio iniziò a lanciare satelliti di classe “Buco della serratura”che avevano specifiche simili a quelle del telescopio spaziale Hubble, ma erano rivolti alla Terra invece di altre galassie. Sappiamo anche che la raccolta orbitale del NRO include dati raccolti durante il test o il funzionamento di aerei, missili o altri sistemi; comunicazioni vocali, test o immagini intercettate; e radar, tra le altre fonti. Degli oltre 150 (noti) satelliti militari statunitensi, l’NRO ne gestisce circa 50.

Ora, quasi sei decenni dopo la fondazione della NRO, il cielo è affollato di altri satelliti dall’aspetto discendente, alcuni di proprietà di società di intelligence private. Uno di questi, BlackSky, usa quei satelliti per alimentare un sistema che è essenzialmente il doppelgänger non classificato di Senzient.

Quando due petroliere sono state attaccate nello stretto di Hormuz il 13 giugno, il programma di BlackSky ha inviato i suoi satelliti in azione e ha scattato foto dell’incidente mentre il fumo delle esplosioni era ancora a spirale verso il cielo. I fari alla deriva delle navi e le notizie locali hanno lasciato intendere che qualcosa stava succedendo, spingendo gli analisti di BlackSky a rivolgere la loro attenzione alla trafficata corsia di navigazione vicino all’Iran.

Addetti ai lavori chiamano quel processo “tipping and cueing”: utilizzando una soffiata di dati da una fonte per cue un satellite per guardare un punto particolare, o utilizzando le informazioni da un satellite per spin up collezione di un altro strumento. Nella versione ideale di quel processo, un sistema automatizzato risucchia tutti i tipi di dati, li sintetizza in qualcosa di sensato, indica la sinfonia satellitare, reincorporaizza i dati dei satelliti nel ciclo di analisi, giunge a una conclusione più intelligente, punta di nuovo i satelliti o altri sensori e ripete l’intero processo. Fallo abbastanza bene, e un’azienda (o un’agenzia di intelligence) potrebbe costruire una torre di conoscenza sul passato, comprendere gli eventi presenti più velocemente dei loro concorrenti e — forse un giorno — predire il futuro.

Come l’industria commerciale ha costruito la sua rete di orbiter terra-osservazione, la comunità di intelligence ha preso atto. In 2016, la NGA, che analizza i dati raccolti dalla NRO, e la NRO hanno annunciato congiuntamente il programma GEOINT commerciale per acquistare meglio questi dati. In 2017, la NRO ha assunto la responsabilità di acquisto e da allora ha firmato almeno tre nuovi contratti. Uno era con una società chiamata Maxar, che possiede alcuni dei più potenti satelliti ad alta risoluzione nel settore privato e, per molto tempo, era praticamente l’unica azienda che vendeva immagini satellitari al NRO. Questa volta, però, l’agenzia ha anche firmato un altro accordo con Planet, che gestisce una costellazione di piccoli satelliti che immaginano tutta la terra della Terra ogni giorno. Il terzo appaltatore è BlackSky.

Ecco dove Senziente rientra l’immagine: Tutte le immagini dell’NRO, dell’esercito e di queste società satellitari commerciali, combinate con altre informazioni geospaziali — tutto ciò che ha un tag temporale e un tag di posizione — creano una grande quantità di informazioni che è molto più di quanto un esercito letterale di persone possa pettinare. Per tenere il passo con la manichetta antincendio delle informazioni, il NRO si trasforma in parte in AI. “Sentient mira ad aiutare gli analisti a” collegare i puntini “in un grande volume di dati”, afferma Furgerson.

Come potrebbe Senziente collegare i punti, però? Non lo sappiamo, esattamente. I documenti rilasciati non dicono esplicitamente quali tipi di fonti di dati Senzienti possono sifone in, ma è chiaro che il programma è interessato a tutti i tipi di informazioni. “Potrebbe includere intercettazioni elettroniche di comunicazioni internazionali; potrebbe includere immagini precedenti; potrebbe includere fonti umane”, afferma Steven Aftergood, ricercatore presso la Federazione degli scienziati americani e direttore del Progetto sulla segretezza del governo. “La gente dice,’ Hey, c’è qualcosa che sta succedendo su quella collina.”

L’analista della CIA in pensione Allen Thomson va oltre. “A quanto ho capito, la risposta voluta — e aspirazionale-è ‘tutto'”, dice. Oltre alle immagini, che potrebbe includere dati finanziari, informazioni meteo, statistiche di spedizione, informazioni da ricerche di Google, record di acquisti farmaceutici, e altro ancora, dice.

Considera cosa sta succedendo nel settore privato: BlackSky prende dati da 25 satelliti, più di 40.000 fonti di notizie, 100 milioni di dispositivi mobili, 70.000 navi e aerei, otto social network, 5.000 sensori ambientali e migliaia di dispositivi Internet-of-Things. In futuro, prevede di avere fino a 60 dei propri satelliti di osservazione della Terra. Tutte queste informazioni vanno in diverse pipeline di elaborazione in base al tipo. Da una notizia, BlackSky può estrarre persone, luoghi, organizzazioni e parole chiave. Da un’immagine, può mappare quali edifici appaiono danneggiati dopo un terremoto. Tutti questi dati elaborati, ma ancora disparati, entrano in quello che Blacksky CTO Scott Herman chiama un “gigantesco motore di fusione analitica”, che cerca di trasformarlo in più della somma delle sue parti, dice ai satelliti cosa fare al riguardo e avvisa gli analisti umani quando gli eventi soddisfano determinati criteri predeterminati.

Nel mondo reale, BlackSky potrebbe usarlo per tenere traccia delle posizioni dei jet russi. L’azienda ha immagini di luoghi in cui i militari russi parcheggiano i suoi aerei e conosce la forma ruvida di diversi tipi di volantini.

L’azienda dispone anche di algoritmi di riconoscimento delle forme, in grado di individuare i pixel che, insieme, mappano un determinato modello. Può sintonizzare quell’algoritmo per individuare i contorni dei jet russi, come gli aerei MIG Fulcrum e Foxhound. Una volta inserite le immagini satellitari in quell’algoritmo, si potrebbe imparare quanti di questi aerei sono seduti sulle piste. Capire il significato di quel conteggio — ciò che “45 Fulcrums ad Aleysk ma nessuno a Krymsk” significa in realtà — richiede ancora più dati. Il sistema avrebbe bisogno di conoscere la storia dei dati demografici del jet, che avrebbe potuto determinare da osservazioni precedenti. Potrebbe forse raccogliere dati su quanto spesso volano e dove, o anche guardare le notizie per scoprire se c’è qualche agitazione o azione intorno ad Aleysk: ora il sistema sa esattamente dove dovrebbero puntare i loro satelliti in tempo reale per raccogliere le informazioni di cui il loro cliente ha bisogno.

BlackSky è solo all’inizio, avendo lanciato solo di recente i propri satelliti. Il successo finale e l’utilità del suo sistema devono ancora essere dimostrati. E sulla base delle informazioni disponibili, non è chiaro fino a che punto sia il sistema comparabile di Senzient. Thomson sospetta che i suoi obiettivi più grandiosi siano ancora semplicemente quello: gli obiettivi. “Quanto lontano Senziente ha ottenuto o otterrà non è chiaro”, dice.

“Se dovesse essere implementato con successo su larga scala, sarebbe certamente un progresso significativo”, dice Thomson, “ma non ho visto alcuna indicazione che ciò fosse effettivamente accaduto.”

Anche se Senziente è ancora bloccato nelle sue fasi iniziali, la sua esistenza invia un sacco di bandiere rosse per gli esperti di privacy. Gli algoritmi funzionano davvero? In che modo sono prevenuti? Quanti falsi positivi generano? “Quanto spesso Senziente invierà i nostri satelliti da miliardi di dollari in una caccia all’oca selvaggia?”chiede Aftergood. “Dobbiamo considerare l’impatto del Senziente che ci porta fuori strada.”

Il NRO nota che Senzient non tiene le persone totalmente fuori dal processo, fornendo una sorta di controllo sul suo stato di essere. “Avere esseri umani in loop che supervisionano i dati e le informazioni di intelligence è un modo chiave per monitorare le prestazioni dell’algoritmo”, afferma Furgerson. “Senzient è l’apprendimento machine-to-machine assistito dall’uomo.”

Del lavoro della sua azienda, Herman osserva che quando stai chiedendo al silicio di avere un senso, devi addestrarlo sul giusto tipo di dati. Se vuoi che gli algoritmi imparino come sono le torri radio, ma mostri sempre e solo le torri radio in piena luce del sole, arriveranno a pensare che “black shadow next to tower” sia, in effetti, parte integrante della torre. Se poi guardano uno scatto di una tale struttura in una giornata nuvolosa, non lo riconosceranno affatto.

Questo è un esempio banale, ma puoi immaginare quelli più sinistri — come il software che ha imparato che la parola “bomba” è associata a piani terroristici, ma non impara mai che “that’s the bomb” è una frase fredda. Negli altri regni di AI, in realtà non si è dimostrato onnisciente o oggettivo, di solito in modi che feriscono i ragazzi non bianchi. Ad Amazon, ad esempio, il software di riconoscimento facciale non è riuscito a identificare i generi delle donne e le persone dalla pelle più scura. Società di analisi Palantir ha creato un programma predittivo di applicazione della legge per le forze di polizia di New Orleans, ma alimentato i dati it che secondo alcuni rapporti mirati minoranze ingiustamente.

Quali pregiudizi potrebbero nascondersi all’interno di Senzient? Che aspetto hanno i suoi dati di allenamento? Chi sta convalidando le sue conclusioni, e come? Al momento, le risposte sono opache, ma cani da guardia segretezza come Aftergood stanno chiedendo comunque. “Queste sono le domande che non vuoi che gli sponsor o i finanziatori di Senzient chiedano e rispondano da soli”, dice Aftergood.

Le domande su chi e quali monitor Senzienti sono ugualmente persistenti e anche quasi senza risposta, ma ci sono alcuni indizi su dove il programma potrebbe o meno sbirciare. I satelliti spia, come quelli utilizzati dall’NRO, sono principalmente destinati a concentrarsi sul mondo oltre i confini degli Stati Uniti. E a differenza dei suoi compagni di agenzie di intelligence-tra cui la NSA e la CIA — l’NRO non è stato davvero coinvolto in grandi scandali di spionaggio domestico. Il suo più grande turbamento pubblico recente era probabilmente circa la patch missione per il lancio del suo satellite NROL-39: raffigura una bocca gigante di polpo giallo-aspirata sulla Terra – in Nord America, in realtà. Tentacoli circondano il pianeta. Le parole “NIENTE È OLTRE LA NOSTRA PORTATA” sorridono in un arco sotto il cefalopode.

Nonostante il sentimento della patch, ci sono alcuni luoghi in cui il NRO e il Senziente non dovrebbero generalmente raggiungere. In cielo come sulla Terra, le leggi proteggono i cittadini americani da irragionevoli ricerche e sequestri da parte del loro governo. “Sotto il regime statutario esistente, la ricognizione guidata dai senzienti non dovrebbe aver luogo negli Stati Uniti”, afferma Aftergood. “Se lo fosse, questo ovviamente solleverebbe immediatamente preoccupazioni sulla privacy e sulle libertà civili, e tutta una serie di domande correlate su come le informazioni raccolte venivano utilizzate e archiviate e così via. Ma in questo momento non dovrebbe essere raccolto in primo luogo.”

In risposta alle domande sulla potenziale sorveglianza interna, il portavoce ha osservato che l’NRO obbedisce alla direttiva principale della comunità di intelligence — l’ordine esecutivo 12333, così come altre leggi applicabili. Questo particolare ordine esecutivo delinea quando è consentita la” raccolta, conservazione e diffusione ” di informazioni sulle persone negli Stati Uniti, a condizione che i collezionisti seguano la procedura corretta. In particolare, tuttavia, una delle eccezioni dell’ordine alla politica “lascia soli gli Stati Uniti” è quando l’intelligence viene “acquisita da ricognizioni aeree non dirette a specifiche persone degli Stati Uniti.”

Ma l’Ordine esecutivo 12333 delinea i principi che governano le agenzie di intelligence e non si applica allo stesso modo alle società private di osservazione della Terra che hanno proliferato negli ultimi anni, BlackSky è uno di loro. Le aziende possono puntare i loro telescopi praticamente ovunque vogliano. Sebbene il governo si riservi il diritto di esercitare il “controllo dell’otturatore”, vietando la fotografia di una certa area, non lo ha mai fatto (a volte il governo acquista l’accesso esclusivo a un’area, una pratica nota come “controllo dell’otturatore del libretto degli assegni”). Esistono limiti alle risoluzioni in cui le aziende private possono vendere immagini al pubblico e ad altri paesi.

Per la maggior parte, aziende come Maxar, Planet e BlackSky scattano foto che chiunque abbia un libretto degli assegni abbastanza grasso può acquistare, incluso te e incluse organizzazioni come la NRO. Ciò solleva alcune interessanti questioni legali che i ricercatori come Aftergood stanno ancora cercando di capire: se NRO era interessato a sorvegliare gli Stati Uniti, e non può deliberatamente utilizzare i suoi satelliti per concentrarsi sulla vostra casa, potrebbe semplicemente acquistare le immagini della vostra casa da una società privata, invece?

L’NRO non ha fornito una risposta specifica sul ruolo dei dati commerciali in Senzient. Ma i limiti, dice Aftergood, dovrebbero ancora esistere sui dati a pagamento. “Ciò che fanno con questo dovrebbe in qualche modo essere orientato alla missione”, dice Aftergood. “Non dovrebbero curiosare per il bene di snooping.”

Per ora, lo snooping di Senzient rimane segreto. Il sistema di pensiero parla solo a quelli con un nulla clearance di sicurezza, anche se può ascoltare, come Thomson metterlo, quasi tutto.