Il est sensible

Lors de la dernière session du Symposium spatial 2019 à Colorado Springs, les participants se sont égarés dans une salle de bal géante pour écouter un responsable de l’Armée de l’Air et un cadre de la National Geospatial-Intelligence Agency (NGA) discuter, comme le titre du panel, « Perturbation de l’entreprise. »La présentation est restée aussi vague que le titre jusqu’à ce qu’une question directe du public semble faire trembler les panélistes.

À quel point, s’est demandé la personne, les algorithmes des communautés militaires et du renseignement avaient-ils réussi à interpréter les données et à agir sur la base de cette analyse? Ils ont souligné que l’industrie des satellites commerciaux dispose d’un logiciel qui permet de comptabiliser les conteneurs d’expédition sur les cargos et les voitures dans les parkings peu de temps après que leurs images sont cassées dans l’espace. « Quand le département de la Défense disposera-t-il d’un ordre de bataille mondial automatisé et en temps réel? » ils ont demandé.

« C’est une excellente question », a déclaré Chirag Parikh, directeur du Bureau des sciences et des méthodologies de la NGA. « Et il y a beaucoup de très bonnes réponses classifiées. »

Il fit une pause et se déplaça sur son siège. « Quelle est la prochaine question? » demanda-t-il en souriant. Mais il a continué à parler, décrivant comment « intelligence géospatiale » ne signifie plus simplement des images de satellites. Cela signifie n’importe quoi avec un horodatage et un tampon de localisation, et la tentative d’intégrer toutes ces données diverses.

Parikh a alors répondu à cette question: Quand cela se traduirait-il par une compréhension et un développement de stratégie quasi instantanés?

« Si ce n’est pas maintenant, dit-il, très bientôt. »

Parkih n’a mentionné aucun programme particulier qui pourrait aider à permettre ce type d’interprétation autonome en temps réel. Mais une initiative appelée Sensible a des capacités pertinentes. Produit du National Reconnaissance Office (NRO), Sensible est (ou du moins vise à être) un outil d’analyse omnivore, capable de dévorer des données de toutes sortes, de donner un sens au passé et au présent, d’anticiper l’avenir et de pointer les satellites vers ce qu’il détermine être les parties les plus intéressantes de cet avenir. Idéalement, cela simplifie les choses en aval pour les analystes humains d’autres organisations, comme la NGA, avec laquelle le NRO centré sur les satellites est partenaire.

Jusqu’à présent, Sentient a été traité comme un secret du gouvernement, à l’exception de vagues allusions dans quelques discours et présentations. Mais des documents récemment publiés — beaucoup auparavant classés secrets ou top secrets – révèlent de nouveaux détails sur les objectifs, les progrès et la portée du programme.

La recherche liée à Sentient est en cours depuis au moins octobre 2010, lorsque l’agence a publié une demande de livres blancs sur Sentient Enterprise. Une présentation indique que le programme a atteint son premier jalon R& D en 2013, mais les détails sur ce qui était réellement ce jalon restent caviardés. (La directrice adjointe du Bureau des affaires publiques du NRO, Karen Furgerson, a refusé de commenter ce moment dans un courriel à The Verge.) Une audition du Comité des forces armées de la Chambre des représentants en 2016 sur l’espace de la sécurité nationale comprenait un résumé rapide de ce cerveau axé sur les données, mais les réunions publiques ne l’ont pas mentionné depuis. En 2018, une présentation publiée en ligne affirmait que Sentient serait en ligne cette année-là, bien que Furgerson ait déclaré à The Verge qu’elle était actuellement en cours de développement.

« Le NRO n’a pas beaucoup parlé publiquement de Sentient parce qu’il s’agit d’un programme classifié », explique Furgerson dans un courriel, « et le NRO apparaît rarement devant le Congrès lors d’audiences publiques. »

L’agence développe ce cerveau artificiel depuis des années, mais les détails disponibles au public restent rares.  » Il ingère des volumes élevés de données et les traite « , explique Furgerson.  » Sentient répertorie les schémas normaux, détecte les anomalies et aide à prévoir et à modéliser les plans d’action potentiels des adversaires. »Le NRO n’a pas fourni d’exemples de modèles ou d’anomalies, mais on pourrait imaginer que des choses comme « ne pas déplacer un missile » par rapport à « déplacer un missile » pourraient figurer sur la liste. Ces prévisions en main, Sentient pourrait mettre les capteurs des satellites au bon endroit au bon moment pour attraper la mauvaise volonté (ou tout ce qu’il veut voir) en action. « Sensible est un système de pensée », explique Furgerson.

Tout n’est pas dystopique: les documents publiés par le NRO impliquent également que Sentient peut rendre les satellites plus efficaces et productifs. Cela pourrait également libérer les humains pour se concentrer sur une analyse approfondie plutôt que sur la recherche fastidieuse d’aiguilles. Mais il pourrait également contenir des biais incontestables, aboutir à des conclusions douteuses et soulever des préoccupations en matière de libertés civiles. En raison de sa nature secrète, nous ne savons pas grand-chose sur ces problèmes potentiels.

« La pratique courante des BRN et de la communauté du renseignement est de NE PAS divulguer les sources et les méthodes sensibles, car une telle divulgation présente un risque élevé de voir des nations adverses les contrer », explique Furgerson. « Une telle perte nuit à notre nation et à ses alliés; elle diminue les États-Unis. avantage de l’information et sécurité nationale. Pour ces raisons, les détails sur Sentient restent classifiés et ce que nous pouvons en dire est limité. »

Les programmes par satellite ont généralement été parmi les initiatives de renseignement les plus silencieuses. Le premier programme à prendre des photos depuis l’espace, Corona, a commencé en 1958, et le satellite a réussi à ramener son premier seau de film dans l’atmosphère en août 1960. Quelques jours plus tard, Edwin Land, PDG de Polaroid, a déroulé le film sur le sol du bureau ovale pendant que Dwight Eisenhower le regardait. Devant lui se trouvaient des ressemblances d’aérodromes et d’installations militaires en Union soviétique.

« Voici vos photos, Monsieur le Président », dit Land.

Cette grande révélation, selon une histoire officielle du NRO, a directement conduit à la création d’une nouvelle agence chargée de la « conception, de l’acquisition et de l’exploitation des satellites de reconnaissance. »

Le NRO a été officiellement créé l’année suivante.

Dans les années 1970, le bureau a commencé à lancer des satellites de classe « Trou de serrure » qui avaient des spécifications similaires à celles du télescope spatial Hubble, mais qui visaient la Terre plutôt que d’autres galaxies. Nous savons également que la collection orbitale du NRO comprend les données collectées lors de l’essai ou de l’exploitation d’aéronefs, de missiles ou d’autres systèmes; les communications vocales, textuelles ou imagées interceptées; et le radar, entre autres sources. Sur les plus de 150 satellites militaires américains (connus), le NRO en exploite environ 50.

Maintenant, près de six décennies après la création du NRO, le ciel est encombré d’autres satellites orientés vers le bas, dont certains appartiennent à des sociétés de renseignement privées. L’un d’eux, BlackSky, utilise ces satellites pour alimenter un système qui est essentiellement le doppelgänger non classifié de Sentient.

Lorsque deux pétroliers ont été attaqués dans le détroit d’Ormuz le 13 juin, le programme de BlackSky a envoyé ses satellites en action et a pris des photos de l’incident alors que la fumée des explosions était encore en spirale vers le ciel. Les balises dérivantes des navires et les reportages locaux laissaient entendre que quelque chose se passait, incitant les analystes de BlackSky à se tourner vers la voie maritime très fréquentée près de l’Iran.

Les initiés appellent ce processus « basculement et repérage »: utiliser une pointe de données d’une source pour indiquer à un satellite de regarder un endroit particulier, ou utiliser les informations d’un satellite pour faire tourner la collection d’un autre instrument. Dans la version idéale de ce processus, un système automatisé aspire toutes sortes de données, les synthétise en quelque chose de sensé, repère la symphonie du satellite, réincorpore les données des satellites dans la boucle d’analyse, arrive à une conclusion plus intelligente, pointe à nouveau les satellites ou d’autres capteurs et répète l’ensemble du processus. Faites-le assez bien, et une entreprise (ou une agence de renseignement) pourrait construire une tour de connaissances sur le passé, comprendre les événements présents plus rapidement que leurs concurrents et — peut—être un jour – prédire l’avenir.

Alors que l’industrie commerciale a constitué son réseau d’orbiteurs d’observation de la Terre, la communauté du renseignement en a pris acte. En 2016, le NGA, qui analyse les données collectées par le NRO, et le NRO ont conjointement annoncé le programme commercial GEOINT pour mieux acheter ces données. En 2017, le NRO a repris la responsabilité des achats et a depuis signé au moins trois nouveaux contrats. L’un d’eux était avec une société appelée Maxar, qui possède certains des satellites haute résolution les plus puissants du secteur privé et, pendant longtemps, a été à peu près la seule société vendant des images satellites au NRO. Cette fois, cependant, l’agence a également signé un autre accord avec Planet, qui exploite une constellation de petits satellites qui imitent tous les jours la Terre. Le troisième entrepreneur est BlackSky.

Voici où le sensible revient sur l’image: Toutes les images du NRO, de l’armée et de ces entreprises de satellites commerciaux, combinées à d’autres renseignements géospatiaux — tout ce qui a une étiquette de temps et une étiquette de localisation — créent une vaste quantité d’informations qui est bien plus qu’une armée littérale de personnes pourrait passer au peigne fin. Pour suivre le tuyau d’incendie de l’information, le NRO se tourne en partie vers l’IA. « Sentient vise à aider les analystes à « relier les points » dans un grand volume de données », explique Furgerson.

Comment Sentient pourrait-il relier les points, cependant? On ne sait pas exactement. Les documents publiés ne disent pas explicitement quelles sortes de sources de données Sentient peuvent siphonner, mais il est clair que le programme s’intéresse à toutes sortes d’informations. « Cela pourrait inclure des interceptions électroniques de communications internationales; cela pourrait inclure des images antérieures; cela pourrait inclure des sources humaines », explique Steven Aftergood, chercheur à la Fédération des scientifiques américains et directeur du Projet sur le secret du gouvernement.  » Les gens disent : « Hé, il se passe quelque chose au-dessus de cette colline. »

Allen Thomson, analyste à la retraite de la CIA, va plus loin. « Si je comprends bien, la réponse voulue — et ambitieuse – est « tout » », dit-il. En plus des images, cela pourrait inclure des données financières, des informations météorologiques, des statistiques d’expédition, des informations provenant de recherches Google, des enregistrements d’achats pharmaceutiques, etc., dit-il.

Considérez ce qui se passe dans le secteur privé: BlackSky prend des données provenant de 25 satellites, de plus de 40 000 sources d’informations, de 100 millions d’appareils mobiles, de 70 000 navires et avions, de huit réseaux sociaux, de 5 000 capteurs environnementaux et de milliers d’appareils Internet des objets. À l’avenir, il prévoit d’avoir jusqu’à 60 de ses propres satellites d’observation de la Terre. Toutes ces informations vont dans différents pipelines de traitement en fonction de leur type. À partir d’un reportage, BlackSky peut extraire des personnes, des lieux, des organisations et des mots-clés. À partir d’une image, il peut cartographier les bâtiments qui semblent endommagés après un tremblement de terre. Toutes ces données traitées, mais toujours disparates, entrent dans ce que Scott Herman, directeur technique de BlackSky, appelle un « moteur de fusion analytique géant », qui essaie de le transformer en plus que la somme de ses parties, indique aux satellites quoi faire à ce sujet et alerte les analystes humains lorsque des événements répondent à certains critères prédéterminés.

Dans le monde réel, BlackSky pourrait l’utiliser pour suivre les positions des avions russes. La société a des images d’endroits où l’armée russe stationne ses avions, et elle connaît la forme approximative de différents types de flyers.

La société dispose également d’algorithmes de reconnaissance de formes, capables de sélectionner des pixels qui, ensemble, tracent un motif donné. Il peut ajuster cet algorithme pour choisir les contours des jets russes, comme les avions Mig Fulcrum et Foxhound. Une fois que vous avez mis les images satellites dans cet algorithme, vous pouvez apprendre combien de ces avions sont assis sur des pistes. Comprendre la signification de ce décompte — ce que signifie réellement « 45 points d’appui à Aleysk mais aucun à Krymsk » — nécessite encore plus de données. Le système aurait besoin de connaître l’historique de la démographie des jets, qu’il aurait pu déterminer à partir d’observations antérieures. Il pourrait peut-être collecter des données sur la fréquence à laquelle ils volent et où, ou même regarder les actualités pour savoir s’il y a une agitation ou une action autour d’Aleysk: désormais, le système sait exactement où ils doivent pointer leurs satellites en temps réel pour recueillir les informations dont leurs clients ont besoin.

BlackSky ne fait que commencer, n’ayant lancé que récemment ses propres satellites. Le succès final et l’utilité de son système doivent encore être prouvés. Et sur la base des informations disponibles, il n’est pas clair dans quelle mesure le système comparable de Sentient est. Thomson soupçonne que ses objectifs les plus grandioses sont encore simplement cela: des objectifs. « Jusqu’où Sentient est arrivé ou ira n’est pas clair », dit-il.

« S’il devait être mis en œuvre avec succès à grande échelle, ce serait certainement une avancée significative », explique Thomson, « mais je n’ai vu aucune indication que cela s’était réellement produit. »

Même si Sentient est encore bloqué à ses débuts, son existence envoie beaucoup de signaux d’alarme pour les experts en protection de la vie privée. Les algorithmes fonctionnent-ils réellement ? De quelles manières sont-ils biaisés? Combien de faux positifs génèrent-ils ? « À quelle fréquence Sentient va-t-il envoyer nos satellites d’un milliard de dollars dans une chasse à l’oie sauvage? » demande Aftergood. « Nous devons considérer l’impact de la sensibilité qui nous égare. »

Le NRO note que Sentient ne tient pas les gens totalement à l’écart du processus, fournissant une sorte de contrôle sur son état d’être. « Avoir des humains dans la boucle pour superviser les données et les informations de renseignement est un moyen clé de surveiller les performances de l’algorithme », explique Furgerson. « Sentient est un apprentissage de machine à machine assisté par l’homme. »

Du travail de son entreprise, Herman note que lorsque vous demandez au silicium de donner un sens, vous devez l’entraîner sur le bon type de données. Si vous voulez que les algorithmes apprennent à quoi ressemblent les tours radio, mais que vous ne leur montrez jamais que des tours radio en plein soleil, ils en viendront à penser que « l’ombre noire à côté de la tour » fait en fait partie intégrante de la tour. S’ils regardent ensuite un clin d’œil d’une telle structure par temps nuageux, ils ne la reconnaîtront pas du tout.

C’est un exemple banal, mais vous pouvez imaginer des logiciels plus sinistres — comme un logiciel qui a appris que le mot « bombe » est associé à des plans terroristes, mais n’apprend jamais que « c’est la bombe » est une phrase froide. Dans les autres royaumes de l’IA, cela ne s’est pas réellement avéré omniscient ou objectif, généralement de manière à blesser des gars non blancs. Chez Amazon, par exemple, les logiciels de reconnaissance faciale ont systématiquement échoué à identifier les sexes des femmes et des personnes à la peau plus foncée. La société d’analyse Palantir a créé un programme prédictif d’application de la loi pour la police de la Nouvelle-Orléans, mais l’a alimenté en données qui, selon certains rapports, ciblaient injustement les minorités.

Quels biais pourraient se cacher à l’intérieur de Sentient ? À quoi ressemblaient ses données d’entraînement ? Qui valide ses conclusions et comment ? Pour le moment, les réponses sont opaques, mais des chiens de garde du secret comme Aftergood le demandent quand même. « Ce sont les questions que vous ne voulez pas que les sponsors ou les bailleurs de fonds de Sentient se posent et répondent par eux-mêmes », explique Aftergood.

Les questions sur qui et quels moniteurs sensibles sont tout aussi persistantes et presque sans réponse, mais il existe quelques indices sur l’endroit où le programme peut ou non jeter un coup d’œil. Les satellites espions, comme ceux utilisés par le NRO, sont principalement destinés à se concentrer sur le monde au-delà des frontières des États-Unis. Et contrairement à ses collègues agences de renseignement — y compris la NSA et la CIA — le NRO n’a pas vraiment été pris dans de grands scandales d’espionnage domestique. Son plus grand bouleversement public récent concernait probablement le patch de mission pour le lancement de son satellite NROL-39: il représente une bouche de pieuvre jaune géante – aspirée sur Terre — en Amérique du Nord, en fait. Les tentacules encerclent la planète. Les mots « RIEN N’EST HORS DE NOTRE PORTÉE » sourient en arc de cercle sous le céphalopode.

Malgré le sentiment du patch, il y a des endroits où le NRO et le Sensible ne sont généralement pas censés atteindre. Au ciel comme sur la Terre, les lois protègent les citoyens américains des fouilles et saisies déraisonnables par leur gouvernement. « En vertu du régime législatif existant, la reconnaissance motivée par les sentiments ne devrait pas avoir lieu aux États-Unis », explique Aftergood. « Si c’était le cas, cela soulèverait bien sûr immédiatement des préoccupations en matière de protection de la vie privée et de libertés civiles, ainsi que toute une série de questions connexes sur la façon dont ces informations collectées étaient utilisées et stockées, etc. Mais pour le moment, il ne devrait pas être collecté en premier lieu. »

En réponse à des questions sur une surveillance domestique potentielle, le porte—parole a noté que le NRO obéissait à la directive principale de la communauté du renseignement – l’ordre exécutif 12333, ainsi qu’aux autres lois applicables. Ce décret particulier décrit quand « la collecte, la conservation et la diffusion » de renseignements sur les personnes aux États—Unis est autorisée – à condition que les collecteurs suivent la procédure appropriée. Cependant, l’une des exceptions de l’ordre à la politique « laissez les États-Unis tranquilles » est lorsque le renseignement est « acquis par une reconnaissance aérienne non dirigée contre des personnes spécifiques des États-Unis ». »

Mais le décret 12333 énonce les principes régissant les agences de renseignement et ne s’applique pas de la même manière aux sociétés privées d’observation de la Terre qui se sont multipliées ces dernières années, BlackSky en faisant partie. Les entreprises peuvent pointer leurs télescopes à peu près n’importe où elles le souhaitent. Bien que le gouvernement se réserve le droit d’exercer un « contrôle de l’obturateur », interdisant la photographie d’une certaine zone, il ne l’a jamais fait (parfois, le gouvernement achète un accès exclusif à une zone, une pratique connue sous le nom de « contrôle de l’obturateur du chéquier »). Il existe des limites quant aux résolutions auxquelles les entreprises privées peuvent vendre des images au public et à d’autres pays.

Pour la plupart, des entreprises comme Maxar, Planet et BlackSky prennent des photos que toute personne ayant un chéquier assez gros peut acheter — y compris vous, et y compris des organisations comme le NRO. Cela soulève des questions juridiques intéressantes que des chercheurs comme Aftergood essaient toujours de comprendre: si NRO était intéressé à surveiller les États-Unis et ne pouvait pas utiliser délibérément ses satellites pour se concentrer sur votre maison, pourrait-il simplement acheter des photos de votre maison auprès d’une entreprise privée à la place?

Le BRN n’a pas fourni de réponse spécifique sur le rôle des données commerciales dans Sentient. Mais des limites, dit Aftergood, devraient toujours exister sur les données payantes. « Ce qu’ils font avec cela devrait en quelque sorte être axé sur la mission », explique Aftergood. « Ils ne sont pas censés fouiner pour l’amour de l’espionnage. »

Pour l’instant, l’espionnage de Sensible reste secret. Le système de pensée ne parle qu’à ceux qui ont une habilitation de sécurité, bien qu’il puisse écouter, comme l’a dit Thomson, à peu près tout.