It’ s Sentient

på den sidste session i 2019 Space Symposium i Colorado Springs, deltagere straggled ind i en kæmpe balsal for at lytte til en luftvåbenembedsmand og en National Geospatial-Intelligence Agency (NGA) udøvende diskutere, som paneltitlen udtrykte det, “Enterprise Disruption.”Præsentationen forblev så vag som titlen, indtil et direkte spørgsmål fra publikum syntes at få paneldeltagerne til at vride sig.

hvor godt, undrede personen sig, havde militær-og efterretningssamfundets algoritmer fået til at fortolke data og tage handling baseret på denne analyse? De påpegede, at den kommercielle satellitindustri har programmer, der kan samle forsendelsescontainere på fragtskibe og biler på parkeringspladser kort efter, at deres billeder er snappet i rummet. “Hvornår vil Forsvarsministeriet have realtid, automatiseret, global kamporden?”spurgte de.

“det er et godt spørgsmål,” sagde Chirag Parikh, direktør for NGA ‘ s Office of Sciences and Methodologies. “Og der er mange rigtig gode klassificerede svar.”

han holdt pause og skiftede i sit sæde. “Hvad er det næste spørgsmål?”spurgte han og smilede. Men han fortsatte med at tale og beskrev, hvordan “geospatial intelligens” ikke længere blot betyder billeder fra satellitter. Det betyder alt med et tidsstempel og et placeringsstempel, og forsøget på at integrere alle de forskellige data.

derefter besvarede Parikh faktisk dette spørgsmål: Hvornår ville det oversætte til næsten øjeblikkelig forståelse og strategiudvikling?

“hvis ikke nu,” sagde han, “meget snart.”

Parkih nævnte ikke nogen særlige programmer, der kan hjælpe med at muliggøre denne form for autonom, realtidstolkning. Men et initiativ kaldet Sentient har relevante evner. Et produkt fra National Reconnaissance Office (NRO), Sentient er (eller i det mindste sigter mod at være) et altetende analyseværktøj, der er i stand til at fortære data af alle slags, give mening om fortiden og nutiden, foregribe fremtiden og pege satellitter mod det, det bestemmer, vil være de mest interessante dele af den fremtid. Det gør ideelt set tingene enklere nedstrøms for menneskelige analytikere hos andre organisationer, som NGA, som den satellitcentrerede NRO samarbejder med.

indtil nu er Sentient blevet behandlet som en regeringshemmelighed, bortset fra vage hentydninger i et par taler og præsentationer. Men for nylig udgivne dokumenter — mange tidligere klassificerede hemmelige eller tophemmelige-afslører nye detaljer om programmets mål, fremskridt og rækkevidde.

forskning relateret til Sentient har foregået siden mindst oktober 2010, da agenturet sendte en anmodning om Sentient Enterprise hvidbøger. En præsentation siger, at programmet opnåede sin første r & d milepæl i 2013, men detaljer om, hvad den milepæl faktisk var, forbliver redigeret. (Vicedirektør for NROS kontor for offentlige anliggender Karen Furgerson nægtede at kommentere denne timing i en e-mail til The Verge.) En 2016 House Armed Services Committee høring om national security space indeholdt en hurtig oversigt over denne datadrevne hjerne, men offentlige møder har ikke nævnt det siden. I 2018 hævdede en præsentation, der blev offentliggjort online, at Sentient ville gå live det år, selvom Furgerson fortalte The Verge, at den i øjeblikket var under udvikling.

“NRO har ikke sagt meget om Sentient offentligt, fordi det er et klassificeret program,” siger Furgerson i en e-mail, “og NRO vises sjældent før kongressen i åbne høringer.”

agenturet har udviklet denne kunstige hjerne i årevis, men detaljer, der er tilgængelige for offentligheden, forbliver knappe. “Det indtager store mængder data og behandler det,” siger Furgerson. “Sentient katalogiserer normale mønstre, registrerer anomalier og hjælper med at forudsige og modellere modstandernes potentielle handlingsforløb.”NRO gav ikke eksempler på mønstre eller anomalier, men man kunne forestille sig, at ting som “ikke at flytte et missil” versus “at flytte et missil” kan være på listen. Disse prognoser i hånden kunne Sentient vende satellitternes sensorer til det rigtige sted på det rigtige tidspunkt for at fange dårlig vilje (eller hvad det ellers vil se) i aktion. “Sentient er et tænkningssystem,” siger Furgerson.

det er ikke alt dystopisk: de dokumenter, der er frigivet af NRO, indebærer også, at Sentient kan gøre satellitter mere effektive og produktive. Det kunne også frigøre mennesker til at fokusere på dyb analyse snarere end kedelig nålefinding. Men det kan også indeholde ubestridte fordomme, komme til tvivlsomme konklusioner og rejse bekymringer om Borgerlige Frihedsrettigheder. På grund af dets hemmelighedsfulde karakter ved vi ikke meget om disse potentielle problemer.

” NRO ‘ erne og Efterretningsfællesskabets standardpraksis er ikke at afsløre følsomme kilder og metoder, da en sådan afsløring introducerer høj risiko for, at modstandere nationer modvirker dem,” siger Furgerson. “Et sådant tab skader vores nation og dets allierede; det mindsker USA. information fordel og national sikkerhed. Af disse grunde forbliver detaljer om Sentient klassificeret, og hvad vi kan sige om det er begrænset.”

satellitprogrammer har generelt været nogle af de mest hush-hush efterretningsinitiativer. Det første program, der tog billeder fra rummet, Corona, begyndte i 1958, og satellitten skød med succes sin første spand film tilbage gennem atmosfæren i August 1960. Et par dage senere, Edvin Land, administrerende direktør for Polaroid, uspolerede filmen over gulvet i Det Ovale Kontor, mens han så på. Før ham lå ligheder af flyvepladser og militære installationer i Sovjetunionen.

“her er dine billeder, HR.præsident,” sagde Land.

den store afsløring, ifølge en officiel historie fra NRO, førte direkte til oprettelsen af et nyt agentur med ansvar for “design, erhvervelse og drift af rekognosceringssatellitter.”

NRO blev formelt oprettet det næste år.

i 1970 ‘ erne begyndte kontoret at lancere “nøglehul”-klasse satellitter, der havde specifikationer svarende til Hubble-Rumteleskopet, men de var rettet mod jorden i stedet for andre galakser. Vi ved også, at NRO ‘ s orbitalsamling inkluderer data indsamlet under test eller drift af fly, missiler eller andre systemer; aflyttet tale -, tekst-eller billedkommunikation; og radar, blandt andre kilder. Af de mere end 150 (kendte) amerikanske militære satellitter opererer NRO omkring 50.

nu, næsten seks årtier efter, at NRO blev grundlagt, er himlen overfyldt med andre nedadgående satellitter, nogle ejet af private efterretningsfirmaer. En af disse, BlackSky, bruger disse satellitter til at fodre ind i et system, der i det væsentlige er Sentient ‘ s uklassificerede doppelg-krisnger.

da to olietankskibe blev angrebet den 13. juni, sendte Blackskys program sine satellitter til handling og tog billeder af hændelsen, mens røg fra eksplosionerne stadig spirede mod himlen. Skibenes drivende beacons og lokale nyhedsrapporter antydede, at der var noget op, hvilket fik BlackSky-analytikere til at vende deres opmærksomhed mod den travle skibsbane nær Iran.

insidere kalder denne proces “tipping and cueing”: ved hjælp af en data tip-off fra en kilde til at cue en satellit til at se på et bestemt sted, eller ved hjælp af oplysninger fra en satellit til at spinde op et andet instrument samling. I den ideelle version af denne proces suger et automatiseret system ALLE slags data ind, syntetiserer det til noget fornuftigt, signalerer satellitsymfonien, genindarbejder satellitternes data tilbage i analysesløjfen, kommer til en smartere konklusion, peger satellitterne eller andre sensorer igen og gentager hele processen. Gør det godt nok, og et firma (eller efterretningsbureau) kunne bygge et tårn af viden om fortiden, forstå nuværende begivenheder hurtigere end deres konkurrenter og — måske en dag — forudsige fremtiden.

da den kommercielle industri har opbygget sit netværk af Jordobserverende orbitere, har efterretningsfællesskabet taget varsel. I 2016 annoncerede NGA, der analyserer data, som NRO indsamler, og NRO i fællesskab det kommercielle GEOINT-program for bedre at købe disse data. I 2017 overtog NRO indkøbsansvaret og har siden underskrevet mindst tre nye kontrakter. Den ene var med et firma kaldet Maksar, der ejer nogle af de mest kraftfulde højopløsningssatellitter i den private sektor og i lang tid var stort set det eneste firma, der solgte satellitbilleder til NRO. Denne gang underskrev agenturet dog også en anden aftale med Planet, som driver en konstellation af små satellitter, der skildrer hele jordens jord hver dag. Den tredje entreprenør er BlackSky.

her er hvor Sentient reentterer billedet: Alle billederne fra NRO, militæret og disse kommercielle satellitfirmaer kombineret med anden geospatial intelligens — alt hvad der har et tidsmærke og et placeringsmærke — skaber en stor mængde information, der er langt mere end en bogstavelig hær af mennesker kunne kæmpe igennem. For at holde trit med brandslangen med information vender NRO delvist til AI. “Sentient sigter mod at hjælpe analytikere med at forbinde prikkerne i en stor mængde data,” siger Furgerson.

Hvordan kan Sentient forbinde prikkerne? Vi ved det ikke, præcis. Udgivne dokumenter siger ikke eksplicit, hvilke slags datakilder, der kan ses, men det er klart, at programmet er interesseret i alle former for information. “Det kunne omfatte elektroniske aflytninger af international kommunikation; det kunne omfatte tidligere billeder; det kunne omfatte menneskelige kilder,” siger Steven aftergood, en forsker ved Federation of American Scientists og direktør for projektet om Regeringshemmelighed. “Folk siger,” Hej, der sker noget over den bakke.”

pensioneret CIA-analytiker Allen Thomson går videre. “Som jeg forstår det, er det tilsigtede — og ambitiøse — svar ‘alt’,” siger han. Ud over billeder kan det omfatte økonomiske data, vejrinformation, forsendelsesstatistik, information fra Google-søgninger, optegnelser over farmaceutiske køb og mere, siger han.

overvej hvad der sker i den private sektor: BlackSky tager data fra 25 satellitter, mere end 40.000 nyhedskilder, 100 millioner mobile enheder, 70.000 skibe og fly, otte sociale netværk, 5.000 miljøsensorer og tusindvis af Internet-of-Things enheder. I fremtiden planlægger den at have op til 60 af sine egne jordobservationssatellitter. Alle disse oplysninger går ind i forskellige behandlingsrørledninger baseret på dens type. Fra en nyhedshistorie kan BlackSky udtrække mennesker, steder, organisationer og nøgleord. Fra et billede kan det kortlægge, hvilke bygninger der ser ud til at være beskadiget efter et jordskælv. Alt dette behandlede, men stadig forskellige, data går ind i, hvad BlackSky CTO Scott Herman kalder en “kæmpe analytisk fusionsmotor”, som forsøger at gøre det til mere end summen af dets dele, fortæller satellitter, hvad de skal gøre ved det, og advarer menneskelige analytikere, når begivenheder opfylder visse forudbestemte kriterier.

i den virkelige verden kan BlackSky bruge det til at holde styr på positionerne for russiske jetfly. Virksomheden har billeder af steder, hvor det russiske militær parkerer sine fly, og det kender den hårde form af forskellige slags flyers.

virksomheden har også formgenkendelsesalgoritmer, der er i stand til at udvælge billedpunkter, der sammen kortlægger et givet mønster. Det kan tune denne algoritme til at udvælge konturerne af russiske jetfly, ligesom mig Fulcrum og Rævehund fly. Når du har lagt satellitbillederne i algoritmen, kan du lære, hvor mange af disse fly der sidder på landingsbaner. At forstå betydningen af denne optælling — hvad “45 omdrejningspunkter i Aleysk, men ingen i Krymsk” faktisk betyder — tager endnu flere data. Systemet skulle kende historien om jet demografi, som det kunne have bestemt ud fra tidligere observationer. Det kunne måske indsamle data om, hvor ofte de flyver, og hvor, eller endda se på nyheder for at finde ud af, om der er nogen agitation eller handling omkring Aleysk: nu ved systemet nøjagtigt, hvor de skal pege på deres realtidssatellitter for at indsamle de oplysninger, som deres klient har brug for.

BlackSky er virkelig lige ved at komme i gang, har først for nylig lanceret sine egne satellitter. Den ultimative succes og nytte af dets system skal stadig bevises. Og baseret på de tilgængelige oplysninger er det uklart, hvor langt Sentients sammenlignelige system er. Thomson har mistanke om, at dets mere storslåede mål stadig er det: mål. “Hvor langt Sentient er kommet eller vil komme, er ikke klart,” siger han.

“hvis det skulle implementeres med succes i stor skala, ville det helt sikkert være et betydeligt fremskridt,” siger Thomson, “men jeg så ingen tegn på, at det faktisk var sket.”

selvom Sentient stadig sidder fast i sine tidlige stadier, sender dets eksistens mange røde flag til privatlivseksperter. Virker algoritmerne virkelig? På hvilke måder er de partiske? Hvor mange falske positiver genererer de? “Hvor ofte vil Sentient sende vores milliarder dollar satellitter på en vild gåsjagt?”spørger Aftergood. “Vi er nødt til at overveje virkningen af Sentient, der fører os på afveje.”

NRO bemærker, at Sentient ikke holder folk helt ude af processen og giver en slags kontrol af dets tilstand af væren. “At have mennesker i løkken, der fører tilsyn med efterretningsdata og information, er en vigtig måde at overvåge algoritmens ydeevne på,” siger Furgerson. “Sentient er menneske-hjulpet maskine-til-maskine læring.”

af hans virksomheds arbejde bemærker Herman, at når du beder silicon om at give mening, skal du træne det på den rigtige slags data. Hvis du vil have algoritmer til at lære, hvordan radiotårne ser ud, men du kun nogensinde viser dem radiotårne i fuld sollys, vil de tænke, at “sort skygge ved siden af tårnet” faktisk er integreret i tårnets tårnhed. Hvis de så ser på et snap af en sådan struktur på en overskyet dag, vil de slet ikke genkende det.

det er et banalt eksempel, men du kan forestille dig mere uhyggelige — som et program, der har lært ordet “bombe” er forbundet med terrorplaner, men aldrig lærer at “det er bomben” er en chill sætning. I AIS andre riger, det har faktisk ikke vist sig alvidende eller objektivt, normalt på måder, der skader ikke-hvide fyre. Ansigtsgenkendelsesprogrammer mislykkedes konsekvent med at identificere køn hos kvinder og mørkere mennesker. Analysefirmaet Palantir oprettede et forudsigeligt retshåndhævelsesprogram for politiet i ny Orleans, men fodrede det med data, der ifølge nogle rapporter målrettede mindretal uretfærdigt.

hvilke forstyrrelser kan lure inde i Sentient? Hvordan har dens træningsdata set ud? Hvem validerer sine konklusioner, og hvordan? I øjeblikket er svarene uigennemsigtige, men hemmeligholdelsesvagthunde som Aftergood spørger alligevel. “Det er de spørgsmål, du ikke ønsker, at sponsorer eller finansierere af Sentient skal stille og besvare af sig selv,” siger Aftergood.

spørgsmål om hvem og hvilke følende skærme er lige så vedholdende og også næsten ubesvarelige, men der er et par spor om, hvor programmet måske eller måske ikke kigger. Spionsatellitter, som dem, der bruges af NRO, er primært beregnet til at fokusere på verden uden for De Forenede Staters grænser. Og i modsætning til sine andre efterretningsbureauer — herunder NSA og CIA — er NRO ikke rigtig blevet fanget i store indenlandske spioneringsskandaler. Dens største nylige offentlige forstyrrelse handlede sandsynligvis om missionspatchen til lanceringen af sin NROL-39-satellit: det skildrer en kæmpe gul blæksprutte mund-suget til Jorden-til Nordamerika, faktisk. Tentakler omkranser planeten. Ordene” intet er uden for vores rækkevidde ” smiler i en bue under blæksprutten.

på trods af patchens stemning er der nogle steder, hvor NRO og Sentient generelt ikke skal nå. I himlen som på jorden beskytter love amerikanske borgere mod urimelig søgning og beslaglæggelse af deres regering. “Under det eksisterende lovbestemte regime bør Sentientdrevet rekognoscering ikke finde sted i USA,” siger Aftergood. “Hvis det var, ville det naturligvis straks rejse bekymringer om privatlivets fred og borgerlige frihedsrettigheder og et helt sæt relaterede spørgsmål om, hvordan de indsamlede oplysninger blev brugt og opbevaret og så videre. Men lige nu skal det ikke indsamles i første omgang.”

som svar på spørgsmål om potentiel indenlandsk overvågning bemærkede talsmanden, at NRO overholder efterretningsfællesskabets primære direktiv — bekendtgørelse 12333 samt andre gældende love. Denne særlige bekendtgørelse skitserer, hvornår” indsamling, tilbageholdelse, og formidling ” af efterretninger om mennesker i USA er tilladt — forudsat at samlerne følger den rette procedure. Især, selvom, en af ordenens undtagelser fra “lad os være i fred” – politikken er, når efterretning “erhverves ved overhead rekognoscering, der ikke er rettet mod specifikke amerikanske personer.”

men bekendtgørelse 12333 skitserer principper for efterretningsbureauer og gælder ikke på samme måde for de private Jordobservationsselskaber, der har spredt sig i de senere år, idet BlackSky er en af dem. Virksomheder kan pege deres teleskoper stort set hvor som helst de vil. Selvom regeringen forbeholder sig ret til at udøve “lukkerkontrol”, der forbyder fotografering af et bestemt område, har det aldrig gjort det (nogle gange køber regeringen eksklusiv adgang til et område, en praksis kendt som “checkbook shutter control”). Der er grænser for de beslutninger, hvor private virksomheder kan sælge billeder til offentligheden og til andre lande.

for det meste tager virksomheder som Maksar, Planet og BlackSky billeder, som alle med en fed nok checkbog kan købe — inklusive dig og inklusive organisationer som NRO. Det rejser nogle interessante juridiske spørgsmål, som forskere som Aftergood stadig forsøger at finde ud af: hvis NRO var interesseret i at overvåge USA og ikke bevidst kan bruge sine satellitter til at fokusere på dit hus, kunne det simpelthen købe billeder af dit hus fra et privat firma i stedet?

NRO gav ikke et specifikt svar på kommercielle datas rolle i Sentient. Men grænser, siger Aftergood, bør stadig eksistere på betalte data. “Hvad de gør med det, skal på en eller anden måde være missionorienteret,” siger Aftergood. “De skal ikke snooping for snoopings skyld.”

indtil videre forbliver Sentients snooping hemmelig. Tænkningssystemet taler kun til dem med en sikkerhedsgodkendelse, selvom det måske lytter til, som Thomson udtrykte det, næsten alt.