It’ s Sentient

podczas ostatniej sesji Sympozjum kosmicznego 2019 w Colorado Springs uczestnicy błąkali się do gigantycznej sali balowej, aby posłuchać urzędnika Sił Powietrznych i dyrektora Narodowej Agencji Wywiadu geoprzestrzennego (Nga), jak to określił tytuł panelu, „Enterprise Disruption.”Prezentacja pozostała niejasna jak tytuł, dopóki bezpośrednie pytanie publiczności nie sprawiło, że paneliści zaczęli się wirować.

jak dobrze, zastanawiała się osoba, czy algorytmy społeczności wojskowych i wywiadowczych zdobyły się na interpretowaniu danych i podejmowaniu działań na podstawie tej analizy? Zwrócili uwagę, że komercyjny przemysł satelitarny ma oprogramowanie, które może rejestrować kontenery na statkach towarowych i samochodach na parkingach wkrótce po tym, jak ich zdjęcia są pstrykane w przestrzeni kosmicznej. „Kiedy Departament Obrony będzie miał automatyczny, globalny porządek walki w czasie rzeczywistym?”zapytali.

„to świetne pytanie” – powiedział Chirag Parikh, dyrektor Biura Nauk i metodologii NGA. „I jest wiele naprawdę dobrych tajnych odpowiedzi.”

przerwał i przesunął się na swoje miejsce. „Jakie jest następne pytanie?”zapytał, uśmiechając się. Ale kontynuował rozmowę, opisując, jak „inteligencja geoprzestrzenna” nie oznacza już po prostu zdjęć z satelitów. Oznacza to wszystko ze znacznikiem czasu i znacznikiem lokalizacji i próbą zintegrowania wszystkich różnych danych.

wtedy Parikh rzeczywiście odpowiedział na to pytanie: Kiedy to przełoży się na niemal natychmiastowe zrozumienie i rozwój strategii?

„jeśli nie teraz”, powiedział ” bardzo szybko.”

Parkih nie wspomniał o żadnych konkretnych programach, które mogłyby pomóc w tego rodzaju autonomicznej interpretacji w czasie rzeczywistym. Ale inicjatywa zwana Sentient ma odpowiednie możliwości. Produkt National Reconnaissance Office (NRO), Sentient jest (lub przynajmniej ma być) wszystkożernym narzędziem analitycznym, zdolnym do pochłaniania wszelkiego rodzaju danych, nadawania sensu przeszłości i teraźniejszości, przewidywania przyszłości i wskazywania satelitów w kierunku tego, co określi, będzie najciekawszą częścią tej przyszłości. To, idealnie, sprawia, że sprawy są prostsze dla analityków w innych organizacjach, takich jak NGA, z którymi współpracuje NRO zorientowany na satelitę.

do tej pory Sentient był traktowany jako tajemnica rządowa, z wyjątkiem niejasnych aluzji w kilku przemówieniach i prezentacjach. Ale niedawno opublikowane dokumenty-wiele wcześniej tajnych lub ściśle tajnych-ujawniają nowe szczegóły dotyczące celów, postępów i zasięgu programu.

badania związane z Sentient trwają co najmniej od października 2010 r., kiedy Agencja opublikowała wniosek o wydanie białej księgi Sentient Enterprise. Prezentacja mówi, że program osiągnął swój pierwszy kamień milowy R&D w 2013 roku, ale szczegóły na temat tego, co faktycznie było kamieniem milowym, pozostają zredagowane. (Zastępca dyrektora Biura Spraw Publicznych NRO Karen Furgerson odmówił komentarza na ten temat w wiadomości e-mail do Verge.) 2016 House Armed Services Committee hearing on national security space included a quick summary of this data-driven brain, but public meetings haven ’ t mention it since. W 2018 r. prezentacja zamieszczona w Internecie twierdziła, że Sentient zostanie uruchomiony w tym roku, chociaż Furgerson powiedział The Verge, że jest obecnie w fazie rozwoju.

„NRO nie mówi zbyt wiele o Sentient publicznie, ponieważ jest to tajny program” – mówi Furgerson w e-mailu. ” a NRO rzadko pojawia się przed kongresem w otwartych przesłuchaniach.”

Agencja rozwija ten sztuczny mózg od lat, ale szczegóły dostępne dla publiczności pozostają rzadkie. „Gromadzi duże ilości danych i przetwarza je”, mówi Furgerson. „Sentient kataloguje normalne wzorce, wykrywa anomalie i pomaga prognozować i modelować potencjalne kierunki działania przeciwników.”NRO nie dostarczyło przykładów wzorców lub anomalii, ale można sobie wyobrazić, że rzeczy takie jak” nie poruszanie pociskiem „kontra” poruszanie pociskiem ” mogą być na liście. Te prognozy pod ręką, Sentient może włączyć czujniki satelitów we właściwe miejsce we właściwym czasie, aby złapać złą wolę (lub cokolwiek innego, co chce zobaczyć) w akcji. „Czujący to system myślenia” – mówi Furgerson.

to nie wszystko: dokumenty opublikowane przez NRO sugerują również, że Sentient może sprawić, że satelity będą bardziej wydajne i produktywne. Może również uwolnić ludzi do skupienia się na głębokiej analizie, a nie żmudnym znajdowaniu igieł. Ale może również zawierać niekwestionowane uprzedzenia, dojść do wątpliwych wniosków i wzbudzić obawy dotyczące wolności obywatelskich. Ze względu na jego tajemniczą naturę, nie wiemy zbyt wiele o tych potencjalnych problemach.

„standardową praktyką NRO i społeczności wywiadowczej jest nieujawnianie poufnych źródeł i metod, ponieważ takie ujawnienie wprowadza wysokie ryzyko przeciwdziałania im przez narody przeciwnika”, mówi Furgerson. „Taka strata szkodzi naszemu narodowi i jego sojusznikom; zmniejsza USA. przewaga informacyjna i bezpieczeństwo narodowe. Z tych powodów szczegóły dotyczące czującego pozostają tajne, a to, co możemy o nim powiedzieć, jest ograniczone.”

Programy satelitarne były na ogół jednymi z najbardziej tajnych inicjatyw wywiadowczych. Pierwszy program do robienia zdjęć z kosmosu, Corona, rozpoczął się w 1958 roku, a Satelita pomyślnie nakręcił swój pierwszy film z powrotem przez atmosferę w sierpniu 1960 roku. Kilka dni później Edwin Land, prezes Polaroid, unspooled film na piętrze Gabinetu Owalnego, podczas gdy Dwight Eisenhower oglądał. Przed nim leżały podobizny lotnisk i instalacji wojskowych w Związku Radzieckim.

Oto twoje zdjęcia, Panie Prezydencie.

to wielkie odkrycie, zgodnie z oficjalną historią NRO, bezpośrednio doprowadziło do utworzenia nowej agencji odpowiedzialnej za „projektowanie, pozyskiwanie i eksploatację satelitów rozpoznawczych.”

NRO zostało formalnie ustanowione w następnym roku.

w latach 70.Biuro zaczęło uruchamiać satelity klasy „Dziurka od klucza”, które miały specyfikacje podobne do Kosmicznego Teleskopu Hubble ’ a, ale były skierowane na Ziemię zamiast na inne galaktyki. Wiemy również, że kolekcja orbitalna NRO obejmuje między innymi dane zebrane podczas testów lub działania samolotów, pocisków rakietowych lub innych systemów; przechwyconą komunikację głosową, tekstową lub obrazową; oraz radar. Spośród ponad 150 (znanych) amerykańskich satelitów wojskowych, NRO operuje około 50.

teraz, prawie sześć dekad po założeniu NRO, niebo jest zatłoczone innymi satelitami skierowanymi w dół, niektóre należą do prywatnych firm wywiadowczych. Jeden z nich, BlackSky, używa tych satelitów, by zasilić system, który jest w zasadzie nieklasyfikowanym sobowtórem czującego.

kiedy dwa tankowce zostały zaatakowane w Cieśninie Ormuz 13 czerwca, program BlackSky ’ ego wysłał swoje satelity do akcji i zrobił zdjęcia incydentu, podczas gdy dym z eksplozji wciąż krążył w górę. Dryfujące Latarnie morskie i lokalne raporty informowały, że coś się dzieje, co skłoniło analityków BlackSky ’ ego do zwrócenia uwagi na ruchliwy pas żeglugowy w pobliżu Iranu.

Insiders nazywają ten proces „tipping and cueing”: używając informacji z jednego źródła, aby wywołać satelitę, aby spojrzeć na określone miejsce, lub używając informacji z satelity, aby spin up kolekcji innego instrumentu. W idealnej wersji tego procesu, zautomatyzowany system zasysa wszelkiego rodzaju dane, syntetyzuje je w coś sensownego, sygnalizuje symfonię satelitarną, przywraca dane satelitów z powrotem do pętli analizy, dochodzi do mądrzejszych wniosków, ponownie wskazuje satelity lub inne czujniki i powtarza cały proces. Zrób to wystarczająco dobrze, a firma (lub agencja wywiadowcza) może zbudować wieżę wiedzy o przeszłości, zrozumieć obecne wydarzenia szybciej niż ich konkurenci i — może kiedyś — przewidzieć przyszłość.

gdy przemysł komercyjny zbudował swoją sieć orbiterów obserwujących ziemię, społeczność wywiadowcza zwróciła na to uwagę. W 2016 r. NGA, która analizuje dane gromadzone przez NRO, i NRO wspólnie ogłosiły komercyjny program GEOINT, aby lepiej kupować te dane. W 2017 r.NRO przejął odpowiedzialność za zakupy i od tego czasu podpisał co najmniej trzy nowe umowy. Jednym z nich była firma o nazwie Maxar, która posiada jedne z najpotężniejszych satelitów wysokiej rozdzielczości w sektorze prywatnym i przez długi czas była jedyną firmą sprzedającą zdjęcia satelitarne NRO. Tym razem jednak agencja podpisała kolejną umowę z Planet, która obsługuje konstelację małych satelitów, które każdego dnia obrazują całą ziemię. Trzecim wykonawcą jest BlackSky.

Oto, gdzie czujący ponownie ogląda obraz: Wszystkie obrazy z NRO, wojska i komercyjnych firm satelitarnych, w połączeniu z innymi danymi geoprzestrzennymi — wszystko, co ma znacznik czasu i znacznik lokalizacji-tworzą ogromną ilość informacji, która jest o wiele większa niż dosłowna armia ludzi mogłaby przeczesać. Aby nadążyć za wężem pożarniczym informacji, NRO zmienia się częściowo w AI. „Sentient ma na celu pomóc analitykom „połączyć kropki” w dużej ilości danych”, mówi Furgerson.

jak można połączyć kropki? Nie wiemy dokładnie. Opublikowane dokumenty nie mówią wprost, jakie źródła danych mogą się do nich przedostać, ale oczywiste jest, że program interesuje się wszelkimi rodzajami informacji. „Może obejmować elektroniczne przechwytywanie międzynarodowej komunikacji; może obejmować wcześniejsze Zdjęcia; może obejmować ludzkie źródła”, mówi Steven Aftergood, naukowiec z Federacji amerykańskich naukowców i dyrektor projektu dotyczącego tajemnicy rządowej. „Ludzie mówią:” Hej, coś się dzieje za tym wzgórzem.”

emerytowany analityk CIA Allen Thomson idzie dalej. „Jak rozumiem, zamierzoną i aspiracyjną odpowiedzią jest „wszystko””. Oprócz obrazów, które mogą obejmować dane finansowe, informacje o pogodzie, statystyki wysyłki, informacje z wyszukiwań Google, zapisy zakupów farmaceutycznych i inne, mówi.

zastanów się, co dzieje się w sektorze prywatnym: BlackSky pobiera dane z 25 satelitów, ponad 40 000 źródeł informacji, 100 milionów urządzeń mobilnych, 70 000 statków i samolotów, ośmiu sieci społecznościowych, 5 000 czujników środowiskowych i tysięcy urządzeń internetowych. W przyszłości planuje mieć do 60 własnych satelitów obserwujących ziemię. Wszystkie te informacje trafiają do różnych potoków przetwarzania w zależności od ich typu. Z wiadomości, BlackSky może wyodrębnić ludzi, miejsca, organizacje i słowa kluczowe. Na podstawie obrazu może mapować, które budynki wydają się uszkodzone po trzęsieniu ziemi. Wszystkie te przetworzone, ale wciąż rozbieżne dane trafiają do tego, co BLACKSKY CTO Scott Herman nazywa „gigantycznym analitycznym silnikiem fuzji”, który próbuje przekształcić go w coś więcej niż sumę części, mówi satelitom, co z tym zrobić i ostrzega ludzkich analityków, gdy zdarzenia spełniają określone z góry kryteria.

w realnym świecie BlackSky może tego użyć do śledzenia pozycji rosyjskich odrzutowców. Firma ma zdjęcia miejsc, w których rosyjskie wojsko parkuje swoje samoloty i zna szorstki kształt różnych rodzajów ulotek.

firma posiada również algorytmy rozpoznawania kształtów, zdolne do wyłapywania pikseli, które razem odwzorowują dany wzór. Może dostroić ten algorytm, aby wybrać kontury rosyjskich odrzutowców, takich jak samoloty MiG Fulcrum i Foxhound. Po umieszczeniu zdjęć satelitarnych w tym algorytmie, można dowiedzieć się, ile z tych samolotów znajduje się na pasach startowych. Zrozumienie znaczenia tego liczenia – co właściwie oznacza „45 Fulcrumów w Alejsku, ale żadnego w Krymsku” – wymaga jeszcze więcej danych. System musiałby znać historię demografii odrzutowców, którą mógłby ustalić na podstawie wcześniejszych obserwacji. Może gromadzić dane o tym, jak często i gdzie latają, a nawet przeglądać wiadomości, aby dowiedzieć się, czy wokół Aleysk jest jakaś agitacja lub działanie: teraz system dokładnie wie, gdzie powinien kierować swoje satelity w czasie rzeczywistym, aby zebrać informacje, których potrzebuje ich klient.

BlackSky dopiero się zaczyna, dopiero niedawno uruchomił własne satelity. Ostateczny sukces i użyteczność jego systemu muszą zostać udowodnione. Bazując na dostępnych informacjach, nie jest jasne, jak daleko znajduje się porównywalny System Sentient. Thomson podejrzewa, że jego bardziej imponujące cele nadal są po prostu takie: cele. „Jak daleko czujący osiągnął lub osiągnie, nie jest jasne”, mówi.

„gdyby udało się go wdrożyć na dużą skalę, byłby to z pewnością znaczący postęp”, mówi Thomson, „ale nie widziałem żadnych oznak, że tak się stało.”

nawet jeśli Sentient nadal tkwi we wczesnych stadiach, jego istnienie wysyła wiele czerwonych flag dla ekspertów ds. prywatności. Czy algorytmy rzeczywiście działają? W jaki sposób są stronniczy? Ile fałszywych alarmów generują? „Jak często czujący będzie wysyłać nasze miliardowe satelity w pogoń za gęsią skórką?”pyta Aftergood. „Musimy rozważyć wpływ czujących prowadzi nas na manowce.”

NRO zauważa, że czujący nie trzyma ludzi całkowicie z dala od procesu, zapewniając pewnego rodzaju kontrolę nad swoim stanem bycia. „Posiadanie ludzi w pętli nadzorowania danych i informacji wywiadowczych jest kluczowym sposobem monitorowania wydajności algorytmu”, mówi Furgerson. „Sentient to uczenie maszynowe wspomagane przez człowieka.”

pracy swojej firmy, Herman zauważa, że gdy prosisz silikonu o sens, musisz go wyszkolić na odpowiednich danych. Jeśli chcesz, aby algorytmy nauczyły się, jak wyglądają wieże radiowe, ale pokazujesz je tylko w pełnym słońcu, zaczną myśleć ,że „czarny cień obok wieży” jest w rzeczywistości integralną częścią wieżowca. Jeśli spojrzą na taką strukturę w pochmurny dzień, w ogóle jej nie rozpoznają.

to banalny przykład, ale można sobie wyobrazić bardziej złowrogie — jak oprogramowanie, które nauczyło się, że słowo „bomba” jest związane z planami terrorystycznymi, ale nigdy nie dowiaduje się, że „to jest bomba” to chłodna fraza. W innych dziedzinach AI nie okazała się wszechwiedząca ani obiektywna, zwykle w sposób, który rani nie-białych facetów. Na przykład w Amazon oprogramowanie do rozpoznawania twarzy konsekwentnie nie potrafiło zidentyfikować płci kobiet i osób o ciemniejszej skórze. Firma analityczna Palantir stworzyła program predykcyjnego egzekwowania prawa dla policji w Nowym Orleanie, ale podała dane, które według niektórych raportów niesprawiedliwie atakowały mniejszości.

jakie uprzedzenia mogą czaić się w środku? Jak wyglądały jego dane treningowe? Kto i jak potwierdza wnioski? W tej chwili odpowiedzi są nieprzejrzyste, ale i tak zadają pytania takie jak Aftergood. „To są pytania, których nie chcesz, aby sponsorzy lub fundatorzy Sentient zadawali i odpowiadali sami”, mówi Aftergood.

pytania o to, kto i jakie czujące monitory są równie trwałe i prawie bez odpowiedzi, ale jest kilka wskazówek na temat tego, gdzie program może podglądać, ale nie musi. Satelity szpiegowskie, takie jak te używane przez NRO, mają przede wszystkim koncentrować się na świecie poza granicami Stanów Zjednoczonych. I w przeciwieństwie do swoich innych agencji wywiadowczych-w tym NSA i CIA — NRO tak naprawdę nie został wciągnięty w poważne skandale szpiegowskie. Jego największym ostatnio niezadowoleniem publicznym była prawdopodobnie łatka misji na wystrzelenie satelity NROL-39: przedstawia gigantyczną żółtą ośmiornicę przyssaną do ziemi-do Ameryki Północnej. Macki otaczają planetę. Słowa” Nic nie jest poza naszym zasięgiem ” uśmiechają się w łuku pod głowonogiem.

pomimo sentymentu patcha, są miejsca, do których NRO i Sentient generalnie nie mają dotrzeć. W niebie, tak jak na Ziemi, prawa chronią amerykańskich obywateli przed nieuzasadnionymi poszukiwaniami i zajęciem przez ich rząd. „W ramach obowiązującego reżimu ustawowego rozpoznanie kierowane przez czujących nie powinno odbywać się w USA” -mówi Aftergood. „Gdyby tak było, to oczywiście natychmiast wzbudziłoby obawy dotyczące prywatności i swobód obywatelskich, a także cały zestaw powiązanych pytań o to, w jaki sposób zbierane informacje były wykorzystywane i przechowywane itd . Ale w tej chwili nie powinno się go zbierać.”

w odpowiedzi na pytania dotyczące potencjalnego nadzoru krajowego rzecznik zauważył, że NRO przestrzega głównej dyrektywy Wspólnoty Wywiadowczej — zarządzenia wykonawczego 12333, a także innych obowiązujących przepisów. Ten konkretny nakaz wykonawczy określa, kiedy” gromadzenie, przechowywanie i rozpowszechnianie ” inteligencji o ludziach w USA jest dozwolone — pod warunkiem, że kolekcjonerzy postępują zgodnie z odpowiednią procedurą. Warto jednak zauważyć, że jednym z WYJĄTKÓW zakonu od polityki ” zostaw USA w spokoju „jest sytuacja, gdy wywiad jest” pozyskiwany przez rozpoznanie napowietrzne, nie skierowane do konkretnych osób w Stanach Zjednoczonych.”

ale rozporządzenie wykonawcze 12333 określa zasady rządzące agencjami wywiadowczymi i nie stosuje się w ten sam sposób do prywatnych firm obserwacyjnych ziemi, które rozrosły się w ostatnich latach, a BlackSky jest jednym z nich. Korporacje mogą kierować swoje teleskopy w dowolne miejsce. Chociaż rząd zastrzega sobie prawo do wykonywania „kontroli migawki”, zakazując fotografowania określonego obszaru, nigdy tego nie zrobił (czasami rząd kupuje wyłączny dostęp do obszaru, praktykę znaną jako”kontrola migawki w książeczce kontrolnej”). Istnieją ograniczenia dotyczące uchwał, w których prywatne firmy mogą sprzedawać obrazy publicznie i innym krajom.

w przeważającej części firmy takie jak Maxar, Planet i BlackSky robią zdjęcia, które może kupić każdy, kto ma wystarczająco grubą książeczkę czekową — w tym ty i organizacje takie jak NRO. To rodzi kilka ciekawych pytań prawnych, które naukowcy, tacy jak Aftergood, wciąż próbują rozgryźć: jeśli NRO był zainteresowany obserwacją USA i nie mógł celowo użyć swoich satelitów, aby skupić się na Twoim domu, czy mógłby zamiast tego kupić zdjęcia Twojego domu od prywatnej firmy?

NRO nie udzieliło konkretnej odpowiedzi na temat roli danych handlowych w Ale limity, mówi Aftergood, powinny nadal istnieć na płatnych danych. „To, co z tym robią, powinno być w jakiś sposób zorientowane na misję”, mówi Aftergood. „Nie powinni węszyć ze względu na węszenie.”

na razie węszenie czujących pozostaje tajemnicą. System myślenia przemawia tylko do osób z uprawnieniami bezpieczeństwa, choć może słuchać, jak to ujął Thomson, prawie wszystkiego.