Es Consciente

En la sesión final del Simposio Espacial 2019 en Colorado Springs, los asistentes se atrincheraron en un salón de baile gigante para escuchar a un oficial de la Fuerza Aérea y a un ejecutivo de la Agencia Nacional de Inteligencia Geoespacial (NGA) discutir, como dice el título del panel, «Disrupción empresarial.»La presentación se mantuvo tan vaga como el título hasta que una pregunta directa de la audiencia pareció hacer que los panelistas se retuerzan.

¿Qué tan buenos, se preguntó la persona, habían sido los algoritmos de las comunidades militar y de inteligencia para interpretar datos y tomar medidas basadas en ese análisis? Señalaron que la industria de satélites comerciales tiene un software que puede registrar contenedores de carga en barcos de carga y automóviles en estacionamientos poco después de que sus imágenes se rompan en el espacio. «¿Cuándo tendrá el Departamento de Defensa un orden de batalla global automatizado en tiempo real?»preguntaron.

«Esa es una gran pregunta», dijo Chirag Parikh, director de la Oficina de Ciencias y Metodologías de la NGA. «Y hay muchas respuestas clasificadas realmente buenas.»

Se detuvo y se movió en su asiento. «¿Cuál es la siguiente pregunta?»preguntó, sonriendo. Pero continuó hablando, describiendo cómo «inteligencia geoespacial» ya no significa simplemente imágenes de satélites. Significa cualquier cosa con una marca de tiempo y una marca de ubicación, y el intento de integrar todos esos datos diversos.

Entonces, Parikh respondió a esta pregunta: ¿Cuándo se traduciría eso en comprensión casi instantánea y desarrollo de estrategias?

» Si no es ahora», dijo, » muy pronto.»

Parkih no mencionó ningún programa en particular que pudiera ayudar a habilitar este tipo de interpretación autónoma en tiempo real. Pero una iniciativa llamada Sensible tiene capacidades relevantes. Producto de la Oficina Nacional de Reconocimiento (NRO), Sentient es (o al menos pretende ser) una herramienta de análisis omnívora, capaz de devorar datos de todo tipo, dar sentido al pasado y al presente, anticipar el futuro y señalar satélites hacia lo que determina que serán las partes más interesantes de ese futuro. Eso, idealmente, hace que las cosas sean más simples para los analistas humanos de otras organizaciones, como la NGA, con la que se asocia la NRO centrada en el satélite.

Hasta ahora, Sentient ha sido tratado como un secreto del gobierno, excepto por vagas alusiones en algunos discursos y presentaciones. Pero los documentos publicados recientemente, muchos de ellos anteriormente clasificados como secretos o de alto secreto, revelan nuevos detalles sobre los objetivos, el progreso y el alcance del programa.

La investigación relacionada con Sentient ha estado en marcha desde al menos octubre de 2010, cuando la agencia publicó una solicitud de documentos técnicos de Sentient Enterprise. Una presentación dice que el programa alcanzó su primer hito R & D en 2013, pero los detalles sobre lo que realmente fue ese hito permanecen redactados. (La subdirectora de la Oficina de Asuntos Públicos de NRO, Karen Furgerson, se negó a comentar sobre este momento en un correo electrónico a The Verge. Una audiencia del Comité de Servicios Armados de la Cámara de Representantes de 2016 sobre el espacio de seguridad nacional incluyó un breve resumen de este cerebro basado en datos, pero las reuniones públicas no lo han mencionado desde entonces. En 2018, una presentación publicada en línea afirmó que Sentient se estrenaría ese año, aunque Furgerson le dijo a The Verge que actualmente estaba en desarrollo.

«La NRO no ha dicho mucho sobre Sentient públicamente porque es un programa clasificado», dice Furgerson en un correo electrónico, » y la NRO rara vez aparece ante el Congreso en audiencias públicas.»

La agencia ha estado desarrollando este cerebro artificial durante años, pero los detalles disponibles para el público siguen siendo escasos. «Ingiere grandes volúmenes de datos y los procesa», dice Furgerson. «Sensient cataloga patrones normales, detecta anomalías y ayuda a pronosticar y modelar los posibles cursos de acción de los adversarios.»La NRO no proporcionó ejemplos de patrones o anomalías, pero uno podría imaginar que cosas como «no mover un misil» versus «mover un misil» podrían estar en la lista. Con esos pronósticos en la mano, Sentient podría convertir los sensores de los satélites en el lugar correcto en el momento adecuado para atrapar la mala voluntad (o cualquier otra cosa que quiera ver) en acción. «El sentiente es un sistema de pensamiento», dice Furgerson.

No todo es distópico: los documentos publicados por la NRO también implican que Sentient puede hacer que los satélites sean más eficientes y productivos. También podría liberar a los humanos para que se centren en un análisis profundo en lugar de en la búsqueda tediosa de agujas. Pero también podría contener prejuicios incuestionables, llegar a conclusiones dudosas y plantear preocupaciones sobre las libertades civiles. Debido a su naturaleza secreta, no sabemos mucho sobre esos problemas potenciales.

«La práctica estándar de las ONR y la Comunidad de Inteligencia es NO revelar fuentes y métodos confidenciales, ya que dicha divulgación introduce un alto riesgo de que las naciones adversarias los contrarresten», dice Furgerson. «Tal pérdida daña a nuestra nación y a sus aliados; disminuye a Estados Unidos. ventaja de la información y seguridad nacional. Por esas razones, los detalles sobre el Sentient permanecen clasificados y lo que podemos decir al respecto es limitado.»

En general, los programas satelitales han sido algunas de las iniciativas de inteligencia más secretas. El primer programa para tomar fotografías desde el espacio, Corona, comenzó en 1958, y el satélite filmó con éxito su primer cubo de película a través de la atmósfera en agosto de 1960. Unos días más tarde, Edwin Land, CEO de Polaroid, desenrolló la película en el piso de la Oficina Oval mientras Dwight Eisenhower la observaba. Ante él yacía la imagen de aeródromos e instalaciones militares en la Unión Soviética.

«Aquí están sus fotos, Sr. Presidente», dijo Land.

Esa gran revelación, de acuerdo con una historia oficial de la NRO, llevó directamente a la creación de una nueva agencia responsable del «diseño, adquisición y operación de satélites de reconocimiento».»

La NRO se estableció formalmente al año siguiente.

En la década de 1970, la oficina comenzó a lanzar satélites de clase «Ojo de cerradura»que tenían especificaciones similares a las del Telescopio Espacial Hubble, pero que estaban dirigidos a la Tierra en lugar de a otras galaxias. También sabemos que la colección orbital de la NRO incluye datos recopilados durante la prueba u operación de aeronaves, misiles u otros sistemas; comunicaciones interceptadas de voz, texto o imágenes; y radar, entre otras fuentes. De los más de 150 satélites militares estadounidenses (conocidos), la NRO opera alrededor de 50.

Ahora, casi seis décadas después de la fundación de la NRO, el cielo está lleno de otros satélites que miran hacia abajo, algunos propiedad de compañías de inteligencia privadas. Uno de ellos, BlackSky, usa esos satélites para alimentar un sistema que es esencialmente el doppelgänger no clasificado de Sentient.

Cuando dos petroleros fueron atacados en el Estrecho de Hormuz el 13 de junio, el programa de BlackSky envió a sus satélites a la acción y tomó fotografías del incidente mientras el humo de las explosiones seguía en espiral hacia el cielo. Las balizas a la deriva de los barcos y los informes de noticias locales insinuaron que algo estaba pasando, lo que llevó a los analistas de BlackSky a dirigir su atención a la transitada ruta de navegación cerca de Irán.

Los Insiders llaman a ese proceso «tipping and cueing»: usar una señal de datos de una fuente para indicar a un satélite que mire un lugar en particular, o usar información de un satélite para girar la colección de otro instrumento. En la versión ideal de ese proceso, un sistema automatizado absorbe todo tipo de datos, los sintetiza en algo sensible, señala la sinfonía del satélite, reincorporalos datos de los satélites al bucle de análisis, llega a una conclusión más inteligente, señala los satélites u otros sensores de nuevo y repite todo el proceso. Hacerlo lo suficientemente bien, y una empresa (o agencia de inteligencia) podría construir una torre de conocimiento sobre el pasado, comprender los eventos presentes más rápido que sus competidores y, tal vez algún día, predecir el futuro.

A medida que la industria comercial ha construido su red de orbitadores de observación de la Tierra, la comunidad de inteligencia se ha dado cuenta. En 2016, la NGA, que analiza los datos que recopila la NRO, y la NRO anunciaron conjuntamente el programa Comercial GEOINT para comprar mejor estos datos. En 2017, la NRO asumió la responsabilidad de compra, y desde entonces ha firmado al menos tres nuevos contratos. Una era con una empresa llamada Maxar, que posee algunos de los satélites de alta resolución más potentes del sector privado y, durante mucho tiempo, fue prácticamente la única empresa que vendía imágenes de satélite a la Oficina Nacional de Estadística. Esta vez, sin embargo, la agencia también firmó otro acuerdo con Planet, que opera una constelación de pequeños satélites que representan toda la tierra de la Tierra todos los días. El tercer contratista es BlackSky.

Aquí es donde el Sintiente vuelve a entrar en la imagen: Todas las imágenes de la NRO, el ejército y estas empresas de satélites comerciales, combinadas con otra inteligencia geoespacial, cualquier cosa que tenga una etiqueta de tiempo y una etiqueta de ubicación, crean una gran cantidad de información que es mucho más de lo que un ejército literal de personas podría revisar. Para mantenerse al día con la manguera de información contra incendios, la NRO se convierte en parte en IA. «El objetivo de Sentient es ayudar a los analistas a’ conectar los puntos ‘en un gran volumen de datos», dice Furgerson.

¿Cómo podría conectar los puntos Sintiente, sin embargo? No lo sabemos, exactamente. Los documentos publicados no dicen explícitamente en qué tipo de fuentes de datos puede desviarse Sentient, pero está claro que el programa está interesado en todo tipo de información. «Podría incluir intercepciones electrónicas de comunicaciones internacionales; podría incluir imágenes anteriores; podría incluir fuentes humanas», dice Steven Aftergood, investigador de la Federación de Científicos Estadounidenses y director del Proyecto sobre Secreto Gubernamental. «La gente decía:’ Oye, algo está pasando sobre esa colina.»

El analista retirado de la CIA Allen Thomson va más allá. «Según lo entiendo, la respuesta deseada — y aspiracional-es ‘todo'», dice. Además de las imágenes, eso podría incluir datos financieros, información meteorológica, estadísticas de envíos, información de búsquedas de Google, registros de compras farmacéuticas y más, dice.

Considere lo que está sucediendo en el sector privado: BlackSky toma datos de 25 satélites, más de 40,000 fuentes de noticias, 100 millones de dispositivos móviles, 70,000 barcos y aviones, ocho redes sociales, 5,000 sensores ambientales y miles de dispositivos de Internet de las cosas. En el futuro, tiene previsto tener hasta 60 satélites propios de observación de la Tierra. Toda esa información va a diferentes canalizaciones de procesamiento según su tipo. A partir de una noticia, BlackSky puede extraer personas, lugares, organizaciones y palabras clave. A partir de una imagen, puede trazar qué edificios parecen dañados después de un terremoto. Todos esos datos procesados, pero aún dispares, van a lo que el director técnico de BlackSky, Scott Herman, llama un «motor de fusión analítica gigante», que intenta convertirlo en algo más que la suma de sus partes, le dice a los satélites qué hacer al respecto y alerta a los analistas humanos cuando los eventos cumplen con ciertos criterios predeterminados.

En el mundo real, BlackSky podría usar eso para realizar un seguimiento de las posiciones de los aviones rusos. La compañía tiene imágenes de lugares donde los militares rusos estacionan sus aviones, y conoce la forma áspera de diferentes tipos de volantes.

La compañía también tiene algoritmos de reconocimiento de formas, capaces de seleccionar píxeles que, juntos, trazan un patrón dado. Puede ajustar ese algoritmo para seleccionar los contornos de los aviones rusos, como los aviones Mig Fulcrum y Foxhound. Una vez que pones las imágenes de satélite en ese algoritmo, puedes aprender cuántos de esos aviones están sentados en las pistas. Entender el significado de ese recuento, lo que significa en realidad «45 puntos de apoyo en Aleysk pero ninguno en Krymsk», requiere aún más datos. El sistema necesitaría conocer la historia de la demografía de los aviones, que podría haber determinado a partir de observaciones anteriores. Tal vez podría recopilar datos sobre la frecuencia con la que vuelan y a dónde, o incluso mirar las noticias para averiguar si hay alguna agitación o acción alrededor de Aleysk: ahora el sistema sabe exactamente dónde deben apuntar sus satélites en tiempo real para recopilar la información que sus clientes necesitan.

BlackSky acaba de empezar, habiendo lanzado recientemente sus propios satélites. El éxito final y la utilidad de su sistema todavía tienen que demostrarse. Y basado en la información disponible, no está claro qué tan avanzado está el sistema comparable de Sentient. Thomson sospecha que sus metas más grandiosas siguen siendo simplemente eso: metas. «No está claro hasta dónde ha llegado o llegará Sentient», dice.

«Si se implementara con éxito a gran escala, sin duda sería un avance significativo», dice Thomson, «pero no vi ninguna indicación de que eso hubiera sucedido realmente.»

Incluso si Sentient todavía está atascado en sus primeras etapas, su existencia envía muchas señales de alarma para los expertos en privacidad. ¿Funcionan los algoritmos? ¿De qué manera están sesgados? Cuántos falsos positivos generan? «¿Con qué frecuencia va a enviar Sentient a nuestros satélites de mil millones de dólares en una búsqueda inútil?»pide Aftergood. «Tenemos que considerar el impacto de que los Sintientes nos extravíen.»

La NRO señala que Sentient no mantiene a las personas totalmente fuera del proceso, proporcionando algún tipo de control sobre su estado de ser. «Tener a los humanos en el bucle supervisando los datos y la información de inteligencia es una forma clave de monitorear el rendimiento del algoritmo», dice Furgerson. «Sentient es aprendizaje de máquina a máquina asistido por humanos.»

Del trabajo de su empresa, Herman señala que cuando le pides a silicon que tenga sentido, tienes que entrenarlo en el tipo correcto de datos. Si desea que los algoritmos aprendan cómo se ven las torres de radio, pero solo las muestra a plena luz del sol, pensarán que la «sombra negra al lado de la torre» es, de hecho, parte integral de la torre. Si luego miran un chasquido de una estructura de este tipo en un día nublado, no la reconocerán en absoluto.

Ese es un ejemplo banal, pero puedes imaginar otros más siniestros, como un software que ha aprendido que la palabra «bomba» está asociada con planes terroristas, pero nunca aprende que «esa es la bomba» es una frase fría. En otros ámbitos de la IA, en realidad no ha demostrado ser omnisciente u objetiva, por lo general en formas que dañan a los chicos no blancos. En Amazon, por ejemplo, el software de reconocimiento facial fracasó sistemáticamente en la identificación de los géneros de las mujeres y las personas de piel más oscura. La compañía de análisis Palantir creó un programa predictivo de aplicación de la ley para la fuerza policial de Nueva Orleans, pero lo alimentó con datos que, según algunos informes, se dirigieron injustamente a las minorías.

¿Qué sesgos podrían acechar dentro de Sentient? ¿Qué aspecto tienen sus datos de entrenamiento? ¿Quién está validando sus conclusiones y cómo? Por el momento, las respuestas son opacas, pero perros guardianes del secreto como Aftergood están preguntando de todos modos. «Esas son las preguntas que no quieres que los patrocinadores o financiadores de Sentient se hagan y respondan por sí mismos», dice Aftergood.

Las preguntas sobre quién y qué monitores sensibles son igualmente persistentes y también casi sin respuesta, pero hay algunas pistas sobre dónde puede o no estar mirando el programa. Los satélites espías, como los utilizados por la NRO, están destinados principalmente a enfocarse en el mundo más allá de las fronteras de los Estados Unidos. Y a diferencia de sus otras agencias de inteligencia, incluidas la NSA y la CIA, la NRO en realidad no se ha visto atrapada en escándalos de espionaje interno importantes. Su mayor malestar público reciente probablemente fue por el parche de la misión para el lanzamiento de su satélite NROL-39: representa un pulpo amarillo gigante succionado por la boca a la Tierra, a América del Norte, en realidad. Tentáculos rodean el planeta. Las palabras «NADA ESTÁ MÁS ALLÁ DE NUESTRO ALCANCE» sonríen en un arco debajo del cefalópodo.

A pesar del sentimiento del parche, hay algunos lugares donde el NRO y el Sensible generalmente no deben llegar. Tanto en el cielo como en la Tierra, las leyes protegen a los ciudadanos estadounidenses de registros y confiscaciones irrazonables por parte de su gobierno. «Bajo el régimen legal existente, el reconocimiento impulsado por sintientes no debería llevarse a cabo dentro de los Estados Unidos», dice Aftergood. «Si lo fuera, eso, por supuesto, plantearía inmediatamente preocupaciones sobre la privacidad y las libertades civiles, y todo un conjunto de preguntas relacionadas sobre cómo se estaba utilizando y almacenando la información recopilada, etc. Pero ahora mismo no debería ser recogido en primer lugar.»

En respuesta a las preguntas sobre la posible vigilancia doméstica, el portavoz señaló que la NRO obedece la directiva principal de la comunidad de inteligencia: la Orden Ejecutiva 12333, así como otras leyes aplicables. Esta orden ejecutiva en particular describe cuándo se permite la» recopilación, retención y diseminación » de información sobre personas en los Estados Unidos, siempre que los coleccionistas sigan el procedimiento adecuado. En particular, sin embargo, una de las excepciones de la orden a la política de «dejar a los Estados Unidos en paz» es cuando la inteligencia se «adquiere por reconocimiento aéreo no dirigido a personas específicas de los Estados Unidos».»

Pero la Orden Ejecutiva 12333 describe los principios que rigen las agencias de inteligencia y no se aplica de la misma manera a las empresas privadas de observación de la Tierra que han proliferado en los últimos años, BlackSky es una de ellas. Las corporaciones pueden apuntar sus telescopios a donde quieran. Aunque el gobierno se reserva el derecho de ejercer el «control del obturador», prohibiendo la fotografía de un área determinada, nunca lo ha hecho (a veces el gobierno compra acceso exclusivo a un área, una práctica conocida como»control del obturador de la chequera»). Existen límites a las resoluciones en las que las empresas privadas pueden vender imágenes al público y a otros países.

En su mayor parte, empresas como Maxar, Planet y BlackSky toman fotos que cualquier persona con una chequera lo suficientemente gorda puede comprar, incluido usted y organizaciones como la NRO. Eso plantea algunas preguntas legales interesantes que investigadores como Aftergood todavía están tratando de resolver: si NRO estaba interesado en vigilar a los Estados Unidos, y no puede usar deliberadamente sus satélites para enfocarse en su casa, ¿podría simplemente comprar fotos de su casa a una compañía privada en su lugar?

La NRO no proporcionó una respuesta específica sobre el papel de los datos comerciales en Sentient. Pero los límites, dice Aftergood, deberían seguir existiendo en los datos de pago. «Lo que hagan con eso debería de alguna manera estar orientado a la misión», dice Aftergood. «Se supone que no deben estar fisgoneando por el bien de fisgonear.»

Por ahora, el espionaje de Sentient sigue siendo secreto. El sistema de pensamiento habla solo a aquellos con una autorización de seguridad, aunque puede escuchar, como dijo Thomson, casi todo.