El Estado o la fuerza militar que no cuente con un modelo algorítmico a su lado en el siglo XXI será como un ciego en una pelea de bar. Sin embargo, la adquisición de esa capacidad crítica, la competencia estratégica y el conflicto diseñado a velocidades computacionales, depende de la consecución de requisitos fundamentales.
Como línea de base, tanto las agencias de inteligencia como los estrategas de las fuerzas militares necesitan profesionales que comprendan la ciencia de datos y la programación.
Necesitan una burocracia ágil en términos de la era de la información, una estructura abierta a la experimentación en lugar del laberinto de gerentes intermedios y políticas que sofocan la innovación bajo adiposas capas de procesos que no llevan a ningún lado. Y necesitan un acceso confiable a bases de datos para entrenar y actualizar continuamente modelos de aprendizaje automático contra adversarios. No proteger estos requisitos significa ceder la iniciativa a la vereda de enfrente.
Perspectivas
Imaginemos a un analista estratégico futuro trabajando junto a un modelo de IA para monitorear las capacidades cibernéticas del Ejército de Liberación Popular de China (PLA). El modelo muestra signos de un nuevo malware adversario dirigido a la infraestructura crítica de su país. Él no está de acuerdo, pero no puede explicar por qué porque no tiene capacitación en data science – siquiera básica -, estadísticas y los fundamentos de la IA/ML. Es como un abogado que nunca fue a la universidad argumentando un caso.
Lamentablemente, las tareas de inteligencia moderna e incluso la educación militar profesional tienden a enfocarse más en casos discretamente puntuales que en patrones y macro-tendencias estadísticas.
Existe una inclinación (equivocada) a tratar la tecnología como magia. Como resultado de esto, los outputs de un modelo son considerados sagrados o malvados, perfectos o inviables, creando un riesgo de inferencias sesgadas en toda la empresa de seguridad nacional. Se habla poco o nada sobre el tradeoff entre la interpretabilidad del modelo y la precisión, una tarea ineludible para administrar la propensión de las inestabilidades en defensa a la incertidumbre y el engaño.
En otras palabras, desatar una nueva suite de herramientas de IA/ML en seguridad producirá rendimientos decrecientes a menos que reentrenemos a la fuerza laboral y les enseñemos a usar percepciones generadas por modelos para refinar el juicio humano.
Nuestros adversarios enfrentan el mismo desafío. Tanto las profesiones en puestos de inteligencia como militares necesitan un cambio de paradigma si van a aprovechar al máximo la tecnología. La buena noticia es que, a pesar de los esfuerzos de “reclutamiento preciso” para atraer a estudiantes universitarios, los gobiernos populistas o antidemocráticos no logran competir con el mercado en términos de captación de talentos.
Los jóvenes preparados en China no están apurados por dejar sus puestos en Huawei, Tencent o Alibaba para unirse al ejército. Los trabajadores tecnológicos rusos, en buena parte, huyeron del país para evitar luchar en una guerra injusta contra Ucrania. La mala noticia es que el conocimiento necesario para reentrenar a espías, estrategas y soldados está abierto y accesible incluso para actores no estatales. La primera organización en abrazar el cambio de paradigma en el campo militar y la analítica podría obtener una ventaja estratégica generacional.
Burocracia
Pensemos en cómo se vería la Crisis de los Misiles cubana en 2030 con todas las partes utilizando una amplia gama de aplicaciones de IA, desde el reconocimiento de imágenes hasta la gestión logística y el análisis generativo de piezas comunicacionales.
Habría una tendencia a acelerar la crisis incluso cuando tendría más sentido ralentizar la toma de decisiones y ser más deliberado o estratégico. La maquinaria propagandística producto de las técnicas de IA Generativa y los medios personalizados aumentarían la presión pública sobre los funcionarios políticos y podrían, tranquilamente, agitar y crispar a la población.
A un nivel más técnico, habría una necesidad de ajustar y recalibrar constantemente los modelos a medida que los enemigos cambian sus tácticas y ambos lados operan fuera de la norma. Los eventos de crisis son, por definición, atípicos, lo que crea desafíos para el análisis estadístico. La confusión podría eclipsar la certeza, desencadenando la escalada y el caos.
Desafortunadamente, ni las estructuras de seguridad nacional moderna ni la burocracia que rodea la innovación y experimentación gubernamental están listas para este mundo, especialmente en una Argentina donde la Inteligencia se ha caracterizado en la última década por su cuestionable y poco transparente funcionalidad al servicio del poder de turno.
Si el analista y el planificador militar tienen dificultades para entender la predicción, la inferencia y el juicio a través de algoritmos, el desafío es aún más complejo para los tomadores de decisiones senior. En este nivel, la mayoría de la literatura de relaciones internacionales y la historia diplomática nos muestran que la esencia de la decisión es tanto emoción, analogías defectuosas y sesgo como intereses racionales definidos por el poder o la estructura del sistema internacional.
Hay aún mayores desafíos para crear una burocracia capaz de ajustar algoritmos para adaptarse a nuevos contextos durante una crisis. Debido a la complejidad e incertidumbre, todos los modelos requerirán un flujo constante de datos, una estructuración, limpieza y “pulido” de los mismos y actualizaciones de su ponderación.
La velocidad de la actualización dictará los términos de la ventaja. Los que perfilen una adaptabilidad rezagada sucumbirán a muertes rápidas en el futuro campo de batalla, físico o virtual. El lado con el modelo que itera más rápido que el enemigo generará ritmo y libertad de acción. Una cultura de experimentación y constante refinamiento y ajuste del modelo será la clave para obtener y mantener una ventaja relativa en el futuro.
De hecho, Ucrania nos ha mostrado esta verdad: una red de ingenieros de software civiles, organizaciones sin fines de lucro y soldados construyó la plataforma Delta y constantemente refinó su capacidad para usar la IA en el campo de batalla mientras libraban una guerra de supervivencia. Podían moverse rápido porque estaban dispuestos a experimentar y fallar.
Ahora, cabe preguntarse, ¿Tenemos una cultura similar de experimentación en nuestras organizaciones militares y de inteligencia en Argentina? ¿Tenemos liderazgos en Defensa y Seguridad capaces de pasar a gestionar organizaciones que, dentro de sus carteras, compitan en la aplicación de software de punta? ¿Tenemos liderazgos capaces de llevar adelante una tecnificación estratégica del Estado que rompa casi un siglo de burocracia ineficiente?
Infraestructura
El conjunto de técnicas que componen la denominada “Inteligencia Artificial” son tan poderosas como los datos les permiten. Cuanto más grande y diverso sea el conjunto de datos, más oportunidades habrá para analizarlo en dimensiones más profundas. En lugar de los ejes X e Y que todos aprendimos en geometría, podría haber miles de vectores de matriz. Cada nueva dimensión permite al modelo identificar atributos en los datos, que pueden convertirse en una ventaja de inteligencia potencial.
Sin embargo, recopilar, procesar y almacenar esos datos generará costos significativos en el futuro. Primero, significará un aumento en el número de misiones de recopilación de inteligencia necesarias para capturarlos utilizando métodos tanto de código abierto como más sensibles. Requerirá estándares claros de etiquetado de datos y arquitectura para facilitar la comparación de entradas diversas.
La burocracia y las políticas deficientes pueden matar modelos excelentes si limitan el flujo de datos. Y requerirá acceso a capacidad de servidores a escala a medida que los analistas ajustan sus modelos durante una crisis fluida y frente a adversarios astutos que utilizan ejércitos de trolls para “contaminar” modelos de inteligencia de IA/ML.
La guerra algorítmica no es estática. Los únicos modelos buenos serán aquellos que se actualicen continuamente en función de un flujo permanente, cualitativa y cuantitativamente valioso de datos. De hecho, los data centers necesarios para realizar estos ajustes se convertirán en objetivos principales para operaciones cibernéticas e incluso ataques por malware en enfrentamientos futuros.
Las naciones autoritarias que desafían a las democracias liberales tienen la ventaja de centralizar y controlar la data. Esta centralización burocrática les brinda la capacidad de enfocar recursos y probar diferentes modelos y aplicaciones. Por ejemplo, China utiliza un modelo de planificación centralizada para promover el desarrollo de IA en todo, desde el crecimiento económico hasta la vigilancia doméstica y la modernización militar.
Al mismo tiempo, esta centralización hace que el sistema sea frágil y le significa a su desarrollo la pérdida de capital de información por carencia de escala de exposición al perderse “mercados” de datos, como los que puede acceder una plataforma que funciona sin restricciones.
Los sistemas cerrados son más enfocados y seguros, pero están limitados en su curva de aprendizaje, y aprendizaje es el nombre del juego en la Inteligencia Artificial, es la denominación del ciclo virtuoso de refinado de datos que define la productividad y el valor en esta tecnología. El equilibrio entre enfoques abiertos y cerrados para la IA y la seguridad nacional tendrá que lidiar con este dilema entre la adaptabilidad de los sistemas abiertos y la seguridad y privacidad de las arquitecturas de sistemas cerrados.
Riesgos
Sin importar las hipótesis de conflicto presentes, que para Argentina tienden a (casi) cero, los adversarios en el futuro previsible nos pueden atacar a la velocidad de los sistemas. A través de un constante bombardeo de ciberoperaciones, información errónea, desinformación y, en el plano de operaciones en el terreno, nuevas formas de redes de eliminación de acceso/área que fusionan inteligencia de código abierto y sensible para dirigir ataques en enjambre a objetivos civiles y militares.
La seguridad de los procesos electorales, el desarrollo institucional y el funcionamiento de una democracia de alta intensidad, pujante y representativa, requiere un trabajo serio para setear una estructura capaz de defenderla que esté aggiornada a los tiempos que corren.
A menos que Argentina pueda obtener la mezcla adecuada de personas, reforma burocrática e infraestructura de datos, esos ataques pondrán a prueba los cimientos mismos de la República que conocemos.
Te puede interesar: ¿Argentina necesita actualizar su política de ciberdefensa?
