"Estamos en riesgo del establecimiento de un estado de vigilancia permanente"

En su libro “Tecnopolítica”, la analista política Asma Mhalla advierte contra el auge de una vigilancia expandida basada en nuevas tecnologías digitales, incluyendo la inteligencia artificial.

Detalle de la portada de “Tecnopolítica”, publicado por Seuil (fuente)

Hace unos días, terminé de leer un libro cautivante de Asma Mhalla, doctora en estudios políticos, investigadora en el Laboratorio de Antropología Política de Ehess, en Francia, y analista política especializada en tecnología e inteligencia artificial. Titulado “Tecnopolítica”, su ensayo publicado en febrero de 2024 analiza el estado mundial actual con un enfoque en las tecnologías y la manera en que están transformando la política, la geopolítica, las guerras y la vigilancia.

La inteligencia artificial es un tema que me interesa bastante y parece importante -y urgente- abordarlo no como consumidor, sino como ciudadano. Puesto que además de sus usos civiles (chatbots y generación de imágenes o videos, por ejemplo), la IA juega un rol mucho más fundamental en la vigilancia masiva que se está extendiendo de manera silenciosa en nuestras sociedades. La democracia, que es ya bastante frágil o casi inexistente en muchos países, se ve aún más amenazada.

IA, una tecnología dual

“La inteligencia artificial es dual, puede servir tanto a usos e intereses civiles como militares”, explica Asma Mahlla en su libro. Añade que los actores más avanzados en términos de investigación en IA y desarrollo son las grandes compañías tecnológicas en los Estados Unidos como Google, Apple, Meta, Amazon y Microsoft, así como startups a la vanguardia.

Estas “BigTech” invierten cantidades colosales de dinero para construir centros de datos y entrenar a sus sistemas de IA. Para hacer estos gastos redituables, pueden pues desplegar sus tecnologías en dos mercados, el civil y el militar.

La mayoría de estas grandes compañías ya han dado el paso entre estos dos mercados y ahora se encuentran activas en la industria de la guerra. Asma Mhalla ofrece ejemplos: Microsoft, Amazon, Google, Starlink, Palantir y Clearview, todos han jugado un rol en la guerra en Ucrania, incluyendo en los campos de reconocimiento facial, ciberseguridad, nube, datos satelitales y sistemas de comunicaciones. Su apoyo asciende a cientos de millones de dólares.

Antes de la guerra en Ucrania, Google ya había ingresado al mercado militar de reconocimiento facial en 2018 con Project Maven, antes de que tuviera que cancelarlo debido a una ola de protestas.

A Amazon, Microsoft, Google y Oracle se les concedió un proyecto de multinube (servicio de nube de múltiles proveedores) de 9 mil millones de dólares del Pentágono en diciembre de 2022. Microsoft también ganó el proyecto de $22 mil millones HoloLens de visores de realidad extendida para el ejército de EE.UU. en 2021, antes de que el control de este programa fuera transferido a Anduril a comienzos de 2025. Meta, propietaria de Instagram, Facebook, WhatsApp y Threads, ahora es parte del proyecto. En cuanto a Palantir, colabora con la NSA y firmó un contrato con el Pentágono en 2022 para participar en un proyecto de interoperabilidad entre ejércitos.

Leer también: OpenAI firma un contrato de $200 millones con el Pentágono

De acuerdo con el sitio web BigTech Sells War (Los Gigantes Tecnológicos Venden Guerra), el Pentágono y el Departamento de Seguridad Nacional gastaron más de 44 mil millones de dólares entre 2004 y 2021 en las grandes compañías de tecnología de Sillicon Valley.

Las BigTech firman entonces contratos bastante lucrativos con el gobierno de los Estados Unidos. Pero su apetito por ganancias no se detiene ahí. De acuerdo con Asma Mhalla, “la monetización de estas tecnologías (inteligencia artificial) podría perfectamente tomar lugar en el mercado doméstico de la tecnovigilancia, una posible extensión del dominio de la guerra.”

Tecnovigilancia

La vigilancia tecnológica ha ido en aumento por dos docenas de años, explica la investigadora: “Desde el 11 de septiembre de 2001, un arsenal legal sin precedentes busca institucionalizar una estructura de vigilancia extendida en las democracias liberales occidentales basada en nuevas tecnologías digitales”.

De hecho, los usos de tecnoseguridad han aumentado a un ritmo exponencial en sólo unos años gracias a nuevas fuentes de datos: “La recolección de datos personales a través de redes sociales, perfiles de datos biométricos y datos personales sensibles como datos de salud, programas de reconocimiento facial, drones, satélites o programas policiales preventivos se unen al arsenal legal y policial”, detalla la analista política.

El capitalismo de vigilancia, que se basa en el registro de datos privados para usos comerciales, se ha vuelto híbrido. Ahora alimenta no sólo la segmentación de marketing, sino también los objetivos policiales, enfatiza Asma Mahlla.

De acuerdo con ella, esta hibridación se ha vuelto posible a través de la generalización de usos digitales y el deseo de autoexposición. Tal cual, las redes sociales permiten a las compañías teconológicas recolectar cantidades masivas de datos personales de sus usuarios, información que puede ser transferida a ciertos gobiernos.

Su observación es clara: “La profunda intricación entre agencias de inteligencia, fuerzas policiales, ejércitos y proveedores de servicios tecnológicos tejen una red de actores públicos y privados que alimentan y registran cada dato producido.”

Una vigilancia normalizada

Asma Mhalla denuncia el hecho de que los usos de tecnoseguridad están precedidos frecuentemente por usos individuales y comerciales, facilitando su normalización entre los ciudadanos.

“La dualidad de estas tecnologías plantea una importante pregunta ética,” afirma la analista política. “El reconocimiento facial por ejemplo, fue incorporado inicialmente en productos de domótica inteligente, en las redes sociales y para desbloquear smartphones. Estas experiencias fluidas, aparentemente inofensivas, abren la puerta para una fuerte aceptación al crear una habituación a tecnologías que son duales por naturaleza y sirven tanto a usos de confort personal como de seguridad. La normalización de estos programas invisibles, se puede volver rápidamente invasiva tan pronto como el marco legislativo nacional lo permita.”