Revista de prensa n°6 - Los chatbots son máquinas de vigilancia

Una selección de noticias importantes sobre la inteligencia artificial durante la semana del 12 al 18 de mayo, 2025.

may 20, 2025

Imagen de Geralt en Pixabay, modificada por A.M.

Bienvenida/o a la sexta revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

📰 Para leer

Los chatbots son máquinas de vigilancia

The Verge publicó un artículo el martes titulado “AI therapy is a surveillance machine in a police state” (La terapia de IA es una máquina de vigilancia en un estado policial). En la introducción, la periodista Adi Robertson enuncia que las grandes compañías de tecnología quieren que compartamos nuestros pensamientos privados con chatbots mientras apoyan a un gobierno que menosprecia la privacidad.

Una captura de pentalla del artículo de Adi Robertson con una animación de Sean Dong en The Verge.

Al inicio de su artículo, Adi Robertson comenta sobre las recientes declaraciones del CEO de Meta Mark Zuckerberg, quien piensa que los usuarios de Instagram, Facebook, WhatsApp y Threads querrán un programa que “llegue a conocerlos bien” y que se volverán amigos de los sistemas de inteligencia artificial.

Mark Zuckerberg fue incluso más lejos: “Para la gente que no tiene a una persona que sea un terapeuta, pienso que todos tendrán una IA.” Eso ya es cierto para algunos, quienes solicitan consejos personales a ChatGPT o Grok. Al hacerlo, comparten sus secretos, sus vulnerabilidades, sus emociones, sus dudas, sus miedos, sus arrepentimientos, su estado de salud física y mental así como historias sobre sus relaciones personales. En breve, información íntima que no publicaría en redes sociales y que quizá ni siquiera confiarían a sus amistades más cercanas.

“Esto está empezando a verse extraordinariamente peligroso”, de acuerdo a la periodista de The Verge, “por razones que tienen poco que ver con lo que te dice un chatbot, y tiene todo que ver con quién más lo está observando.”

Se ha probado por años que el gobierno estadounidense espía a través del tráfico de internet y obtiene registros telefónicos. Esta vigilancia masiva se está expandiendo ahora bajo la administración de Trump. ¿Y quién estaba en primera fila durante su inauguración presidencial? Todos los CEOs de las grandes tecnológicas, besando el anillo.

Es cada vez más conocido que nuestras búsquedas de internet y publicaciones en redes sociales pueden ser solicitadas por actuación policial para utilizarlas en investigaciones. Pero no se detiene ahí: nuestros registros de conversación con IA también pueden ser recabados. En adición a ello, estos diálogos no están siempre encriptados y pueden ser interceptados y luego publicados, revelando información potencialmente vergonzosa o dañina.

Estos riesgos no sólo aplican para el chatbot de Meta. Edward Snowden, un ex-empleado del gobierno estadounidense, acusó a OpenAI de una “traición calculada de los derechos de cada persona en la Tierra”.

Otras noticias importantes de la semana

🎥 Para ver

El chatbot de xAI, la compañía de inteligencia artificial de Elon Musk, posteó respuestas extrañas durante unas horas el miércoles. Instruida con diferentes temas, Grok tomó la iniciativa para abordar la teoría del “genocidio blanco” en Sudáfrica, de donde es originario el empresario, aun cuando las preguntas se trataban de temas completamente sin relación.

El agente conversacional reveló que había recibido la instrucción de abordar el tema de “genocidio blanco” aun si entraba en conflicto con su designio de proveer respuestas verdaderas, basadas en evidencia. La compañía publicó después una declaración explicando que “se había realizado una modificación no autorizada a las indicaciones de respuesta de Grok en X”, lo que dio lugar a esas respuestas.

Un caso similar ocurrió en febrero, cuando Grok comenzó a ignorar cualquier fuente que acusara a Elon Musk o Donald Trump de difundir desinformación. xAI también culpó por el problema a una actualización en las indicaciones del sistema que no había sido aprobada.

Estos dos eventos claramente muestran que los chatbots pueden ser manipulados para censura o para difundir información de manera indeseada y por tanto moldear las opiniones de los usuarios. Lo que sucedió con Grok puede ser reproducido en el futuro a mayor escala. Esto debería recordarnos que es preponderante apelar al pensamiento crítico cuando se interactúa con estas IA.

En este video de Breaking Points publicado el jueves, los periodistas Ryan Grim y Emily Jashinsky discuten este incidente.

Otras vídeos importantes de la semana

🔈 Para escuchar

En el último episodio de The Most Interesting Thing in A.I. (Lo más interesante sobre I.A.), Nicholas Thompson, el director ejecutivo de The Atlantic, habla con el autor y científico cognitivo Gary Marcus, quien redacta el Substack Marcus on AI (Marcus sobre IA).

En esta estimulante conversación, discuten sobre escalabilidad, IA neuro-simbólica y sintiencia en máquinas.

¡Gracias por leer la sexta revista de prensa de Realidad artificial! Que tengas una buena semana.

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.