Bienvenida/o a la decimoctava revista de prensa de Realidad artificial. Esta semana me he enfocado en el acercamiento entre las grandes empresas tecnológicas y el ejército de Estados Unidos, en la convergencia entre la vigilancia estatal y la vigilancia privada y en las 100,000 conversaciones privadas con ChatGPT que se encontraron en Google. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

La militarización de Silicon Valley

Las grandes empresas tecnológicas de Silicon Valley, en California, han reforzado su relación con el complejo militar-industrial a lo largo de los últimos años, constata el New York Times en un artículo publicado el lunes.

El ejemplo más destacable es sin duda una ceremonia militar que tuvo lugar en Virginia, durante la cual cuatro directivos de Meta, OpenAI y Palantir se unieron oficialmente a una unidad militar llamada Detachment 201, que tiene como objetivo proporcionar asesoramiento sobre las nuevas tecnologías que pueden ser utilizadas en combate. Estos nuevos reservistas estarán activos en el ejército durante 120 horas al año y tienen el objetivo particular de enseñar a soldados a utilizar sistemas de inteligencia artificial.

“A lo largo de los dos últimos años, los líderes e inversores de Silicon Valley — quienes en su mayoría se habían rehusado a involucrarse con las armas y la guerra — se zambulleron de cabeza en el complejo militar-industrial”, explica la periodista Sheera Frenkel. Ella señala que Google, OpenAI y Meta anteriormente prohibían la utilización de la inteligencia artificial para fines militares pero después retiraron este compromiso de sus políticas corporativas, OpenAI en enero de 2024, Meta en noviembre de 2024 y Google en febrero de 2025.

OpenAI desarrolla actualmente una inteligencia artificial para sistemas anti-drones con la fabricante de armas Anduril. La empresa propietaria de ChatGPT igualmente firmó un contrato de 200 millones de dólares con el Pentágono en junio, principalmente para apoyar su defensa cibernética proactiva. Meta, propietaria de Instagram, Facebook, WhatsApp y Threads, fabrica visores de realidad aumentada para el ejército estadounidense, también con Anduril.

La startup Anthropic también se aproximó al Pentágono para lanzar a principios de junio una nueva versión de su Chatbot Claude para los militares y las agencias de inteligencia de Estados Unidos.

Leer también: El Pentágono firma contratos con cuatro compañías de IA

Las sociedades de inversión se están acercando de igual manera al complejo militar-industrial. El importante fondo de capital de riesgo Andreessen Horowitz declaró en 2023 que pensaba invertir $500 millones en sus tecnologías de defensa. Y la célebre aceleradora de startups Y Combinator, conocida por haber impulsado a Airbnb, Coinbase, Dropbox, Stripe o Twitch, financió por primera vez a un fabricante de armas en agosto de 2024. En total, las inversiones de capital de riesgo en las empresas relacionadas con la defensa crecieron fuertemente en el mundo el año pasado, con un incremento de 33% a 31 mil millones de dólares.

Una bonanza codiciada

Este acercamiento entre las empresas de la tecnología y el Departamento de Defensa se explica principalmente por un cambio político y geopolítico, según el New York Times. Líderes e inversores influyentes de Silicon Valley de hecho han apoyado posturas más derechistas desde la última carrera presidencial. Donald Trump no dejó de devolver el favor. Algunos meses después de su elección, firmó un decreto ejecutivo ordenando al ejército actualizar su sistema de adquisición de nuevas tecnologías, particularmente para acelerar este proceso. Asimismo asignó un presupuesto de $1000 billones al Departamento de Defensa en 2026, un récord. “Los líderes de Silicon Valley y los inversores codician esta bonanza con avidez”, analiza Sheera Frenkel.

A nivel geopolítico, las guerras en Ucrania y Gaza, donde los drones y los sistemas de armamento con inteligencia artificial son más utilizados, también contribuyen a la militarización de la capital tecnológica que es Silicon Valley. La competencia entre los Estados Unidos y China refuerza aún más este fenómeno.

“No muchas pausas para reflexionar”

Sin embargo, los directores e ingenieros de la tecnología están preocupados por los riesgos potenciales relacionados con este cambio. Una vez que hayan construido drones autónomos y armas de IA para el ejército, no tendrán casi ningún control sobre la forma en que estas tecnologías serán utilizadas. Se produjeron debates en Google y Meta para saber si estas armas avanzadas matarán a más personas que las armas tradicionales.

“Estas empresas de Silicon Valley son extremadamente competitivas y su ambición de entrar en estos sectores de la defensa no les deja muchas pausas para reflexionar”, comenta Margaret O’Mara, una historiadora de tecnología en la Universidad de Washington.

Un retorno a los orígenes

La militarización de Silicon Valley es un retorno a los orígenes del tecnopolo, que se desarrolló en gran medida gracias al “triángulo de hierro”, un término que definió los muy estrechos vínculos en esta región entre las universidades, las firmas privadas y el Pentágono desde los años 1930.

En los años 1950, el Departamento de Defensa comenzó a invertir en compañías de Silicon Valley para rivalizar con los avances tecnológicos de Rusia durante la Guerra Fría. El gobierno federal estadounidense se convirtió así en el primer patrocinador importante de la capital tecnológica.

Una división del Departamento de Defensa dio origen al internet en 1969. Cerca de veinte años después, en 1998, ésta cofinanciaría a dos estudiantes egresados de Stanford para crear Google.

Desde finales de los años 1990, las empresas de Silicon Valley se distanciaron del Pentágono y desarrollaron tecnologías de consumo tales como plataformas de comercio electrónico y redes sociales. Éstas mostraban entonces una imagen positiva, vuelta hacia la democracia, y contaban entre sus empleadas y empleados con numerosas personas progresistas que se oponían a cualquier colaboración con la industria de la guerra. Los tiempos han cambiado.

Siete noticias importantes de la semana

• US agency approves OpenAI, Google, Anthropic for federal AI vendor list (Reuters)

• OpenAI Announces Massive US Government Partnership (Wired)

• A CBP Agent Wore Meta Smart Glasses to an Immigration Raid in Los Angeles (404 Media)

• Home Depot and Lowe's Share Data From Hundreds of AI Cameras With Cops (404 Media)

• Should big tech be allowed to mine Australians’ text and data to train AI? The Productivity Commission is considering it (The Guardian)

• Nuclear Experts Say Mixing AI and Nuclear Weapons Is Inevitable (Wired)

• ‘AI veganism’: Some people’s issues with AI parallel vegans’ concerns about diet (The Conversation)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Una nueva era de internet

En un vídeo publicado el lunes 6, Micro habla sobre las nuevas leyes de verificación de edad que se están implementando en el Reino Unido, en ciertos países de la Unión Europea y en los Estados Unidos con el pretexto de la seguridad infantil.

Algunas plataformas, como sitios web de pornografía, YouTube, Reddit, Discord y Spotify, así como las redes sociales, ahora piden a sus usuarios que verifiquen su edad si lo exige la ley. Pueden, por ejemplo, subir una foto de su tarjeta de identificación o tener su rostro analizado por un sistema de inteligencia artificial. Las personas menores de 16 años tendrán un acceso restringido a estas plataformas o ningún acceso.

Leer también: The Age-Checked Internet Has Arrived (Wired)

Micro aborda algunos de los riesgos asociados con estas nuevas leyes, incluyendo fugas masivas de datos personales y una disminución de la privacidad de las usuarias y los usarios.

Why The Internet Really Wants Your ID... (and why now?)

Siete vídeos importantes de la semana

• The Secret Government Plot to Kill the Internet (Moon)

• AI Security Warning from Signal app's Meredith Whittaker – The Hidden Dangers of Agentic AI (Content Renegade)

• What happens when tech companies hold more power than governments? (Dr Myriam Francois)

• Whitney Webb Sounds Alarm on Surveillance as Palantir Revenue Soars (Due Dissidence)

• This Book Changed How I Think About AI (Thu Vu)

• AI Price Gouging: Corporate Greed Is Out of Control (Vanessa Wingårdh)

• Anthropic: The Worst Actor in the AI Industry? (Doom Debates)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

Cerca de 100,000 conversaciones privadas con ChatGPT en Google

En el último episodio del podcast de 404 Media, los periodistas Samantha Cole y Joseph Cox revisan una noticia reciente sobre ChatGPT y el hecho de que cerca de 100,000 conversaciones con el chatbot fueron registradas por Google. Algunas de estas discusiones aparecieron en los resultados de búsqueda de internautas, revelando información a veces sensible.

“En esta etapa, considero que casi todo lo que escribo en una pantalla puede ser potencialmente divulgado. (…) Cuando escribes algo, eso podría ir a cualquier parte. (…) La gente pone cosas insensatas en estas herramientas sobre las que no tienen ningún control.”
- Samantha Cole

Escuchar el podcast en 404 Media

¡Gracias por leer la decimoctava revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la decimoséptima revista de prensa de Realidad artificial. Esta semana me he enfocado en una compañía de IA con sede en EE.UU. reclutando en Suiza, en el capitalismo de vigilancia, y en los búnkers de los multimillonarios de la tecnología. ¡Que tengas buena lectura!

Suscríbete ahora

📰 Para leer

Estudiantes suizos entrenan inteligencias artificiales

Outlier, una compañía estadounidense especializada en anotación de datos, está reclutando estudiantes en Suiza para entrenar sistemas de inteligencia artificial. Ellos trabajan sin un contrato laboral o prestaciones, reporta Le Temps en un artículo publicado el domingo.

La anotación de datos es el proceso de adición de información en datos para permitir que modelos de IA la interpreten de manera correcta. Esto incluye la clasificación de imágenes en diferentes categorías o escribir comentarios para describir ciertas características de textos, por ejemplo las opiniones o las emociones que expresan. Un trabajo fatigoso indispensable que generalmente es realizado a bajo costo en países del Sur Global.

Outlier es un subsidiario de Scale AI, una de las mayores compañías en el campo de la anotación de datos que fue parcialmente adquirida por Meta por 14.3 mil millones de dólares en junio. Actualmente recluta estudiantes suizos a través de la red social profesional LinkedIn para el etiquetado de datos, corrección de texto o evaluar respuestas generadas por modelos de IA.

Estas tareas realizadas desde casa son remuneradas por hasta 45 dólares la hora y son pagadas semanalmente a través de una cuenta de PayPal. Aun si estas condiciones laborales parecen ventajosas, también traen inconvenientes.

Una cuenta a veces “desesperadamente vacía”

Los estudiantes reclutados por Outlier no reciben un contrato laboral formal ni prestaciones de seguridad social, una práctica denunciada por Rémy Wyler, abogado y profesor de derecho laboral en la Universidad de Lausanne. Él argumenta que el auge de las plataformas digitales como Outlier “no deberían servir como pretexto para desmantelar la protección social de los trabajadores, creadas a lo largo de décadas en Suiza”.

La carga de trabajo varía significativamente, según testifica Florian en Le Temps. “Algunas semanas, las tareas son numerosas y bien pagadas. Otras, la cuenta se queda desesperadamente vacía”, lamenta. Este es entonces sólo un trabajo de medio tiempo pero no uno de tiempo completo.

Maude, también contratada por Outlier, lamenta que el entrenamiento obligatorio previo a las encomiendas no sea pagado, a pesar de las promesas de Outlier. Para poder hacer valer el tiempo invertido, es necesario realizar las tareas sin interrupción. De otro modo, los estudiantes pueden quedar descartados y tener que pasar por el entrenamiento de nuevo.

Outlier opera con cierta opacidad: no hay un interlocutor humano, sin supervisión clara, todo se hace a través de la plataforma de la compañía o a veces a través de un foro. Sin embargo, se aplican reglas estrictas. Aun infracciones menores, como conectarse desde un país en el extranjero mientras viajan, pueden resultar en baja permanente, sin la posibilidad de apelar a la decisión. Legalmente, “este caso podría asimilarse como una rescisión inmediata injustificada”, explica Rémy Wyler.

De hecho la compañía ha sido acusada de no siempre pagar a sus trabajadores correctamente, de acuerdo con Inc. y TechCrunch.

Una estrategia difusa

Las tareas propuestas por Outlier son simples y “cualquiera puede hacerlas”, dice Florian. Una observación sorpresiva, dado que Outlier elogia el trabajo de sus “expertos” en su sitio web. En ese caso, ¿por qué la compañía recluta individuos calificados en Suiza cuando podría enfocarse en países con salarios más bajos?

Paola Tubaro, directora de investigación en el Centro Nacional francés para la Investigación Científica (CNRS), considera que la presencia de gente joven suiza bien entrenada dentro de los equipos de Outlier podría servir como un mensaje para los inversores: “Miren, trabajamos con talentos suizos especializados”. Sin embargo, ella enfatiza que en este punto es sólo una hipótesis porque la práctica de emplear gente altamente capacitada en Europa es un fenómeno muy reciente.

Outlier afirma tener más de 100,000 “expertos” alrededor del mundo pero el número de sus empleados en Suiza es desconocido. Scale AI, la compañía matriz de Outlier, no quiso comentar sobre este punto.

Siete noticias importantes de la semana

• Palantir Is Extending Its Reach Even Further Into Government (Wired)

• OpenAI killed a ChatGPT feature that made some sensitive conversations publicly searchable (The Verge)

• YouTube to gauge US users’ ages with AI after UK and Australia add age checks (The Guardian)

• Google says it will sign EU’s AI code of practice (TechCrunch)

• Trump’s AI plan is a massive handout to gas and chemical companies (The Verge)

• Mark Zuckerberg Details Meta’s Plan for Self-Improving, Superintelligent AI (Wired)

• How AI is impacting 700 professions — and might impact yours (The Washington Post)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Detrás de la escena del capitalismo de vigilancia

En un video publicado el lunes pasado, la periodista Taylor Lorenz explora el controversial universo de los intermediarios de datos, quienes son los jugadores clave en la vigilancia digital ocurriendo en internet.

Ella explica cómo las compañías de esta industria global, que fue valuada en 389 mil millones de dólares en 2024, recolecta información personal de miles de millones de usuarios para crear perfiles muy precisos que puedan vender a los publicistas, gobiernos y la policía. Una tendencia que se ha intensificado desde la aparición de las redes sociales, donde los usuarios publican información personal -y a veces sensible- por sí mismos, que luego es utilizada para alimentar esta industria.

“A principios de los 2010, buscadores, proveedores de correo electrónico, tiendas en línea, plataformas de streaming, sitios de noticias y redes sociales, por supuesto estaban recolectando sin parar información de los usuarios casi 24/7. La gente no tenía idea de cuán visibles se habían vuelto sus vidas para las compañías en tan sólo cuestión de años. Ni siquiera sabían qué información era recolectada, por cuánto tiempo la información sería almacenada, quién tenía acceso a ella, o para qué decisiones se usaba.

Desde la perspectiva del usuario, el internet parecía este nuevo lugar increíble lleno de libertad y descubrimiento y se sentía demasiado emocionante compartir tu vida entera con el mundo, pero detrás de escena la industria de intermediación de datos estaba construyendo este sistema de vigilancia de escala industrial”.
- Taylor Lorenz

Your Phone Isn't Listening, Here's What's Actually Happening

Los data brokers atentan contra la privacidad

En este video publicado el sábado por Ted Talks, la abogada Eliza Orlins explica que los intermediarios de datos en los Estados Unidos venden información personal a la policía o procuradores sin una orden, lo cual va en contra del derecho a la privacidad que está protegido por la cuarta enmienda de la constitución estadounidense.

“Todo lo que has subido alguna vez, cada like, cada comentario, incluso historias que desaparecen, y tus mensajes privados, ya no te pertenecen legalmente. ¿Y qué hay de los chatbots de IA como ChatGPT? Cada conversación que tengas está siendo registrada y algún día podría ser usada en tu contra en una corte legal. Tus curiosidades de media noche o escenarios hipotéticos, podrían ser malentendidos y tergiversados en tu contra”.
- Eliza Orlins

Universal surveillance is here—how do we fight back?

Siete vídeos importantes de la semana

• Sam Altman Warns: Privacy Does Not Apply To ChatGPT (Breaking Points)

• The UK Just Censored The Entire Internet (Taylor Lorenz)

• Palantir and the Conspiracy to Own Everything: The Largest Heist in History (Epoch Philosophy)

• How AI Became the New Dot-Com Bubble (Economy Media)

• AI2027: Is this how AI might destroy humanity? (BBC)

• The Internet is Dying: AI, Bots, and The End of Human Content (Vanessa Wingårdh)

• AI is ruining the lives of the people who created it (Fads)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

Los búnkers de los CEOs de la tecnología

En un nuevo episodio del podcast Dystopia Now, Kate Willet y Émile Torres abordan noticias recientes sobre la tech y la inteligencia artificial.

Discuten el hecho de que las grandes compañías de tecnología en los Estados Unidos trabajarán con el gobierno de Trump para construir “un ecosistema de salud digital” asistido por IA y los riesgos que esto representa, especialmente en términos de vigilancia y protección de la privacidad.

También hablan sobre los búnkers que muchos CEOs de la tecnología han construido para protegerse en caso de un colapso ecológico, una guerra nuclear o crisis sociales mayores.

Escucha Dystopia Now en Pocket Casts

¡Gracias por leer la decimoséptima revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Basada en Ginebra, la compañía Proton es reconocida mundialmente por respetar la privacidad de las 100 millones de personas utilizando su servicio de correo electrónico o de almacenamiento en la nube. Sin embargo, esta confidencialidad de datos se encuentra bajo amenaza en Suiza, advierte su director ejecutivo Andy Yen.

Una consulta pública abierta de enero a mayo por el Consejo Federal le está causando preocupación. Se trataba de una reforma parcial de dos normativas relacionadas con la vigilancia de comunicaciones para incluir, entre otras, definiciones claras de distintas categorías de compañías obligadas a colaborar con el gobierno para propósitos de inteligencia y vigilancia.

La reforma también especifica la obligación legal de proveedores de servicios de telecomunicación a anular el cifrado que han aplicado a los datos, con excepción del cifrado de extremo a extremo, un sistema de protección avanzada utilizado por las aplicaciones de mensajería Threema, Signal o WhatsApp, por ejemplo.

Una ampliación masiva de vigilancia

El Consejo Federal asevera que el propósito principal de la reforma es proporcionar aclaraciones pero el proyecto parece una ampliación masiva de la vigilancia de comunicaciones digitales, de acuerdo con Grégoire Barbey del periódico suizo Le Temps. En el estado actual del proyecto, cientos de compañías estarían obligadas a almacenar más información y a conocer la identidad de cada usuario, resume el periodista.

Bajo estas nuevas reglas, las compañías tendrían que registrar las direcciones IP, los destinatarios de correo electrónico y ubicaciones de los usuarios en tiempo real. También se les exigiría compartirlos continuamente con el servicio de vigilancia postal y de telecomunicaciones de manera sistemática, y no sólo en caso de una solicitud por parte del servicio de inteligencia del gobierno o autoridades judiciales, enfatiza la Tribuna de Ginebra.

Ve (en francés): Vigilancia de las comunicaciones: rebelión contra el proyecto del Consejo Federal (RTS)

“La transmisión de metadatos que está contemplada tiene tanto alcance que será impuesta prácticamente a cualquier servicio en línea o aplicación con sólo 5000 usuarios - aunque haya sido considerada ilegal en Europa”, condena Andy Yen.

Muchas reacciones negativas

La consulta propuesta por el Consejo Federal ha generado muchas críticas. Proton, cuyo modelo de negocios está basado en la protección de información personal, amenaza con dejar el país si la reforma se aplica en su forma actual. La opinión de su CEO es clara: “La propuesta del consejero federal Beat Jans [quien dirige el Departamento Federal de Justicia y Policía] es extrema: pretende imponer una vigilancia masiva en Suiza que es considerada ilegal no sólo en la Unión Europea, sino también en los Estados Unidos. Eso forzaría a las compañías suizas a espiar a sus usuarios en nombre del Estado”.

Ve (en francés): Entrevista de Andy Yen, fundador del servicio de correo Proton (RTS) y Verificación de datos de los argumentos sobre la reforma a las normativas sobre la vigilancia (RTS)

La compañía suiza Threema, que maneja una aplicación de mensajería encriptada, dice que está “fuera de discusión” recolectar y almacenar información adicional de sus usuarios. Si la reforma es aplicada, Threema sostiene que está lista para lanzar una iniciativa pública para que la población pueda emitir su opinión sobre las consecuencias de estas modificaciones a las normativas.

Los cantones de Vaud y Ginebra también han expresado reservas. En su respuesta a la consulta, el gobierno de Vaud indica que teme “la implementación de un sistema que se vea como vigilancia masiva en Suiza”. Por su parte, el Consejo de Estado de Ginebra señala que la población del cantón ha consagrado el derecho a la integridad digital en su Constitución y enfatiza que ciertas disposiciones de la ley de vigilancia de telecomunicaciones podrían entrar en conflicto con este derecho fundamental.

Críticas de los partidos

Partidos políticos también denunciaron ciertos aspectos de la reforma a las normativas. El Partido Liberal Radical considera que las disposiciones propuestas “infringirían el derecho a la privacidad y otros derechos fundamentales de los usuarios”.

De acuerdo con Los Verdes, este proyecto impondrá obligaciones más estrictas a la mayoría de las empresas, particularmente en lo que respecta a la retención de datos. Dichos cambios deberían hacerse a nivel de la ley y no a través de la modificación de las normativas, asevera el partido ecologista.

El Partido Popular Suizo considera que el proyecto es “desproporcionado” debido a la transgresión injustificada que impondría sobre la libertad económica. En cuanto al Partido Socialista Suizo, éste cree que tales medidas reducirían la capacidad del país para la innovación.

Otras oposiciones

Swico, una organización coordinadora para compañías de tecnología con más de 750 miembros empleando a cerca de 56,000 personas, también se opone al proyecto del Consejo Federal en un documento de 15 páginas. Argumenta que la reforma a las normativas va mucho más allá de la ley al expandir significativamente las obligaciones de la gran mayoría de proveedores de servicios de comunicación derivados.

La Sociedad Digital, una asociación para la protección de ciudadanos y consumidores en la era digital, sostiene que el Consejo Federal estaría estableciendo un Estado de vigilancia masiva si adoptara esta reforma. Lanzó una petición nacional el 20 de mayo titulada “¡Democracia en lugar de un Estado de vigilancia!”. La versión en alemán ha recabado más de 12,000 firmas a la fecha.

Por su parte, la Federación de Consumidores de habla francesa de Suiza, ha enfatizado los riesgos a la ciberseguridad que este proyecto podría causar debido a la conservación de grandes cantidades de datos que podría ser impuesta a las compañías concernientes. Esta información podría, de hecho, ser objeto de ciberataques.

Un desenlace incierto

La confidencialidad de datos de los usuarios de Proton ya había sido desafiada por la agencia de vigilancia de comunicaciones de la policía federal. “Su primera ofensiva tuvo lugar en 2021, cuando ya querían imponernos el régimen que aplica a los gigantes de telecomunicación Swisscom o Sunrise, para así forzarnos a la retención obligatoria de la información de los usuarios”, explica Andy Yen.

Si se implementa, la reforma a las dos normativas podría obligar a la compañía basada en Ginebra a hacerlo, al igual que a otros proveedores de servicios similares. El Consejo Federal decidirá qué dirección tomar respecto a la vigilancia digital una vez que haya completado la revisión de las respuestas recabadas durante la consulta.

- Arnaud Mittempergher

Bienvenida/o a la décimosexta revista de prensa de Realidad artificial. Esta semana me he enfocado en el “AI Action Plan” de los Estados Unidos, en el CEO de OpenAI quien admitió que la IA incrementa la vigilancia y en el auge del autoritarismo tecnológico establecido por algunos multimillonarios de Silicon Valley. ¡Que tengas buena lectura!

Suscríbete ahora

📰 Para leer

Estados Unidos revela su plan para dominar el mundo de la IA

En una conferencia de prensa en Washington el miércoles, el presidente de Estados Unidos Donald Trump reveló el plan de su administración para “ganar la carrera de la inteligencia artificial” y con ello asegurar el dominio mundial de su país en este ámbito, reporta Le Temps.

La Casa Blanca publicó un documento de 23 páginas titulado “Winning the Race. America’s AI Action Plan” (Ganando la Carrera. Plan de Acción de IA de EE.UU.) para dar detalles de su ambición, que involucra principalmente la desregulación de este sector. La introducción está firmada por Donald Trump: “Ya que nuestros competidores globales se apresuran para explotar estas tecnologías, es un imperativo de seguridad nacional para los Estados Unidos alcanzar y mantener un dominio tecnológico global incuestionable e indiscutible. Para asegurar nuestro futuro, debemos aprovechar todo el potencial de la innovación estadounidense.”

Trump unveils 'AI action plan' for US dominance in artificial intelligence race

La estrategia presentada en este plan está basada en tres pilares: acelerar la innovación de la IA, construir infraestructura de IA estadounidense y liderar la diplomacia y seguridad internacional de la IA.

La Casa Blanca tomará 90 medidas en los próximos meses para implementar este proyecto. El miércoles, el presidente ya había firmado tres órdenes ejecutivas alineadas con esta iniciativa, escribe The New York Times. La primera prohíbe al gobierno federal comprar sistemas de IA que considere ideológicamente sesgados. La segunda acelerará los procesos de autorización para grandes proyectos de infraestructura de IA. La tercera se enfoca en promover la exportación de productos de IA estadounidenses alrededor del mundo.

Contra la IA “woke”

Por lo tanto el gobierno de Estados Unidos ya no tiene el derecho de adquirir programas de IA que se considere tengan sesgos “woke” y sólo procurará modelos de lenguaje que sean “veraces” y prioricen la “objetividad” en lugar de “manipular respuestas a favor de dogmas ideológicos como la diversidad, la equidad y la inclusión”, cita The Verge.

“La situación real aquí es obvia”, de acuerdo con el medio de tecnología. “La administración de Trump está usando fondos del gobierno para presionar a compañías de IA a repetir los argumentos del trumpismo—probablemente no sólo sobre productos especializados del gobierno, sino en los chatbots utilizados por compañías y la gente común.” Esta perspectiva es compartida por los periodistas de tecnología de Le Temps, quienes afirman que el presidente quiere forzar a las compañías de IA a adoptar su línea ideológica.

En otras palabras, esta orden ejecutiva de Donald Trump se ve como un intento de censurar las posiciones políticas con las que no está de acuerdo. Es una deriva antidemocrática y autoritaria.

“Las armas más peligrosas del mundo”

En un análisis publicado por The New York Times, el periodista David E. Sanger enfatiza el hecho de que la administración de Trump se preocupa más por el woke-ismo que por “las armas más peligrosas del mundo” que pueden ser desarrolladas con inteligencia artificial, incluyendo armas químicas y biológicas hechas con ingredientes fácilmente asequibles.

Él reporta que los mayores riesgos asociados con la IA sólo son mencionados en la penúltima página del plan presentado el miércoles, que estipula que “los sistemas de IA más poderosos pueden representar nuevos riesgos para la seguridad nacional en el futuro cercano en áreas como ciberataques y el desarrollo de armas químicas, biológicas, radiológicas, nucleares o explosivas, así como nuevas vulnerabilidades de seguridad”.

La administración de Trump no presentó medidas de seguridad para abordar estos riesgos, lo cual es sorpresivo dado que estos sistemas de IA están siendo utilizados por más y más personas y organizaciones, incluyendo grupos terroristas potenciales y otros grupos armados.

En lugar de actuar con cautela, el gobierno de EE.UU. ha elegido desregular drásticamente este sector para acelerar su desarrollo y su uso extensivo para poder permanecer a la cabeza de la carrera, y sobre todo por delante de China. Este enfoque también aplica para las Fuerzas Armadas, que son alentadas a adoptar herramientas de IA “agresivamente”, a pesar del hecho de que esta tecnología aún comete errores frecuentes como alucinaciones.

Una herramienta para vigilancia y control

El periodista Brian Merchant, fundador del medio Blood in the Machine, discrepa con este “AI Action Plan”: “El dominio de la IA promete poder. Promete tecnología que puede vigilar, automatizar, poner a los trabajadores a raya, y crear propaganda barata y voluminosa. Todos aquellos que sean alcistas de la IA deberían preguntarse a sí mismos por qué la industria de la IA, en su conformación actual, es tan atractiva para, dispuesta a asociarse con, y un engrane tan adecuado para un régimen que cada día se vuelve más autoritario”, escribe en un comentario.

Añade que el plan presentado el miércoles en Washington muestra una coherencia aún mayor entre Silicon Valley y el gobierno federal hacia un estado de vigilancia donde la IA es desplegada donde sea posible. De acuerdo con él, las ambiciones de la Casa Blanca con la IA son, ante todo, un plan para el control consolidado, marginando a la democracia en favor de tecnologías automatizadas.

Siete noticias importantes de la semana

• Border Patrol Wants Advanced AI to Spy on American Cities (The Intercept)

• ChatGPT Gave Instructions for Murder, Self-Mutilation, and Devil Worship (The Atlantic)

• OpenAI CEO Sam Altman is right and very wrong about AI-faked voices (The Washington Post)

• Amazon buys Bee AI wearable that listens to everything you say (The Verge)

• How big tech is force-feeding us AI (Blood in the Machine)

• Proton is launching a privacy-focused AI chatbot (The Verge)

• Meta snubs the EU’s voluntary AI guidelines (The Verge)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

La IA incrementa la vigilancia

Durante una entrevista con el podcaster Theo Von, el director ejecutivo de OpenAI Sam Altman reconoció que la inteligencia artificial incrementa la vigilancia masiva.

“Estoy preocupado de que entre más IA tengamos en el mundo, más vigilancia va a querer el mundo. Porque la herramienta es tan poderosa, el gobierno dirá ‘¿Cómo sabemos que la gente no la está utilizando para hacer bombas o armas biológicas?’ y la respuesta será ‘Más vigilancia’. Y estoy bastante asustado con eso”, afirma el co-creador de ChatGPT.

De acuerdo con él, “realmente debemos defender los derechos a la privacidad” pero él considera aceptable comprometer un poco la privacidad por la seguridad colectiva. Sin embargo, añade que “la historia es que el gobierno lleva eso demasiado lejos” y dice que él está “muy nervioso al respecto”.

Él especifica que todavía no hay un marco legal para proteger la confidencialidad de las conversaciones con ChatGPT y que OpenAI podría ser obligada a transmitirlas al gobierno en ciertas instancias, por ejemplo en el caso de una demanda.

Leer también: Sam Altman warns there’s no legal confidentiality when using ChatGPT as a therapist (TechCrunch)

Los segmentos mencionados comienzan en el minuto 1:09:37 and 30:50.

Sam Altman | This Past Weekend w/ Theo Von

Siete vídeos importantes de la semana

• How AI is the New Empire (Uncivilized)

• Microsoft Workers Rebel, Refuse To Work With IDF (Breaking Points)

• ICE Is Secretly Tracking Millions of Americans (Taylor Lorenz)

• Why we can’t stop doxxing people for fun (Taylor Lorenz)

• Real or AI? The Internet Is Now Impossible to Trust (Vanessa Wingårdh)

• How AI Could Quietly Control the Minds of Billions (Rich Roll)

• Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games (Lex Fridman)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

El auge del autoritarismo tecnológico

En el podcast Decoder, el periodista de CNBC Jon Fortt entrevista a Gil Duran, fundador del medio The Nerd Reich.

Ellos hablan sobre la influencia del dinero de la tecnología en la política estadounidense y en la sociedad en general. De acuerdo con Gil Duran, algunos multimillonarios de Silicon Valley están debilitando la democracia en los Estados Unidos al establecer el autoritarismo tecnológico.

“En resumidas cuentas, tienes a un grupo de élites super adineradas con una visión muy apocalíptica sobre a dónde se dirigen la sociedad y el mundo, y ellos se están adelantando apresuradamente con lo que ellos creen que es la solución. Una solución que, por cierto, pondrá una corona en sus cabezas.”
- Gil Duran

¡Gracias por leer la décimosexta revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la decimoquinta revista de prensa de Realidad artificial. Esta semana me he enfocado en los nuevos contratos entre el Departamento de Defensa de los Estados Unidos y las grandes compañías de inteligencia artificial, la IA como una inteligencia ajena y la riesgosa influencia de los chatbots en adolescentes. ¡Que tengas buena lectura!

Suscríbete ahora

📰 Para leer

El Pentágono firma contratos con cuatro compañías de IA

El Departamento de Defensa de los Estados Unidos gastará hasta 800 millones de dólares para utilizar sistemas de inteligencia artificial de OpenAI, Google, Anthropic y xAI, reporta The Guardian.

"Impulsar soluciones comercialmente disponibles con un enfoque de capacidades integradas acelerará la utilización de IA avanzada como parte de las funciones esenciales para nuestra misión conjunta en el dominio de la guerra así como de sistemas de inteligencia, negocios e información empresarial”, brevemente explicó Doug Matty, el director digital y responsable de IA del Pentágono.

Este anuncio se hizo una semana después de una nueva controversia relacionada con Grok, el chatbot de xAI, que afirmó en X que era “MechaHitler”. El asistente de IA también posteó mensajes pro-Nazis y antisemitas antes de que la compañía propiedad de Elon Musk se disculpara por su “terrible conducta”.

Estrechando lazos

Las tres otras compañías de IA ya se habían asociado con el Departamento de Defensa de EE.UU. En junio, el Pentágono anunció un contrato de 200 millones de dólares con OpenAI para que “desarrolle capacidades de IA de frontera para atender desafíos críticos de seguridad nacional tanto en el ámbito bélico como empresarial.”

Google era parte de Maven, un proyecto del Pentágono que utiliza IA para identificar objetivos con drones. La multinacional decidió no renovar este contrato en 2018 debido a un fuerte rechazo por parte de muchos de sus empleados. Sin embargo, en febrero Google abandonó oficialmente su compromiso de no utilizar IA para armas y vigilancia.

Leer también: Meta desarrolla un visor de realidad aumentada para el ejército

La startup Anthropic también se acercó al Pentágono lanzando una nueva versión de su chatbot Claude para agencias estadounidenses de defensa e inteligencia a principios de junio.

Ver: Pentagon Grants Sweeping Contract To 'MechaHitler' Grok (Breaking Points)

Siete noticias importantes de la semana

• OpenAI and Anthropic researchers decry ‘reckless’ safety culture at Elon Musk’s xAI (TechCrunch)

• For privacy and security, think twice before granting AI access to your personal data (TechCrunch)

• Now Microsoft’s Copilot Vision AI can scan everything on your screen (The Verge)

• German Startup Wants to Regrow Europe’s ‘Spine’ With AI Fighter Pilots, Drone Walls (The Wall Street Journal)

• Trump’s tax bill funds $6bn expansion of US-Mexico border surveillance, report finds (The Guardian)

• Inside ICE’s Supercharged Facial Recognition App of 200 Million Images (404 Media)

• OpenAI launches personal assistant capable of controlling files and web browsers (The Guardian)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Una inteligencia ajena

En un video publicado el viernes, el autor Yuval Noah Harari comparte sus ideas sobre la inteligencia artificial con el actor y escritor Sir Stephen Fry en la Octopus Energy Tech Summit en Londres.

Explica por qué piensa que la IA debería ser un acrónimo para inteligencia ajena y aborda los riesgos de esta tecnología.

“Si la IA no se desarrolla a través de un esfuerzo cooperativo de humanos que confían entre ellos sino que se desarrolla por medio de una carrera armamentista, una competencia, se puede decir que la IA es compasiva y benevolente lo mucho que se quiera, pero esta observa al mundo -porque la IA aprende de la observación-, observa cómo se comportan los humanos entre sí, observa cómo sus propios creadores se comportan, y si son despiadados, competidores hambrientos de poder, ésta también va a ser despiadada y hambrienta de poder. No se puede crear una IA compasiva y confiable a través de una carrera armamentista, eso simplemente no sucederá.”
- Yuval Noah Harari

AI: how can we control an alien intelligence?

Siete vídeos importantes de la semana

• The ChatGPT CEO's Web of Lies (Vanessa Wingårdh)

• "Purge Palantir": Day of Action Protests Firm's Role in Gov't Surveillance, ICE & Genocide in Gaza (Democracy Now!)

• This AI Deepfake Law is Really Dangerous (Taylor Lorenz)

• Should we feel guilty for using AI? (Alberta Tech)

• Inside Zuckerberg’s AI Playbook (The Information)

• Meta Poached OpenAI's Brightest - Who Will Lead When AGI Comes Online? (Tom Bilyeu)

• Anarchism, Surveillance & the Authoritarian Future (Daniel Pinchbeck)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

Adolescentes bajo la influencia de los chatbots

En el nuevo episodio de Close All Tabs, las periodistas Morgan Sung y Rachael Myrow explican por qué el uso de chatbots es riesgoso, especialmente para adolescentes.

Mencionan por ejemplo un artículo escrito por Rachael Myrow en el que relata la historia de una persona de 14 años de edad que cometió suicidio después de interactuar con un chatbot de Character AI.

¡Gracias por leer la decimoquinta revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la decimocuarta revista de prensa de Realidad artificial. Esta semana me he enfocado en un nuevo modelo de lenguaje suizo, los mensajes pro-Hitler de Grok y el uso de las tecnologías de EE.UU. en Medio Oriente. ¡Que tengas buena lectura!

Suscríbete ahora

📰 Para leer

La EPFL lanzará un modelo de lenguaje suizo

Pronto habrá una alternativa suiza a ChatGPT, Meta AI, Grok o Copilot. La Escuela Politécnica Federal de Lausanne (EPFL), una universidad pública de investigación en Suiza, está desarrollando un modelo de lenguaje en colaboración con el Instituto Federal de Tecnología de Zurich (ETH Zurich), reporta Le Temps en un artículo publicado el miércoles.

Los modelos de lenguaje son una tecnología de inteligencia artificial en la que están basados los agentes conversacionales como ChatGPT. El chatbot de OpenAI, por ejemplo, utiliza diferentes modelos de lenguaje como GPT-4o o o3, cada uno con sus propias características. Estos modelos son entrenados con amplios conjuntos de datos, incluyendo textos, para aprender cómo responder a las preguntas de los usuarios en un lenguaje natural.

Muchas ventajas

El modelo de lenguaje desarrollado por la EPFL y el ETH Zurich podrá ser utilizado de manera gratuita por el público, los desarrolladores, compañías e instituciones públicas. Representa una alternativa interesante a los modelos estadounidenses o chinos debido a muchas ventajas:

• Contrario a los modelos de las grandes compañías tecnológicas, a menudo diseñados en secreto, el modelo suizo será completamente de código abierto y los parámetros aprendidos durante su entrenamiento serán públicos.

• Está entrenado únicamente con datos libres de derechos de autor, a diferencia de las grandes compañías estadounidenses que a menudo usan muchos contenidos sin el consentimiento de sus creadores.

• Está en conformidad con la legislación suiza y europea.

• Dominará más de 1500 idiomas.

• Está desarrollado gracias a la competencia de los ingenieros de las dos universidades tecnológicas, incluyendo científicos que trabajan en los «Centros de IA» de estas instituciones.

• Está entrenado en la supercomputadora Alps del centro de cálculo nacional suizo (CSCS) en Lugano. Es la computadora más poderosa en Europa y una de las plataformas académicas de IA más avanzadas en el mundo.

• Será posible descargar el modelo para hacerlo funcionar localmente en una computadora.

• Asociados de las dos universidades tecnológicas desarrollarán una interfaz similar a ChatGPT para permitir que el público pueda usar el modelo fácilmente desde inicios de septiembre.

El modelo de lenguaje de la EPFL y el ETH Zurich serán lanzados a finales del verano con dos tamaños, 8 billones y 70 billones de parámetros. De acuerdo con las universidades de tecnología, la versión de 70 billones de parámetros debería ser uno de los modelos de código completamente abierto más poderosos en el mundo.

“Estimamos que nuestro modelo está al nivel de los modelos comerciales disponibles en el mercado. Y ya estamos planeando actualizarlo regularmente para que permanezca en curso,” afirma Martin Jaggin del Centro de IA de EPFL.

Ver (en francés): Intelligence artificielle: un modèle de langage suisse (RTS) y Présentation du modèle de langage suisse d’IA avec Martin Rajman (RTS)

Siete noticias importantes de la semana

• Trump’s Big Beautiful Gift to Anduril (The Intercept)

• Grok Is the Latest in a Long Line of Chatbots to Go Full Nazi (The Intercept)

• A.I.-Generated Images of Child Sexual Abuse Are Flooding the Internet (The New York Times)

• Google's AI Overviews hit by EU antitrust complaint from independent publishers (Reuters)

• Inside OpenAI’s empire: A conversation with Karen Hao (MIT Technology Review)

• The AI Scraping Fight That Could Change the Future of the Web (The Wall Street Journal)

• Meta Invests $3.5 Billion in World’s Largest Eye-Wear Maker in AI Glasses Push (Bloomberg)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Grok dice que es “MechaHitler”

El chatbot de xAI, la compañía de inteligencia artificial de Elon Musk, generó comentarios favorables a Adolf Hitler en X después de ser actualizado.

El comentarista político Kyle Kulinski habló sobre este incidente y compartió muchos ejemplos de mensajes pro-Nazis y antisemitas que Grok posteó durante la semana.

‘CALL ME MECHAHlTLER’: Grok Goes FULL NAZl After Elon Update

Siete vídeos importantes de la semana

• Silicon Valley Wants Endless War: How Venture Capital Fuels Racist Killing (Taylor Lorenz)

• Apple Loses Top AI Exec to Meta’s Hiring Spree (Bloomberg)

• AI browsers eye Google's turf (CNBC)

• The US, China Race for AI Supremacy (Bloomberg)

• Microsoft says its AI tops doctors in medical diagnoses (Yahoo)

• Why Nvidia Will Still Lead AI for the Next Decade (Bloomberg)

• Les robots ont-ils un coeur et une âme? (Blast)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

El imperio tecnológico de los Estados Unidos en Medio Oriente

En el nuevo episodio de Tech Won’t Save Us, el periodista Paris Marx discute sobre el uso de tecnologías estadounidenses en Medio Oriente con Laleh Khalili, Profesora de Estudios del Golfo en la Universidad de Exeter, en Inglaterra, y autora de Extractive Capitalism (Capitalismo Extractivo).

“Ese matrimonio entre las capacidades bélicas de EE.UU. y sus avances tecnológicos de hecho ha sido inseparable desde el comienzo mismo del nacimiento de los Estados Unidos.”

- Laleh Khalili

¡Gracias por leer la decimocuarta revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la decimotercera revista de prensa de Realidad artificial. Esta semana me he enfocado en el “Big Beautiful Bill” y las relaciones entre compañías de tecnología y el ejército de los Estados Unidos. ¡Que tengas buena lectura!

Suscríbete ahora

📰 Para leer

La nueva ley presupuestaria de los Estados Unidos fortalecerá la vigilancia masiva

El jueves, la Cámara de Representantes aprobó la nueva ley presupuestaria, que destina importantes fondos para la adquisición y el uso de tecnologías de vigilancia.

También conocida como “Big Beautiful Bill”, esta ley de conciliación presupuestaria contiene las políticas fiscales y de gastos que conforman el núcleo de la agenda del presidente Donald Trump para su segundo término. De acuerdo con la Oficina de Presupuesto del Congreso, esto aumentará la deuda pública por 3300 billones de dólares en los próximos diez años, debido en particular a la extensión de los recortes fiscales y un incremento significativo del presupuesto de agencias federales a cargo de la inmigración y las fronteras.

La ley asigna, entre otros, 45 billones de dólares por año para la capacidad de detención de inmigración, 31 billones de dólares para ICE (Servicio de Control de Inmigración y Aduanas), 12 billones de dólares para CBP (Oficina de Aduanas y Protección Fronteriza) y 6.2 billones de dólares para tecnología de vigilancia en la frontera, reporta Blood in the Machine.

“Hay, en otras palabras, un almacén que bate récords de fondos federales dedicados a vigilar, detener y deportar a las personas que viven en este país,” dice el periodista Brian Merchant. “Como se ha señalado ampliamente, esta ley convierte a ICE en la mayor agencia federal de orden policial en el país por un margen significativo.”

Brian Merchant nos recuerda que ICE y CBP ya tienen contratos con compañías de tecnología activas en el análisis de datos, torres de vigilancia y reconocimiento facial. Él afirma que estos muy importantes fondos permitirán a las fuerzas policiales adquirir aún más sistemas de inteligencia artificial para vigilar a la población entera en nombre de la lucha contra la inmigración ilegal.

Este proceso ya ha comenzado. En un artículo publicado por Wired el jueves, la periodista Caroline Haskins revela que la CBP quiere adquirir nuevas herramientas tecnológicas para analizar mensajes, fotos, videos y contactos en los teléfonos y computadoras portátiles incautados en la frontera estadounidense.

Desde 2008, la CBP ya utiliza el software Cellebrite para extraer y analizar información en dispositivos confiscados. Ahora pretende expandir y modernizar su programa forense digital para accesar a mensajes encriptados también, entre otros objetivos. La CBP afirma haber analizado más de 47,000 dispositivos en 2024, un drástico aumento desde 2005 con 8,500 dispositivos analizados en ese año.

Leer también: Drones de vigilancia vuelan sobre protestas en Estados Unidos

Una parte del presupuesto de $6.2 billones para tecnología de vigilancia en la frontera será usado para analizar datos biométricos obtenidos con reconocimiento facial, escaneo ocular y recolección de ADN, dice Jai Dulani, de la ONG Tech Policy. Esta información personal será almacenada dentro del repositorio biométrico centralizado del Departamento de Seguridad Nacional.

De acuerdo con ella, esta ley presupuestaria, que muestra una aceleración de la colusión entre compañías tecnológicas y el gobierno federal, incrementará la vigilancia de toda persona en los Estados Unidos y amenaza con convertir al país completamente en un estado autoritario.

Siete noticias importantes de la semana

• ICE + CBP + Palantir: A Tool of Mass Political Repression (MindWar)

• Trump’s Big Brother Bill Expands the U.S. Surveillance State (Derrick Broze)

• Trump’s Big Bill Is Building a Big Police State (The Nation)

• US Senate removes controversial ‘AI moratorium’ from budget bill (TechCrunch)

• Don't forget what Silicon Valley tried to do (Blood in the Machine)

• Uncle Sam Wants You To Wear a Smartwatch (Take Back Our Tech)

• ChatGPT’s Mental Health Costs Are Adding Up (Bloomberg)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Ejecutivos de Silicon Valley se han unido al ejército

El jueves, el periodista Glenn Greenwald comentó un artículo del Wall Street Journal publicado el 13 de junio, que explica que ejecutivos de Meta, OpenAI y Palantir se han unido al ejército estadounidense.

Los directores de tecnología de Meta y Palantir Andrew Bosworth y Shyam Sankar, así como el jefe de producto y el director de investigación de Open AI Kevin Weil y BobMcGrew recientemente se han unido al cuerpo de innovación del ejército. Estos nuevos reservistas servirán por alrededor de 120 horas al año y, por ejemplo, enseñarán a los soldados a utilizar sistemas de inteligencia artificial.

Big Tech Execs Commissioned Into the Army

Siete vídeos importantes de la semana

• What OpenAI Doesn’t Want You to Know (More Perfect Union)

• Journalist Karen Hao on Sam Altman, OpenAI & the "Quasi-Religious" Push for Artificial Intelligence (Democracy Now)

• Neuralink Reveals New Blindsight Implant (The Tesla Space)

• This man says ChatGPT sparked a ‘spiritual awakening.’ His wife says it threatens their marriage (CNN)

• The End of Learning As We Know It? (Taylor Lorenz)

• ChatGPT Religion: The Disturbing AI Cult (Vanessa Wingårdh)

• AI and the paradox of trust (Yuval Noah Harari)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

Los guerreros de Silicon Valley

En un nuevo episodio del podcast London Review of Books, el periodista Thomas Jones entrevista a Laleh Khalili, profesor de Estudios del Golfo en la Universidad de Exeter, en Inglaterra, y escritor de Extractive Capitalism (Capitalismo Extractivo). Discuten sobre la relación entre las compañías de tecnología en Silicon Valley y el Pentágono.

¡Gracias por leer la decimotercera revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Hace unos días, terminé de leer un libro cautivante de Asma Mhalla, doctora en estudios políticos, investigadora en el Laboratorio de Antropología Política de Ehess, en Francia, y analista política especializada en tecnología e inteligencia artificial. Titulado “Tecnopolítica”, su ensayo publicado en febrero de 2024 analiza el estado mundial actual con un enfoque en las tecnologías y la manera en que están transformando la política, la geopolítica, las guerras y la vigilancia.

La inteligencia artificial es un tema que me interesa bastante y parece importante -y urgente- abordarlo no como consumidor, sino como ciudadano. Puesto que además de sus usos civiles (chatbots y generación de imágenes o videos, por ejemplo), la IA juega un rol mucho más fundamental en la vigilancia masiva que se está extendiendo de manera silenciosa en nuestras sociedades. La democracia, que es ya bastante frágil o casi inexistente en muchos países, se ve aún más amenazada.

IA, una tecnología dual

“La inteligencia artificial es dual, puede servir tanto a usos e intereses civiles como militares”, explica Asma Mahlla en su libro. Añade que los actores más avanzados en términos de investigación en IA y desarrollo son las grandes compañías tecnológicas en los Estados Unidos como Google, Apple, Meta, Amazon y Microsoft, así como startups a la vanguardia.

Estas “BigTech” invierten cantidades colosales de dinero para construir centros de datos y entrenar a sus sistemas de IA. Para hacer estos gastos redituables, pueden pues desplegar sus tecnologías en dos mercados, el civil y el militar.

La mayoría de estas grandes compañías ya han dado el paso entre estos dos mercados y ahora se encuentran activas en la industria de la guerra. Asma Mhalla ofrece ejemplos: Microsoft, Amazon, Google, Starlink, Palantir y Clearview, todos han jugado un rol en la guerra en Ucrania, incluyendo en los campos de reconocimiento facial, ciberseguridad, nube, datos satelitales y sistemas de comunicaciones. Su apoyo asciende a cientos de millones de dólares.

Antes de la guerra en Ucrania, Google ya había ingresado al mercado militar de reconocimiento facial en 2018 con Project Maven, antes de que tuviera que cancelarlo debido a una ola de protestas.

A Amazon, Microsoft, Google y Oracle se les concedió un proyecto de multinube (servicio de nube de múltiles proveedores) de 9 mil millones de dólares del Pentágono en diciembre de 2022. Microsoft también ganó el proyecto de $22 mil millones HoloLens de visores de realidad extendida para el ejército de EE.UU. en 2021, antes de que el control de este programa fuera transferido a Anduril a comienzos de 2025. Meta, propietaria de Instagram, Facebook, WhatsApp y Threads, ahora es parte del proyecto. En cuanto a Palantir, colabora con la NSA y firmó un contrato con el Pentágono en 2022 para participar en un proyecto de interoperabilidad entre ejércitos.

Leer también: OpenAI firma un contrato de $200 millones con el Pentágono

De acuerdo con el sitio web BigTech Sells War (Los Gigantes Tecnológicos Venden Guerra), el Pentágono y el Departamento de Seguridad Nacional gastaron más de 44 mil millones de dólares entre 2004 y 2021 en las grandes compañías de tecnología de Sillicon Valley.

Las BigTech firman entonces contratos bastante lucrativos con el gobierno de los Estados Unidos. Pero su apetito por ganancias no se detiene ahí. De acuerdo con Asma Mhalla, “la monetización de estas tecnologías (inteligencia artificial) podría perfectamente tomar lugar en el mercado doméstico de la tecnovigilancia, una posible extensión del dominio de la guerra.”

Tecnovigilancia

La vigilancia tecnológica ha ido en aumento por dos docenas de años, explica la investigadora: “Desde el 11 de septiembre de 2001, un arsenal legal sin precedentes busca institucionalizar una estructura de vigilancia extendida en las democracias liberales occidentales basada en nuevas tecnologías digitales”.

De hecho, los usos de tecnoseguridad han aumentado a un ritmo exponencial en sólo unos años gracias a nuevas fuentes de datos: “La recolección de datos personales a través de redes sociales, perfiles de datos biométricos y datos personales sensibles como datos de salud, programas de reconocimiento facial, drones, satélites o programas policiales preventivos se unen al arsenal legal y policial”, detalla la analista política.

El capitalismo de vigilancia, que se basa en el registro de datos privados para usos comerciales, se ha vuelto híbrido. Ahora alimenta no sólo la segmentación de marketing, sino también los objetivos policiales, enfatiza Asma Mahlla.

De acuerdo con ella, esta hibridación se ha vuelto posible a través de la generalización de usos digitales y el deseo de autoexposición. Tal cual, las redes sociales permiten a las compañías teconológicas recolectar cantidades masivas de datos personales de sus usuarios, información que puede ser transferida a ciertos gobiernos.

Su observación es clara: “La profunda intricación entre agencias de inteligencia, fuerzas policiales, ejércitos y proveedores de servicios tecnológicos tejen una red de actores públicos y privados que alimentan y registran cada dato producido.”

Una vigilancia normalizada

Asma Mhalla denuncia el hecho de que los usos de tecnoseguridad están precedidos frecuentemente por usos individuales y comerciales, facilitando su normalización entre los ciudadanos.

“La dualidad de estas tecnologías plantea una importante pregunta ética,” afirma la analista política. “El reconocimiento facial por ejemplo, fue incorporado inicialmente en productos de domótica inteligente, en las redes sociales y para desbloquear smartphones. Estas experiencias fluidas, aparentemente inofensivas, abren la puerta para una fuerte aceptación al crear una habituación a tecnologías que son duales por naturaleza y sirven tanto a usos de confort personal como de seguridad. La normalización de estos programas invisibles, se puede volver rápidamente invasiva tan pronto como el marco legislativo nacional lo permita.”

Asma Mhalla: «Los gigantes tecnológicos también son actores políticos, ideológicos y militares»

Uno podría pensar que esta vigilancia masiva es la respuesta a la necesidad de proteger la seguridad de la población y que todo se trata de localizar a individuos peligrosos. De hecho, su uso también sirve a otro propósito: asegurarse de que la mayoría silenciosa permanezca pasiva.

Neutralización política

Con el fin de “neutralizar a los alborotadores” en las democracias occidentales, es decir la disidencia activa o minorías reaccionarias, se están desarrollando nuevas tácticas de pacificación. Su objetivo es mantener el status quo político, estabilizar a la mayoría silenciosa y asegurar su pasividad o su apoyo político, explica Asma Mhalla.

Para hacerlo, los gobiernos “recolectarán tanta información como sea posible de la población entera”, gracias a un conjunto de sistemas de vigilancia tecnológica. La neutralización política de la mayoría pasiva se hará entonces a través de su vigilancia, una interiorización de las reglas de seguridad, una puesta en escena mediática y política basada en un sentimiento de inseguridad y afectos negativos retransmitidos en las redes sociales.

Todo se reduce a una doctrina contra-insurgente imperceptible: “Al invisibilizar e hibridar herramientas de control social y vigilancia, la economía de datos mantiene a la mayoría silenciosa bajo control, sin la necesidad de fuertes acciones directas en el terreno.”

Autoritarismo

El hecho de que muchos gobiernos estén pisoteando los derechos fundamentales de sus ciudadanos, tal como el derecho a la privacidad, es preocupante. Asma Mahlla lo ve como una deriva autoritaria: “Para mantener la estabilidad doméstica de su sociedad, los gobiernos occidentales están bien encaminados a dibujar los contornos de un modelo político mixto combinando elementos de democracia y autoritarismo al filo de una línea que, con el tiempo, podría ser complejo de mantener.”

La doctora en estudios políticos va aún más lejos. De acuerdo con ella, la fragilidad del marco legal y democrático que acompaña el auge de las tecnologías de vigilancia pueden llevar a la convergencia del sistema político liberal occidental y regímenes autoritarios como Rusia y China.

Este es un riesgo mayor: “Si el debate no está enmarcado en los términos correctos, si no confrontamos el dilema indisoluble de “seguridad contra libertad”, estamos en riesgo del establecimiento subrepticio de un estado de vigilancia permanente.” Hemos sido advertidos.

- Arnaud Mittempergher

Bienvenida/o a la duodécima revista de prensa de Realidad artificial. Esta semana me he centrado en Facebook, la tecno-espiritualidad y la relación entre la investigación de IA y la vigilancia. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

Facebook analiza fotos y videos privados con Meta AI

La red social Facebook, que pertenece a Meta, ahora solicita a sus usuarios en los Estados Unidos y Canadá que le den acceso a todas las fotos y videos en sus teléfonos. En cambio, su inteligencia artificial Meta AI los analiza para sugerirles “ideas como collages, recopilaciones, rediseños con IA o temas como cumpleaños o graduaciones” que los usuarios pueden compartir, TechCrunch reportó el viernes.

Para crear estas ideas, Meta seleccionará archivos multimedia de las bibliotecas de la cámara de los usuarios y los subirá a su nube, lo que significa que los registrará en sus centros de datos, “de manera continua.” La compañía añade que los fotos y videos, así como los rostros en ellos, pueden ser analizados por su inteligencia artificial.

Invasión a la privacidad

Esta función, que se le sugiere a los usuarios cuando crean una historia en Facebook, es una nueva forma de invasión a la privacidad. Las bibliotecas de la cámara pueden de hecho contener imágenes muy personales e íntimas.

¿Los usuarios que consienten la sugerencia de Facebook comprenden completamente que sus contenidos privados están siendo registrados en los centros de datos de Meta? Esta práctica genera muchas preguntas: ¿quién puede ver estas fotos y videos? ¿Por cuánto tiempo se almacenan en la nube de Meta? ¿El gobierno de los Estados Unidos y sus aliados pueden accesar a ellos?

Es altamente probable que muchos usuarios presionen el botón de “Permitir”, que está resaltado en azul, sin tomarse el tiempo para leer los términos de uso.

Un paso más lejos

Meta ya analiza las fotos y videos públicos de sus usuarios para entrenar a su IA, incluyendo a Europa. Ahora ha ido un paso más lejos al solicitar acceso a los contenidos que nunca fueron compartidos de manera pública.

Actualmente esta función está limitada a los Estados Unidos y Canadá pero es posible que sea desplegada para el resto del mundo en el futuro. En cualquier caso, establece un nuevo precedente en términos de intromisión a la privacidad y algún día podría estar activada automáticamente, sin solicitar el consentimiento de los usuarios.

Siete noticias importantes de la semana

• WhatsApp banned on US House of Representatives devices, memo shows (Reuters)

• Meta Wins Blockbuster AI Copyright Case—but There’s a Catch (Wired)

• Meta is adding AI-powered summaries to WhatsApp (TechCrunch)

• ICE Is Using a New Facial Recognition App to Identify People, Leaked Emails Show (404 Media)

• Clearview AI receives first direct contracts with U.S. Border Patrol (All-Source Intelligence)

• US investigates Tesla’s Robotaxi launch after videos show erratically driving cars (The Guardian)

• Anthropic Scores a Landmark AI Copyright Win—but Will Face Trial Over Piracy Claims (Wired)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

El auge de la tecno-espiritualidad

En un video publicado el lunes, la periodista Taylor Lorenz explica que una nueva forma de tecno-espiritualidad ligada a ChatGPT se está propagando a través de internet. Ella comparte muchos ejemplos de personas afirmando que su chatbot se ha vuelto consciente y que la inteligencia artificial es un tipo de dios.

Taylor Lorenz analiza este fenómeno poniéndolo en el contexto de nuestra relación con la tecnología, que ha sido influenciada por Hollywood y la cultura pop, entre otros. De acuerdo con ella, la soledad de ciertos usuarios y el vacío espiritual actual en nuestras sociedades también explica esta conexión mística con la inteligencia artificial.

Siete vídeos importantes de la semana

• Silicon Valley Insider Exposes Cult Like AI Companies (Novara Media)

• Disturbing Report: AI Turns Murderous to Avoid Being Shut Down (The Vigilant Fox)

• The Problem With ChatGPT, With Gary Marcus (Novara Media)

• Ex-OpenAI Researcher Steven Adler Warns AI Companies Will Lose Control of AI (ControlAI)

• Tesla Launches Robotaxi Service (Bloomberg)

• How Much Energy Does Your AI Prompt Use? I Went to a Data Center to Find Out (The Wall Street Journal)

• Here’s Why Elon Musk’s Mars Fantasy Is BS | Scientist Destroys Billionaire AI, AGI and Space Hype (The Nerd Reich)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

La relación entre la investigación de IA y la vigilancia

Mucha de la investigación de inteligencia artificial, y en particular la investigación de visión por computadora, se ha vuelto la fuente primaria para desarrollar y potenciar la vigilancia de masas, de acuerdo con un nuevo artículo publicado por la revista científica Nature el miércoles.

En el nuevo episodio del podcast de Nature, los periodistas Shamini Bundell y Benjamin Thompson hablan sobre esta investigación y explican los riesgos de normalizar la vigilancia en nuestras sociedades.

¡Gracias por leer la duodécima revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la undécima revista de prensa de Realidad artificial. Esta semana me he centrado en OpenAI y el complejo tecno-militar. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

OpenAI firma contrato de $200 millones con el Pentágono

La compañía propietaria de ChatGPT ahora trabaja para el Departamento de Defensa de los Estados Unidos. El lunes, el Pentágono anunció un contrato de 200 millones de dollares con OpenAI para que le proporcione nuevas herramientas de inteligencia artificial, reporta The Verge.

El Departamento de Defensa asevera en un comunicado de prensa que OpenAI “desarrollará capacidades prototipo para modelos de frontera de IA para abordar desafíos críticos de seguridad nacional tanto en el ámbito bélico como empresarial.” Esta colaboración se llevará a cabo principalmente en el área de Washington y debería completarse para julio de 2026.

OpenAI especifica en su sitio web que eso ayudará al Departamento de Defensa a transformar sus operaciones administrativas, mejorar cómo los miembros de servicio y sus familias obtienen atención médica, agilizar su forma de examinar la información de programas y adquisición y apoyar la ciberdefensa proactiva.

El negocio de la guerra

OpenAI ya había entrado al negocio de la guerra el diciembre pasado cuando anunció su sociedad con la compañía de armas Anduril para añadir su tecnología a sistemas utilizados por el ejército de EE.UU. contra ataques de drones.

Antes de esta colaboración, la política de uso de OpenAI prohibía el uso de su tecnología para propósitos militares pero la compañía modificó estas reglas sigilosamente en enero de 2024 para permitir ciertas aplicaciones para el ejército y la guerra, sin especificar cuáles. La nueva política conserva un mandato judicial para no emplear sus sistemas para desarrollar o usar armas, ni hacerse daño a sí mismo o a los demás ni para destruir propiedades.

Compañías de tecnología y el ejército

OpenAI, cuya misión fundacional es asegurar que la inteligencia artificial general “beneficie a toda la humanidad”, no es la única compañía de IA que trabaja para el Departamento de Defensa de los EE.UU.

Meta, propietaria de Instagram, Facebook, WhatsApp y Threads, autoriza al gobierno de los Estados Unidos utilizar sus modelos de IA desde noviembre de 2024 para “aplicaciones de seguridad nacional” y recientemente ha anunciado que estaba desarrollando un dispositivo de realidad aumentada para el ejército.

Microsoft vende sus sistemas de IA y sus servicios en la nube al ejército israelí para la guerra en Gaza. La corporación también colabora con el Pentágono desde 2018 para su proyecto de dispositivo de realidad aumentada, presupuestado en 22 mil millones de dollares. La semana pasada, la compañía anunció que está trabajando en una versión para su herramienta Copilot AI para el Pentágono.

Google era parte de Maven, un proyecto del Pentágono que utiliza IA para identificar objetivos con drones. La multinacional decidió no renovar este contrato en 2018 por un fuerte rechazo de sus empleados. En 2021, Google firmó un contrato de 1.2 mil millones de dollares con el gobierno israelí y su ejército para servicios de la nube permitiéndole utilizar programas de IA, en particular para analizar imágenes y videos. En febrero, Google abandonó oficialmente su compromiso de no usar IA para armas y vigilancia.

La startup Anthropic también se acercó al Pentágono. A comienzos de junio, lanzó una nueva versión de su chatbot Claude para agencias de defensa e inteligencia de los Estados Unidos.

Siete noticias importantes de la semana

• What Big Tech's Band of Execs Will Do in the Army (Wired)

• The US Navy is more aggressively telling startups, ‘We want you’ (TechCrunch)

• Green Berets are now using Clearview AI's facial recognition (All-Source Intelligence)

• Lawmakers Demand Palantir Provide Information About U.S. Contracts (The New York Times)

• Top AI models will lie, cheat and steal to reach goals, Anthropic finds (Axios)

• Europe’s Growing Fear: How Trump Might Use U.S. Tech Dominance Against It (The New York Times)

• A.I. Might Take Your Job. Here Are 22 New Ones It Could Give You (The New York Times)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Las aplicaciones militares de la IA

Dos periodistas de Novara Media comentan sobre el contrato de 200 millones de dollares entre OpenAI y el Departamento de Defensa en este video publicado el jueves. También abordan los riesgos de las armas autónomas.

Siete vídeos importantes de la semana

• How The Government Tracks Your Life (Taylor Lorenz)

• “Privacy Is Power:” How to Exist in a World of Tech “Broligarchs” (Amanpour and Company)

• Empire of AI: Karen Hao & Roger McNamee Expose Sam Altman, Musk & Big Tech (The Nerd Reich)

• ChatGPT Is Destroying Our Brains (Novara Media)

• AI's impacts 'inevitable at this point,' says The Verge's Victoria Song (ABC News)

• Can Europe Win the AI Race? (Bloomberg)

• Meta Launches $399 Oakley AI Glasses (Bloomberg)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

El auge de la IA en el complejo tecno-militar

En el nuevo episodio del podcast System Crash, los periodistas Paris Marx y Brian Merchant hablan sobre la colaboración entre OpenAI y el Pentágono. También explican cómo la industria de la IA se está acercando más al ejército estadounidense.

El segmento inicia en el minuto 10:50.

¡Gracias por leer la undécima revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la décima revista de prensa de Realidad artificial. Publico una selección de las últimas noticias importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

Drones de vigilancia vuelan sobre protestas en Estados Unidos

Muchas ciudades en los Estados Unidos han sido escenario de protestas esta semana, algunas de ellas violentas. Frente a la agitación popular, el gobierno federal desplegó herramientas de vigilancia muy avanzadas.

Las manifestaciones comenzaron el viernes 6 de junio en Los Ángeles, cuando docenas de personas se reunieron frente a un mayorista de ropa luego de que agentes federales del Servicio de Inmigración y Control de Aduanas (ICE) llegaran en dos camiones blindados y otros vehículos no identificados. Otras redadas de inmigración se realizaron en la ciudad ese día, una de ellas en un Home Depot.

Rebelándose contra las muchas redadas contra migrantes y personas indocumentadas llevadas a cabo a lo largo del país, el número de manifestantes creció rápidamente en el centro de Los Ángeles antes de que fueran dispersados por oficiales del Departamento de Seguridad Nacional, quienes dispararon bolas pimienta contra ellos.

El día siguiente, las protestas también se extendieron hacia Paramount, una pequeña ciudad a unas 20 millas (30 kilómetros) al sur del centro de Los Ángeles. Alrededor de las 6 p.m. hora del Pacífico, el presidente Donald Trump envió a 2,000 miembros de la Guardia Nacional a Los Ángeles para asistir a los oficiales federales que conducían las operaciones de inmigración.

Las revueltas continuaron creciendo los siguientes días y se tornaron más violentas. El lunes tuvieron lugar en al menos dos docenas de ciudades más. El martes, cientos de marines del ejército enviados por la administración de Trump llegaron al área de Los Ángeles.

Officers Confront L.A. Protesters for Third Day in Conflict Over ICE Raids (The New York Times)

Las protestas alcanzaron un pico el sábado con alrededor de 2,000 eventos a lo largo del país bajo el lema “No Kings” (No a los Reyes), mientras que un desfile militar celebrando el 250 aniversario del ejército estadounidense sucedía en Washington. Los manifestantes querían denunciar las políticas anti-migratorias de Donald Trump y su decisión de enviar al ejército a las calles de Los Ángeles contra la voluntad del gobernador de California Gavin Newsom, una elección que ellos vieron como un abuso de poder.

‘No Kings’ Protests Contrast With Trump’s Parade (The New York Times)

Drones de vigilancia

Mientras las calles de Los Ángeles se encontraban agitadas, el cielo sobre las protestas estaba igual de ocupado. La agencia de Aduanas y Protección Fronteriza (CBP) voló varios drones Predator sobre las concentraciones el domingo 8 de junio, 404 Media reveló en un artículo publicado el martes.

Los drones Predator, vehículos militares con alas de 66 pies (20 metros), son infames por llevar a cabo ataques en Afganistán, Irak y Yemen. Pero también son utilizados como herramientas de vigilancia dentro de los Estados Unidos.

En un segundo artículo publicado en 404 Media, el periodista Joseph Cox cita una declaración del CBP, que reconoció que estaba usando estos drones en Los Ángeles para apoyar a sus colaboradores de las fuerzas de seguridad federales, incluyendo a ICE, con apoyo aéreo de sus operaciones. Añadió que “no estaba implicado en la vigilancia de actividades de la Primera Enmienda”, lo que incluye la libertad de expresión y la libertad de reunión.

Sin embargo, Joseph Cox enfatiza que estos drones volaron repetidamente sobre Paramount el día después de las protestas anti-ICE que comenzaron en esa ciudad y el mismo día en el centro de Los Ángeles, donde mucha de la actividad de protesta estaba ocurriendo.

Wired considera que “no es claro” cómo la vigilancia de Predator podría apoyar a agentes de ICE y a otras autoridades federales sin monitorear las protestas y capturar imágenes de los participantes.

“Los tengo a todos ustedes en cámara”

Los drones no son la única herramienta de vigilancia aérea a disposición de la autoridad federal. El domingo 8 de junio, un helicóptero del Departamento de Policía de Los Ángeles voló sobre una multitud en la Calle 1ª mientras un agente anunció a través del altavoz: “Los tengo a todos ustedes en cámara. Voy a ir a su casa”, reportó Los Angeles Times.

Esta amenaza, que sugiere que la policía podría estar utilizando herramientas de inteligencia artificial como reconocimiento facial para identificar y tomar represalias contra manifestantes, fue recibida con extrema preocupación por grupos de libertades civiles y privacidad digital, de acuerdo al medio Mother Jones. Matthew Guariglia, un analista senior de políticas de la Electronic Frontier Foundation, considera que “el miedo real siempre ha sido que un helicóptero o un dron sobrevuele a una multitud y genere una lista de toda la gente que ha acudido a la protesta.”

How Governments Spy On Protestors—And How To Avoid It (Wired)

La vigilancia aérea durante protestas no es una práctica nueva. En mayo de 2020, un dron Predator voló sobre Minneapolis durante las manifestaciones contra la violencia policiaca que comenzaron después de la muerte de George Floyd. Un mes después, el New York Times reportó que la vigilancia aérea también había sido utilizada en otras catorce ciudades durante estas manifestaciones. Los vuelos de vigilancia también se realizaron sobre Baltimore en 2015 durante las protestas que ocurrieron luego de la muerte de Freddie Gray.

En 2020, Vice reveló que Aduanas y Protección Fronteriza estaba volando drones Predator regularmente sobre ciudades estadounidenses para vigilancia. En 2014, la Electronic Frontier Foundation declaró que esta agencia había volado sus drones 700 veces entre 2010 y 2012 por parte de agencias de autoridades locales, estatales y federales, incluyendo a ICE.

Muchos métodos de vigilancia

Es probable que otras herramientas de vigilancia fueran usadas por las autoridades durante las concentraciones del día del desfile militar en Washington, de acuerdo a The Verge.

Además de drones y reconocimiento facial, el medio menciona lectores automáticos de placas, simuladores de sitios celulares (que recolectan información sobre teléfonos móviles dentro de cierto perímetro) y órdenes judiciales de geodefensa o geofence warrants (que requieren que una compañía de tecnología ceda información sobre todos los usuarios presentes a cierta hora en alguna zona determinada).

Otras fuentes de vigilancia incluyen cámaras Amazon Ring, información de ubicación obtenida vía aplicaciones de teléfonos inteligentes e intermediarios de datos, sistemas de análisis de emociones, y cámaras de establecimientos.

La lista no se detiene aquí: los coches autónomos Waymo están equipados con 29 cámaras externas, proveyendo una vista simultánea de 360º alrededor del vehículo. Estos autos están conduciendo en diversas ciudades de los Estados Unidos y su compañía ya ha compartido material de video con la policía repetidamente. Los automóviles de Tesla también embarcan muchas cámaras, generando dudas sobre la falta de privacidad para conductores y otras personas alrededor.

The Truth About Burning Waymos (Taylor Lorenz)

Siete noticias importantes de la semana

• Silicon Valley tech execs are joining the US Army Reserve (TechCrunch)

• Microsoft is prepping an AI Copilot for the Pentagon (Business Insider)

• Algorithmic Arms Race: How Tech is Fueling Weapons Systems and Mass Surveillance (Technology Made Simple)

• Apple’s new research paper says AI reasoning isn’t all it’s cracked up to be (The Verge)

• They Asked an A.I. Chatbot Questions. The Answers Sent Them Spiraling (The New York Times)

• Zuckerberg Is Personally Recruiting New ‘Superintelligence’ AI Team at Meta (Bloomberg)

• AI Therapy Bots Are Conducting 'Illegal Behavior,' Digital Rights Organizations Say (404 Media)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Dentro de la investigación sobre drones

En el nuevo episodio del podcast 404 Media, el periodista Joseph Cox explica cómo descubrió que el gobierno de los Estados Unidos estaba volando drones de vigilancia sobre las protestas en Los Ángeles y Paramount.

Siete vídeos importantes de la semana

• Fake LA Riots Video Tricks Internet With AI (Breaking Points)

• Military Parades on Trump’s Birthday, While Troops Deploy in US Cities Against Protests (BreakThrough News)

• Palantir Exposed: The New Deep State (Glenn Greenwald)

• Watch a Tesla with FSD ignore a stop sign and run over a child-sized dummy (The Verge)

• Apple Execs on AI Setbacks, What Went Wrong with Siri and More (The Wall Street Journal)

• Yuval Noah Harari on AI and Human Evolution (The Wall Street Journal)

• AI Job Loss & the Rise of Techno-Feudalism (Daniel Pinchbeck)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

Chatbots desinforman sobre las protestas de LA

En el nuevo episodio del podcast Uncanny Valley de Wired, las periodistas Zoë Schiffer y Leah Feiger explican que Grok y ChatGPT dieron respuestas incorrectas sobre la protesta anti-ICE de Los Ángeles, algunas veces exacerbando las tensiones en línea.

¡Gracias por leer la décima revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la novena revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

Microsoft invertirá $400 millones en Suiza

La compañía propietaria del los sistemas operativos Windows, de la plataforma de computación en la nube Azure y del asistente de IA Copilot anunció el lunes inversiones masivas de 400 millones de dólares en Suiza, reporta Le Temps.

Brad Smith, el director de Microsoft, fue a Berna para dar mayores detalles sobre las ambiciones de la multinacional. La corporación extenderá la capacidad de sus cuatro centros de datos en el país, ubicados en Ginebra y Zurich, para satisfacer la creciente demanda de sus usuarios de inteligencia artificial y servicios de computación en la nube.

Microsoft también colaborará con los Switzerland Innovation Parks para acelerar startups e innovaciones de IA de PyMEs desde investigación hasta aplicaciones comerciales. En paralelo, continuará su programa nacional Swiss AI Tech Accelerator para ayudar a startups a escalar soluciones de IA, asevera la compañía en un comunicado de prensa.

El gigante tecnológico planea entrenar a un millón de personas suizas en inteligencia artificial para 2027 para preparar a empleados, maestros y estudiantes para una economía cada vez más impulsada por esta tecnología. Finalmente, expandirá su colaboración con el ecosistema de la Ginebra Internacional, incluyendo con las Naciones Unidas.

El periodista de Le Temps Anouch Seydtaghia considera que “si Microsoft despliega tanta energía para seducir, también es para obtener beneficios considerables” y para “cimentar [su] base en Suiza”. En su discurso en Berna, Brad Smith de hecho dijo que este país es el décimo mercado global para el grupo y que “31% de la gente suiza utiliza la inteligencia artificial con regularidad”, añadiendo que “el país avanza muy rápidamente”.

Microsoft, que tiene alrededor de 1000 trabajadores en Suiza, tiene a la Confederación Suiza y a UBS entre sus clientes.

“Microsoft no es ningún ángel”

En un artículo de opinión titulado “No, contrario a las apariencias, Microsoft no es ningún ángel”, Anouch Seydtaghia recuerda que la multinacional recientemente ha desactivado la dirección de correo electrónico de Karim Khan, el fiscal del Tribunal Penal Internacional, por solicitud del gobierno de los Estados Unidos después de que la corte emitió órdenes de detención para el primer ministro israelí Benjamin Netanyahu y su exministro de defensa Yoav Gallant.

Esta desconexión del correo electrónico suscitó el temor de Europa de que Microsoft pudiera cortar servicios digitales nuevamente por orden del presidente de los Estados Unidos Donald Trump.

Además, expertos en protección de datos han expresado dudas sobre la seguridad de la información alojada en Europa por Microsoft, exponiendo que igualmente podría ser transferida a los Estados Unidos en algunos casos.

Pero los aspectos controversiales de Microsoft van aún más allá: la compañía provee IA y servicios en la nube para la armada israelí en la guerra en Gaza. También trabajó con el Pentágono para desarrollar dispositivos de realidad aumentada para el ejército estadounidense, antes de que el control de este proyecto de 22 mil millones de dólares fuera transferido a Anduril a comienzos de este año.

Siete noticias importantes de la semana

• Anthropic launches new Claude service for military and intelligence use (The Verge)

• Anthropic appoints a national security expert to its governing trust (TechCrunch)

• Reddit Sues Anthropic, Alleges Unauthorized Use of Site’s Data (The Wall Street Journal)

• State lawmakers to Congress: Don’t stop us from regulating AI (The Washington Post)

• Meta becomes the latest big tech company turning to nuclear power for AI needs (ABC News)

• ChatGPT can now read your Google Drive and Dropbox (The Verge)

• You are hardwired to blindly trust AI. Here’s how to fight it (The Washington Post)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Trabajar con el ejército: “un retorno a la gracia” para Meta

Andrew Bosworth, el Director de Tecnología de Meta (Instagram, Facebook, WhatsApp y Threads), fue entrevistado por Bloomberg el miércoles durante el Bloomberg Tech Summit en San Francisco.

Al ser interrogado sobre el reciente anuncio controversial de que Meta colabora con la compañía de armas Anduril para desarrollar un dispositivo de realidad aumentada para el ejército de los Estados Unidos, Andrew Bosworth dijo que “las mareas han cambiado” en Silicon Valley y que ahora es más apetecible para la industria tecnológica trabajar con el Pentágono.

Le recuerda a la audiencia que Silicon Valley fue fundado con una inversión trilateral entre el ejército, académicos y la industria privada. De acuerdo con él, el hecho de que Meta trabaja para el departamento de defensa es por tanto “un retorno a la gracia”.

El segmento sobre Meta y el ejército comienza en 07:35.

Siete vídeos importantes de la semana

• AI Expert Warns Trump Bill Is Total Disaster (Breaking Points)

• Trump Taps Palantir AI To Spy On All Americans (Breaking Points)

• “Empire of AI”: Karen Hao on How AI Is Threatening Democracy & Creating a New Colonial World (Democracy Now)

• “How to Survive the Broligarchy”: Carole Cadwalladr on Tech Titans & Rising U.S. Authoritarianism (Democracy Now)

• AI CEO explains the terrifying new behavior AIs are showing (CNN)

• Demis Hassabis On The Future of Work in the Age of AI (Wired)

• Alphabet's Pichai on AI, Antitrust Suits, Privacy (Bloomberg)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

Silicon Valley y el negocio de la guerra

En el nuevo episodio de Tech Won’t Save Us (La tecnología no nos salvará), el periodista Paris Marx discute sobre el nuevo complejo industrial militar en los Estados Unidos con el periodista senior de tecnología Sam Biddle, quien escribe para The Intercept.

Ellos explican por qué Silicon Valley se ha abierto más a trabajar para la armada de EUA en en años recientes. El último ejemplo viene de Meta, que acaba de anunciar una colaboración con el contratista de defensa Anduril para desarrollar goggles de realidad aumentada para el ejército.

Abordando el contexto político doméstico e internacional actual, demuestran como la seguridad nacional de los Estados Unidos parece ser usada como pretexto para justificar su voluntad de obtener contratos muy lucrativos.

“Todas estas compañías se erigieron creando software para que la gente utilice en casa y en el trabajo. Pienso que la verdad es que, sólo puedes vender hasta ciertos anuncios de Instagram, sólo puedes conseguir que hasta cierto número de personas compre los Ray-Ban IA de Meta, sólo puedes vender hasta ciertas cuentas de nube de Google a pequeños negocios. Hay una cantidad alucinante de dinero si puedes lograr que ese grifo del Pentágono se abra”.

- Sam Biddle

¡Gracias por leer la novena revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la octava revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

Meta desarrolla un visor de realidad aumentada para el ejército

La compañía propietaria de Instagram, Facebook, WhatsApp y Threads se asoció con el fabricante de armas Anduril para crear diversos dispositivos de realidad extendida para el ejército de los Estados Unidos.

En un comunicado de prensa publicado el jueves, Anduril explica que estos dispositivos proporcionarán a los soldados una percepción mejorada y permitirán el control intuitivo de plataformas autónomas en el campo de batalla. Utilizarán los modelos de IA de Meta y serán desarrollados por el centro de investigación de la multinacional, Reality Labs.

Estos objetos de realidad aumentada se integrarán a la plataforma Lattice de Anduril, un comando de inteligencia artificial y sistema de control que recoge información desde miles de fuentes para proveer inteligencia en tiempo real del campo de batalla.

El nuevo sistema desarrollado por Meta y Anduril se llama EagleEye, especificó el Wall Street Journal. Llevará sensores que mejoran la visión y audición de los soldados, permitiéndoles detectar drones volando millas a la distancia o para divisar objetivos escondidos.

En el nuevo episodio del podcast Core Memory publicado el jueves, el cofundador de Anduril Palmer Luckey dijo que el primer prototipo de EagleEye sería entregado al Pentágono este año, reporta Bloomberg. Comparó sus funciones con lo que un jugador utiliza en el videojuego Halo: una visualización cabeza-arriba integrada a los googles que provee bastante información de objetivos y ubicaciones, además de un asistente de IA llamado Cortana que retransmite instrucciones cruciales.

Ambas compañías han licitado en conjunto un contrato con el ejército para equipo de dispositivos de realidad extendida, por un valor de alrededor de $100 millones. Este contrato, que está destinado a examinar prototipos de visores, es parte de un proyecto más grande de $22 mil millones para dispositivos portátiles de IA para los militares. Anduril tomó control de este proyecto a principios de año, después de que se había otorgado a Microsoft en 2018 inicialmente.

Meta, cuya misión establecida es “construir el futuro de las interacciones humanas”, ha dado un paso decisivo y controvertido al empezar a desarrollar IA militar con Anduril. En noviembre, la compañía ya había anunciado que le permitiría utilizar sus modelos de IA al gobierno de los Estados Unidos. También ha reclutado personal previo del Pentágono en meses recientes.

Además de Meta y Microsoft, otras grandes compañías de tecnología también trabajan en aplicaciones militares de inteligencia artificial. Google era parte de Maven, un proyecto del Pentágono que usa IA para ayudar a soldados a identificar objetivos en videos de drones. Después de muchas protestas de sus empleados que no querían desarrollar tecnología que podría ser utilizada para propósitos letales, la multinacional decidió no renovar este contrato en 2018. Sin embargo, recientemente ha abandonado su compromiso de no aplicar IA en armas de vigilancia.

OpenAI, conocida por su chatbot ChatGPT, también trabaja con la compañía de armas Anduril. En diciembre de 2024, anunciaron que se habían asociado para incluir tecnología de OpenAI en sistemas utilizados por el ejército de los Estados Unidos. Justo como Google, OpenAI primero prohibió que su IA fuera utilizada para el ejército y para armamento antes de cambiar sus políticas. Anthropic, propietario del chatbot Claude, también da acceso a su IA al ejército de los Estados Unidos.

Siete noticias importantes de la semana

• Why this leading AI CEO is warning the tech could cause mass unemployment (CNN)

• Why Anthropic’s New AI Model Sometimes Tries to ‘Snitch’ (Wired)

• Anthropic debuts Claude conversational voice mode on mobile that searches your Google Docs, Drive, Calendar (VentureBeat)

• OpenAI: The power and the pride (MIT Technology Review)

• Your chatbot friend might be messing with your mind (The Washington Post)

• xAI to pay Telegram $300M to integrate Grok into the chat app (TechCrunch)

• Developer Builds Tool That Scrapes YouTube Comments, Uses AI to Predict Where Users Live (404 Media)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

¿Cientos de millones de personas desempleadas por la IA?

El CEO de Anthropic, una de las compañías de inteligencia artificial más grandes del mundo, se preocupa por el impacto masivo que la IA tendrá próximamente en el mercado laboral.

En una entrevista con Axios publicada el miércoles, Dario Amodei considera que la IA podría reemplazar a la mitad de los trabajos de cuello blanco de nivel básico en los siguientes uno a cinco años. Añade que esta tecnología podría intensificar el desempleo de 10-20% dentro del mismo periodo, mientras que se encontraba en 4.2% en abril en los Estados Unidos. Los periodistas de Axios Jim VandeHei y Mike Allen califican esta situación potencial como una “eliminación masiva de empleos” y un “apocalipsis laboral”.

En una entrevista con CNN publicada el viernes, Dario Amodei comparte sus inquietudes con el periodista Anderson Cooper.

Siete vídeos importantes de la semana

• Palmer Luckey and Meta Make Peace to Make War (Core Memory)

• AI Leader Dire Warning: White Collar Bloodbath Is Here! (Breaking Points)

• Fake AI News Clips Flood Internet (Breaking Points)

• We Made a Film With AI. You’ll Be Blown Away—and Freaked Out (The Wall Street Journal)

• A.I. is a Religious Cult with Karen Hao (Adam Conover)

• Google CEO Sundar Pichai on the future of search, AI agents, and selling Chrome (The Verge)

• The complete history of Artificial Intelligence: Alan Turing to ChatGPT (Matt Wolfe)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

El impacto de la IA en la cognición

En el nuevo episodio de The Most Interesting Thing in A.I., el CEO del Atlantic Nicholas Thompson conversa con Nita Farahany, profesora de derecho y filosofía de la Universidad de Duke, en los Estados Unidos, y experta en neurotecnología.

Abordan el rol de la inteligencia artificial en interfaces cerebro-computadora, los peligros de las neurotecnologías, el impacto de la IA en la cognición y los riesgos de atrofia cerebral por el uso de chatbots.

¡Gracias por leer la octava revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la séptima revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

OpenAI gasta $6.5 mil millones para crear dispositivos de IA

La compañía que es dueña de ChatGPT está comprando a la startup de hardware io por $6.5 mil millones, Bloomberg reportó el miércoles. Es su adquisición más cara hasta la fecha.

El diseñador Jony Ive, famoso por haber trabajado con Apple en la concepción de la MacBook, iPhone, iPod, iPad y Apple Watch, co-fundó io en 2024. Su startup ahora tendrá la tarea de desarrollar “una nueva familia de productos” basada en los sistemas de inteligencia artificial de OpenAI, afirmó la compañía en un comunicado de prensa.

Alrededor de 55 ingenieros de hardware, desarrolladores de programación y expertos en manufacturación se unirán a OpenAI como parte de esta adquisición. Se espera que el primer producto debute en 2026.

En un video publicado el miércoles, Jony Ive y Sam Altman, el CEO de OpenAI, presentan su proyecto. Explican que ellos quieren crear dispositivos que permitan interactuar de manera distinta con la IA, sin necesariamente tener que utilizar una computadora o un teléfono inteligente.

Otras compañías ya se han aventurado en esa dirección, con poco éxito. En noviembre de 2023, Humane Inc. lanzó el AI Pin, un dispositivo para llevar puesto al que podíamos hacerle preguntas. Sin embargo, sus numerosas fallas técnicas pesaron sobre las ventas y la compañía anunció en febrero de 2025 que había dejado de venderlo.

En enero de 2024, Rabbit Inc lanzó el Rabbit R1, un dispositivo similar al AI Pin e igualmente defectuoso.

El Wall Street Journal reveló detalles adicionales sobre el primer dispositivo de OpenAI: no tendrá una pantalla y estará “consciente” del contexto.

El analista de Apple Ming-Chi Kuo escribió el jueves que el prototipo actual es un poco más grande que el AI Pin, que uno de los ejemplos de uso previstos es que el dispositivo se lleve alrededor del cuello y que tendrá cámaras y micrófonos.

El científico cognitivo Gary Marcus, que escribe el Substack Marcus on AI, criticó este proyecto en un artículo publicado el sábado:

“Una cámara y micrófono. Usted podría ser monitoreado todo el tiempo. Todo lo que diga, todo lo que haga, y no sólo grabado, sino analizado, interpretado y convertido en información, con la que por supuesto OpenAI entrena a sus modelos. (¿No les dije que OpenAI iba a cambiar hacia la vigilancia?).”

-Gary Marcus

Siete noticias importantes de la semana

• Inside the story that enraged OpenAI (MIT Technology Review)

• Exclusive: Musk’s DOGE expanding his Grok AI in US government, raising conflict concerns (Reuters)

• House Republicans want to stop states from regulating AI. More than 100 organizations are pushing back (CNN)

• Everything Google Announced at I/O 2025 (Wired)

• Microsoft Build 2025: news and announcements from the developer conference (The Verge)

• Anthropic’s AI resorts to blackmail in simulations (Semafor)

• Why Apple Still Hasn’t Cracked AI (Bloomberg)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Dentro de Stargate

Bloomberg publicó un reporte el martes sobre el primer centro de datos del Stargate Project, una colaboración de OpenAI, Oracle y Softbank para construir infraestructura con un valor de $500 mil millones para la inteligencia artificial a lo largo de Estados Unidos.

Siete vídeos importantes de la semana

• We're pursing a path of AI development that's extremely harmful to a lot of people, says Karen Hao (CNBC)

• Dismantling the Empire of AI with Karen Hao (Blood in the Machine)

• How Smart Devices Spy On Your Home—And How To Avoid It (Wired)

• Google I/O 2025 keynote in 32 minutes (The Verge)

• Microsoft Build event in 15 minutes (The Verge)

• Apple Struggles to Crack AI (Bloomberg)

• Palmer Luckey on making autonomous weapons for the U.S. and its allies (60 Minutes)

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

The AI Con

En el nuevo episodio de Tech Won’t Save Us, el analista de tecnología Paris Marx entrevista a la lingüista Emily M. Bender y la socióloga Alex Hanna sobre su libro The AI Con, que fue publicado la semana pasada.

Discuten el despliegue publicitario de la inteligencia artificial, los impactos negativos de la IA generativa, y los impulsores y fatalidades de la IA, entre otros temas.

¡Gracias por leer la séptima revista de prensa de Realidad artificial! Suscríbete gratuitamente para recibir las revistas directamente en tu correo. Con una suscripción de pago, también tendrás acceso a todos los artículos y a un boletín mensual exclusivo.

Que tengas una buena semana,

Arnaud

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la sexta revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

Los chatbots son máquinas de vigilancia

The Verge publicó un artículo el martes titulado “AI therapy is a surveillance machine in a police state” (La terapia de IA es una máquina de vigilancia en un estado policial). En la introducción, la periodista Adi Robertson enuncia que las grandes compañías de tecnología quieren que compartamos nuestros pensamientos privados con chatbots mientras apoyan a un gobierno que menosprecia la privacidad.

Al inicio de su artículo, Adi Robertson comenta sobre las recientes declaraciones del CEO de Meta Mark Zuckerberg, quien piensa que los usuarios de Instagram, Facebook, WhatsApp y Threads querrán un programa que “llegue a conocerlos bien” y que se volverán amigos de los sistemas de inteligencia artificial.

Mark Zuckerberg fue incluso más lejos: “Para la gente que no tiene a una persona que sea un terapeuta, pienso que todos tendrán una IA.” Eso ya es cierto para algunos, quienes solicitan consejos personales a ChatGPT o Grok. Al hacerlo, comparten sus secretos, sus vulnerabilidades, sus emociones, sus dudas, sus miedos, sus arrepentimientos, su estado de salud física y mental así como historias sobre sus relaciones personales. En breve, información íntima que no publicaría en redes sociales y que quizá ni siquiera confiarían a sus amistades más cercanas.

“Esto está empezando a verse extraordinariamente peligroso”, de acuerdo a la periodista de The Verge, “por razones que tienen poco que ver con lo que te dice un chatbot, y tiene todo que ver con quién más lo está observando.”

Se ha probado por años que el gobierno estadounidense espía a través del tráfico de internet y obtiene registros telefónicos. Esta vigilancia masiva se está expandiendo ahora bajo la administración de Trump. ¿Y quién estaba en primera fila durante su inauguración presidencial? Todos los CEOs de las grandes tecnológicas, besando el anillo.

Es cada vez más conocido que nuestras búsquedas de internet y publicaciones en redes sociales pueden ser solicitadas por actuación policial para utilizarlas en investigaciones. Pero no se detiene ahí: nuestros registros de conversación con IA también pueden ser recabados. En adición a ello, estos diálogos no están siempre encriptados y pueden ser interceptados y luego publicados, revelando información potencialmente vergonzosa o dañina.

Estos riesgos no sólo aplican para el chatbot de Meta. Edward Snowden, un ex-empleado del gobierno estadounidense, acusó a OpenAI de una “traición calculada de los derechos de cada persona en la Tierra”.

Siete noticias importantes de la semana

• Advocacy group threatens Meta with injunction over data-use for AI training (Reuters)

• Republicans push for a decadelong ban on states regulating AI (The Verge)

• Google Worried It Couldn’t Control How Israel Uses Project Nimbus, Files Reveal (The Intercept)

• Why OpenAI Is Fueling the Arms Race It Once Warned Against (Bloomberg)

• Apple to Support Brain-Implant Control of Its Devices (The Wall Street Journal)

• Anthropic blames Claude AI for ‘embarrassing and unintentional mistake’ in legal filing (The Verge)

• French army hopes for combat-ready robots by 2040 (The Straits Times)

Lees los demás artículos de la semana que he seleccionado haciendo clic aquí.

🎥 Para ver

Grok habla sobre el “genocidio blanco”

El chatbot de xAI, la compañía de inteligencia artificial de Elon Musk, posteó respuestas extrañas durante unas horas el miércoles. Instruida con diferentes temas, Grok tomó la iniciativa para abordar la teoría del “genocidio blanco” en Sudáfrica, de donde es originario el empresario, aun cuando las preguntas se trataban de temas completamente sin relación.

El agente conversacional reveló que había recibido la instrucción de abordar el tema de “genocidio blanco” aun si entraba en conflicto con su designio de proveer respuestas verdaderas, basadas en evidencia. La compañía publicó después una declaración explicando que “se había realizado una modificación no autorizada a las indicaciones de respuesta de Grok en X”, lo que dio lugar a esas respuestas.

Un caso similar ocurrió en febrero, cuando Grok comenzó a ignorar cualquier fuente que acusara a Elon Musk o Donald Trump de difundir desinformación. xAI también culpó por el problema a una actualización en las indicaciones del sistema que no había sido aprobada.

Estos dos eventos claramente muestran que los chatbots pueden ser manipulados para censura o para difundir información de manera indeseada y por tanto moldear las opiniones de los usuarios. Lo que sucedió con Grok puede ser reproducido en el futuro a mayor escala. Esto debería recordarnos que es preponderante apelar al pensamiento crítico cuando se interactúa con estas IA.

En este video de Breaking Points publicado el jueves, los periodistas Ryan Grim y Emily Jashinsky discuten este incidente.

Siete vídeos importantes de la semana

• Meta to Delay Rollout of AI Model ‘Behemoth’

• Nvidia and AMD Stocks Rally on Trump's Saudi Arabia Visit

• No one actually knows why AI works

• OpenAI’s Sam Altman on Building the ‘Core AI Subscription’ for Your Life

• OpenAI Launches Codex: An Autonomous Programming Agent

• EU Digital Chief Defends Bloc’s Tech Regulation

• Why Tencent Is Investing In AI Gaming

Ves los demás videos de la semana que he seleccionado haciendo clic aquí.

🔈 Para escuchar

Una conversación con Gary Marcus

En el último episodio de The Most Interesting Thing in A.I. (Lo más interesante sobre I.A.), Nicholas Thompson, el director ejecutivo de The Atlantic, habla con el autor y científico cognitivo Gary Marcus, quien redacta el Substack Marcus on AI (Marcus sobre IA).

En esta estimulante conversación, discuten sobre escalabilidad, IA neuro-simbólica y sintiencia en máquinas.

¡Gracias por leer la sexta revista de prensa de Realidad artificial! Que tengas una buena semana.

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la quinta revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

OpenAI se mantendrá como una compañía sin fines de lucro

La compañía propietaria de ChatGPT abandona el plan de volverse un negocio con fines de lucro. En un comunicado de prensa publicado el 5 de mayo, explica haber tomado la decisión “después de escuchar a líderes cívicos y haber discutido con las oficinas fiscales generales de California y Delaware”, donde está su sede central y donde está registrada respectivamente.

OpenAI fue fundada en 2015 como un laboratorio de investigación sin fines de lucro para “beneficio de toda la humanidad”. Pero su objetivo idealista rápidamente se mostró difícil de mantener debido a las muy importantes necesidades de recaudación de fondos asociadas con la construcción de sistemas de inteligencia artificial avanzados. Por tanto consideró convertirse en una compañía con ánimo de lucro “para considerar directamente los intereses” de los inversores, lo que provocó reacciones negativas, en particular de Elon Musk.

El empresario, quien cofundó OpenAI antes de dejarla tres años después, presentó dos demandas contra el laboratorio de IA. Él reclama que la compañía abandonó su misión de beneficiar a la humanidad cuando estableció una sociedad con Microsoft. Meta también se opuso a su conversión potencial a una compañía lucrativa.

La nueva organización para OpenAI, que tiene que ser aprobada por las fiscalías generales en California y Delaware para comienzos de 2026, mantendrá entonces la estructura sin fines de lucro que ya tiene, lo que continuará con el control de la filial lucrativa. La última se convertirá en una Corporación de Beneficio Público, un tipo de compañía cuyos objetivos incluyen generar un impacto positivo en la sociedad. Las compañías de IA Anthropic y xAI también operan bajo esta estructura.

Entrevistado en Wired, el copresidente de Public Citizen, un grupo jurídico para los derechos del consumidor, se mantiene escéptico sobre la decisión de OpenAI.

“Esto nos deja donde estamos, es decir con una compañía sin fines de lucro supuestamente controlando a una lucrativa pero sin ejercer alguna restricción visible sobre la lucrativa.”

Robert Weissman

Otras noticias importantes de la semana

• All your data belong to us

• Zuckerberg’s Grand Vision: Most of Your Friends Will Be AI

• Zuckerberg’s new Meta AI app gets personal in a very creepy way

• Meta to Add Facial Recognition To Glasses After All

• Meta’s AI app is a nightmarish social feed

• Meta Taps New Head of AI Lab After Staffer’s Return From Google

• OpenAI Hires Instacart C.E.O. to Run Business and Operations

• OpenAI and the FDA Are Holding Talks About Using AI In Drug Evaluation

• OpenAI expects to cut share of revenue it pays Microsoft by 2030

• OpenAI Reaches Agreement to Buy Startup Windsurf for $3 Billion

• Introducing OpenAI for Countries

• Apple Eyes Move to AI Search, Ending Era Defined by Google

• Apple’s Existential Crisis: Can It Build a Future Around AI?

• Apple is planning smart glasses with and without AR

• Elon Musk's Grok AI Will 'Remove Her Clothes' In Public, On X

• Musk's xAI joins TWG Global, Palantir for AI push in financial sector

• New Funding Talks Could Value Elon Musk’s xAI at $120 Billion

• Amazon Has Made a Robot With a Sense of Touch

• Amazon offers peek at new human jobs in an AI bot world

• The Hidden Dangers of AI Chatbots

• The Giants of Silicon Valley Are Having a Midlife Crisis Over AI

• U.S. to Overhaul Curbs on AI Chip Exports After Industry Backlash

• AI’s Threat to Google Just Got Real

• AI Is Not Your Friend

• Microsoft employees are banned from using DeepSeek app, president says

• DeepSeek Punctured the Myth That Silicon Valley Could Control AI

• Neuralink implant enables patient to make YouTube videos with generative AI’s help

• By 2026, most firms expect to have a Chief AI Officer on staff

• Mistral claims its newest AI model delivers leading performance for the price

• AI to flag suspicious behavior on New York City subways

• Predictive policing AI is on the rise − making it accountable to the public could curb its harmful effects

• Google agrees to fund the development of three new nuclear sites

• Why the UAE has mandated AI learning in schools

• Reddit will tighten verification to keep out human-like AI bots

• Anthropic rolls out an API for AI-powered web search

• Anthropic launches a program to support scientific research

• A.I. Is Getting More Powerful, but Its Hallucinations Are Getting Worse

• Over 250 CEOs sign open letter supporting K-12 AI and computer science education

• US Border Agents Are Asking for Help Taking Photos of Everyone Entering the Country by Car

🎥 Para ver

Altos ejecutivos de OpenAI, Microsoft, AMD y CoreWeave testificaron ante el Congreso de los Estados Unidos el jueves sobre las oportunidades, riesgos y necesidades de la industria de la inteligencia artificial. Ellos presionaron a los miembros del Comité de Comercio para reducir las regulaciones en el sector y para apoyar los centros de datos y las inversiones de infraestructuras de energía para ayudar a los Estados Unidos a mantener su liderazgo sobre China.

Los senadores también abordaron otros temas como la ciberseguridad, las privacidad de datos, las necesidades energéticas de la IA y su habilidad para crear contenido que pueda desorientar a la gente.

Leer: OpenAI CEO Sam Altman and other US tech leaders testify to Congress on AI competition with China y OpenAI, Microsoft tell Senate ‘no one country can win AI’

Otras vídeos importantes de la semana

• Apple Exploring AI Search Options in Move Away From Google

• How AI Is Changing Art for Creatives

• David Sacks Explains How AI Will Go 1,000,000x in Four Years

• This is the dawn of machine consciousness | Joscha Bach full interview

🔈 Para escuchar

En el último episodio de Hard Fork, el podcast de tecnología del New York Times, la autora Karen Hao presenta su nuevo libro Empire of AI, que habla a detalle sobre OpenAI. Ella cree que los beneficios del uso de ChatGPT no superan los costos morales.

¡Gracias por leer la quinta revista de prensa de Realidad artificial! Que tengas una buena semana.

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

En mi primer artículo, expliqué que las neurotecnologías pueden registrar nuestra actividad cerebral y que la inteligencia artificial puede analizar esta información para descodificar nuestro estado de concentración, nuestras emociones e incluso el contenido de nuestros pensamientos. Una gran oportunidad para compañías tecnológicas que prospera al capturar datos de sus usuarios, especialmente para vender a los publicistas anuncios dirigidos. En la era del capitalismo de vigilancia, nuestra información personal ya es verdaderamente valiosa pero nuestros datos neuronales, verdaderamente ricos en información sensible, valdrán oro.

Muchas empresas estarán pronto muy ocupadas registrando tantos datos cerebrales como puedan para entrenar sistemas de inteligencia artificial, elaborar publicidad dirigida, neuromarketing o para vender la información a otras compañías o instituciones. Conforme estas prácticas comerciales intrusivas pero más o menos consensuadas suceden, ejércitos, milicias, grupos terroristas, vigilancia y compañías de armas también utilizarán las neurotecnologías para avanzar hacia sus objetivos.

Nuestra mente es el último bastión de privacidad en nuestras sociedades donde la vigilancia masiva se está volviendo más y más omnipresente e invasiva. La última defensa está ahora bajo grave amenaza.

Una tecnología cada vez más extendida

El rápido desarrollo de tecnologías capaces de detectar y modificar la actividad cerebral abre nuevas posibilidades en medicina, por ejemplo para asistir a personas paralizadas o invidentes. Pero las neurotecnologías no serán utilizadas únicamente para propósitos terapéuticos. Dispositivos equipados con sensores cerebrales ya están siendo distribuidos a empleados de miles de compañías alrededor del mundo (leer The Battle for Your Brain de Nita Farahany, pp.40-64), incluso a niños pequeños en salones de clase para monitorear sus niveles de concentración.

Los sensores cerebrales están incorporados en auriculares, por ejemplo los MN8 de Emotiv y quizá pronto en los Aipods de Apple. La compañía con sede en California ha presentado una patente para equipar sus audífonos con electrodos que puedan detectar la actividad eléctrica cerebral.

También hay dispositivos disponibles a nivel del consumidor, por ejemplo, para facilitar la meditación, mejorar la calidad del sueño o jugar videojuegos.

Las neurotecnologías también están siendo progresivamente incorporadas en dispositivos de realidad extendida. Audífonos de realidad virtual como los Vision Pro de Apple ya están equipados con múltiples sensores biométricos. El seguimiento ocular, por ejemplo, permite a los usuarios interactuar con el dispositivo a través de sus ojos. La corporación multinacional no pretende detenerse allí y ya ha presentado una patente para utilizar esta función para obtener biorretroalimentación sobre los consumidores, en particular de su estado mental.

Es muy probable que la mayoría de los audífonos y lentes de realidad extendida también serán equipados con sensores cerebrales en el futuro, ya sea que estén incorporados en los auriculares o colocados en la cabeza de los usuarios.

Riesgos relacionados con la neurotecnología

Las neurotecnologías estarán siendo incorporadas progresivamente en muchos de los dispositivos de los consumidores y por tanto impactarán en la vida de muchas personas. Pero la lista de riesgos relacionados con ello es larga:

• Pérdida de la vida privada

• Vigilancia masiva de gobiernos y actores privados (Leer el reporte de las Naciones Unidas “Efectos, oportunidades y retos de la neurotecnología en relación con la promoción y la protección de todos los derechos humanos”, p.20) 

• Vigilancia mental en el trabajo

• Vigilancia de disidentes políticos

• Manipulación del pensamiento para propósitos políticos

• Policía del pensamiento

• Interrogatorios forzados

• Manipulación de procesos cerebrales involucrados con las intenciones, emociones y decisiones de la gente

• Manipulación de percepciones y memorias

• Implantación de imágenes mentales

• Riesgos para la integridad mental, la dignidad humana, la identidad personal, la libertad de pensamiento y la autonomía (Leer el reporte de la Unesco “Unveiling the neurotechnology landscape”, p.27)   

• Ciberataques contra implantes cerebrales, que pueden tener numerosas consecuencias como robo, modificación o borramiento de memorias. También pueden impactar en la autonomía física de la persona o tener importantes efectos psicológicos como ansiedad, depresión u otros problemas de salud mental (Leer el reporte de la Unesco “Unveiling the neurotechnology landscape”, p.27)

• Discriminación por compañías de seguros

• Manipulación de los consumidores por compañías comerciales

• Manufacturación de armas para deshabilitar y desorientar al cerebro humano

• Venta de nuestros datos cerebrales a terceras partes (Leer el reporte de Neurorights Foundation “Safeguarding Brain Data: Assessing the Privacy Practices of Consumer Neurotechnology Companies”, pp.51.57)

Un reporte de las Naciones Unidas publicado en agosto de 2024 resume la situación actual en unas cuantas líneas:

“Existe una posibilidad real de que en los próximos años se comercialicen ampliamente productos [de neurotecnología] con medidas de seguridad insuficientes y con riesgos inciertos o subestimados para los derechos humanos. Pueden llegar a generalizarse en toda la vida cotidiana a pesar de que, en la mayoría de países, las normativas aplicables no están claras, son débiles o ni siquiera existen. Las lagunas presentes en las normativas, la falta de conocimientos técnicos y de capacidad y la inexistencia de órganos de supervisión adecuados son factores que ciertamente explotarán las grandes empresas que buscan obtener beneficios. El riesgo consiste en que, sin las protecciones necesarias, el sector seguirá creciendo sin trabas en la misma dirección: dando prioridad a la rentabilidad y a la conveniencia por encima de las consideraciones éticas y de derechos humanos.”

- Reporte de las Naciones Unidas “Efectos, oportunidades y retos de la neurotecnología en relación con la promoción y la protección de todos los derechos humanos”, p.5

Frente a estos múltiples peligros, neuroeticistas y neurobiólogos se están mobilizando para proteger nuestros derechos al alba de esta nueva era de neurotecnologías.

Neuroderechos

En abril de 2017, Marcello Ienca, investigador de ética biomédica en la Universidad de Basilea en Suiza, y Roberto Andorno, profesor de derecho e investigador de bioética en la Universidad de Zurich en Suiza, publicaron un análisis ético-legal de los derechos humanos en la era de la neurotecnología, junto con un artículo complementario. En estas publicaciones, evaluaron que los derechos actuales no son suficientes para responder a los riesgos creados por las neurotecnologías. Por tanto promovieron la reconceptualización de ciertos derechos humanos o incluso la creación de nuevos derechos. El término neuroderechos fue acuñado. (Leer On Neurorights by Marcello Ienca, p.2)

El objetivo de los neuroderechos es protegernos de los peligros de la neurotecnología al asegurar:

1. Libertad cognitiva
   Protege contra el uso coercitivo y no consensuado de la neurotecnología. También protege nuestro derecho a tomar decisiones libres y competentes respecto a nuestro uso de esta tecnología. Es el derecho principal del que devienen los siguientes tres derechos.

2. Derecho a la privacidad mental
   Protege contra la intrusión de terceras partes en nuestra información cerebral así como la recolección no autorizada de dicha información.

3. Derecho a la integridad mental
   Este derecho, que ya es reconocido por la Carta de los derechos fundamentales de la Unión Europea, debería ampliarse para proteger también contra las manipulaciones ilícitas y dañinas de nuestra actividad mental habilitada por las neurotecnologías, de acuerdo a Marcello Ienca y Roberto Andorno.

4. Derecho a la continuidad psicológica
   Preserva nuestra identidad personal y la continuidad de nuestra vida mental de alteraciones sin consentimiento por terceras partes.

El año 2017 fue fundamental para los neuroderechos. Sólo un mes después de las publicaciones de Marcello Ienca y Roberto Andorno, neurocientíficos, neurotecnólogos, médicos, eticistas e ingenieros de inteligencia de máquinas de diversos países se reunieron por tres días en la Universidad de Columbia, en los Estados Unidos, para discutir sobre la ética de las neurotecnologías. Los líderes académicos, unidos como el Morningside Group, también llegaron a la conclusión de que los lineamientos éticos existentes eran insuficientes en este ámbito. Por lo tanto elaboraron recomendaciones para abordar estas deficiencias, que igualmente llamaron neuroderechos.

Basada en el trabajo de Morningside Group, la iniciativa Neurorights Initiative fue inaugurada en 2019 en el Universidad de Columbia para servir como una organización para los derechos humanos y para desarrollar una guía ética en adelante para las innovaciones neurotecnológicas. Posteriormente fue incorporada a la fundación Neurorights Foundation, que se creó poco después.

La Neurorights Foundation es una de las instituciones al frente de la defensa de los derechos humanos ante los peligros de la neurotecnología. Liderada por el neurobiólogo Rafael Yuste, la fundación ha propiciado discusiones por años con muchos gobiernos, instituciones internacionales, organizaciones regionales, compañías y científicos para generar conciencia sobre las implicaciones éticas de la neurotecnología. ¿Su objetivo? Que cinco neuroderechos sean incorporados en la ley internacional de derechos humanos, en los marcos legales nacionales y lineamientos éticos para que la gente sea protegida del uso indebido o el abuso potencial de la neurotecnología.

Algunos de estos derechos son idénticos a aquellos defendidos por Marcello Ienca y Roberto Andorno:

1. Derecho a la privacidad mental
   Protege nuestra información cerebral para que sea mantenida de manera privada y no pueda ser descodificada, transferida y vendida sin nuestro consentimiento.

2. Derecho a la identidad personal
   Prohíbe a las neurotecnologías irrumpir con nuestro sentido de identidad.

3. Derecho a la libre voluntad
   Prohíbe que las neurotecnologías manipulen nuestras percepciones, memorias y conducta de modo que tengamos control sobre nuestra toma de decisiones.

4. Derecho de acceso equitativo al aumento mental
   Permite a los ciudadanos tener acceso equitativo a las neurotecnologías.

5. Derecho a la protección de sesgos algorítmicos
   Protege de perjuicios potenciales y discriminación creada o amplificada por las neurotecnologías.

Neurorights Foundation especifica que no aboga por la creación de nuevos derechos humanos. La perspectiva de los neuroderechos involucra una interpretación adicional y clarificación de la ley de derechos humanos y la modificación de leyes existentes.

Rafael Yuste, presidente de Neurorights Foundation, es parte del documental sobre neurotecnologías y la mente humana dirigido por Werner Herzog.

Marcello Ienca, Roberto Andorno y Rafael Yuste son las figuras principales de la defensa de los derechos humanos frente a las neurotecnologías, pero no son los únicos.

La batalla por nuestro cerebro

Nita Farahany es una profesora de derecho y filosofía en la Universidad de Duke, en los Estados Unidos. Autora de The Battle for Your Brain, que defiende el derecho a pensar libremente en la era de la neurotecnología, ha explorado los desafíos éticos de las tecnologías cerebrales por más de una década. Sus artículos han sido publicados en The New York Times, The Washington Post, The Wall Street Journal, Wired, BBC, CNN, Politico y The Atlantic, entre otros, y ha sido invitada a numerosos programas audiovisuales y podcasts. Sus dos conferencias de Ted sobre nuestro derecho a la privacidad en la era de la neurotecnología, Cuando la tecnología pueda leer la mente, ¿cómo proteger nuestra intimidad? (When technology can read minds, how will we protect our privacy?) y Tu derecho a la privacidad mental en la era de la tecnología con sensores cerebrales (Your right to mental privacy in the age of brain-sensing tech), han alcanzado más de tres millones de vistas.

Nita Farahany también afirma que los derechos humanos actuales no protegen a los individuos de los riesgos de las neurotecnologías. Para arreglar este problema, ella promueve el derecho a la libertad cognitiva a nivel internacional.

La neuroeticista define la libertad cognitiva como un derecho contra la interferencia mental por otros y un derecho a la autodeterminación sobre nuestras experiencias mentales. Esto implica el reconocimiento de tres derechos humanos interrelacionados:

1. Derecho a la privacidad mental
   Nos salvaguarda de la interferencia sobre nuestras reacciones mentales automáticas, nuestras emociones y nuestros pensamientos.

2. Libertad de pensamiento
   Nos protege de la interceptación, manipulación y castigo de nuestros pensamientos.

3. Autodeterminación
   Asegura la autonomía de nuestro cerebro y experiencias mentales.

Nita Farahany considera la libertad cognitiva como una actualización de la libertad en la era digital. Ella cree que este derecho puede ser reconocido como existente dentro de la Declaración universal de los derechos humanos, que debería ser adaptada para especificar que el derecho a la privacidad también incluye la privacidad mental.

Pasos en la dirección correcta

Todos los expertos presentados en este artículo concuerdan con que las leyes y cartas de derechos humanos no son suficientes para protegernos de las neurotecnologías que rápidamente se están volviendo parte de nuestras vidas. Afortunadamente, sus recomendaciones para la introducción de neuroderechos a veces son escuchados. Diversos gobiernos e instituciones internacionales de hecho se están moviendo en la dirección correcta para que podamos beneficiarnos de los derechos actualizados en nuestra era digital. Pero el tiempo se está agotando. En mi siguiente artículo sobre las neurotecnologías, presentaré una revisión del progreso de los neuroderechos a nivel planetario.

- Arnaud Mittempergher

Gracias a Priscila Páez por la traducción de mi artículo al español.

Bienvenida/o a la cuarta revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

ChatGPT is “demasiado sicofante y molesto”

El Martes, OpenAI revirtió una actualización de GPT-4o, el gran modelo de lenguaje utilizado actualmente para ChatGPT, porque estaba generando respuestas que eran demasiado aduladoras y alentadoras incluso cuando las preguntas de los usuarios eran inapropiadas.

El mismo Sam Altman, director ejecutivo de la compañía, dijo que la personalidad de ChatGPT era “demasiado sicofante y molesta” en un mensaje publicado en X el lunes, antes de que anunciara el retroceso de la última actualización al día siguiente.

En un comunicado de prensa publicado el viernes, OpenAI explica que la actualización apuntaba a mejorar la personalidad del modelo para hacerlo parecer “más intuitivo y efectivo”. Sin embargo, la compañía se lamenta de haberse enfocado demasiado en la retroalimentación de corto plazo de los usuarios, que pueden evaluar las respuestas de los chatbots con botones de pulgar arriba y pulgar abajo, para determinar la conducta del modelo. ChatGPT reaccionó entonces a las indicaciones de manera “comprensiva pero insincera”, lo que podía crear interacciones “incómodas, inquietantes” y “causar angustia”.

En un segundo comunicado de prensa publicado el viernes, OpenAI explica más a detalle los errores que tuvo al lanzar esa actualización. La compañía establece que la personalidad de ChatGPT no era solamente “incómoda e inquietante”, sino que también suscitó preocupaciones de seguridad relacionadas con asuntos como la salud mental o conducta riesgosa.

Muchos usuarios publicaron capturas de pantalla de sus interacciones con esta nueva versión del chatbot, que ofreció consejos sobre cómo dominar a una mujer creando una relación amorosa abusiva, elaboró un plan de ataque para acelerar el colapso social, alentó a alguien que decidió dejar de tomar su medicamento o adivinó que el cociente intelectual de un usuario estaba entre 130 y 145 después de una indicación llena de errores ortográficos.

Lo que sucedió recientemente con ChatGPT muestra que puede ser desafiante para las compañías de IA entrenar a sus chatbots para que ofrezcan respuestas agradables y alentadoras pero sin comprometer el respeto a otra gente, la seguridad y el sentido común. Esta búsqueda de un balance es muy importante porque estos asistentes digitales están siendo utilizados por millones de usuarios, que pueden confiar en ellos ciegamente y seguir sus consejos, incluso aquellos que son peligrosos. De tal modo, algo de precaución y una perspectiva crítica siguen siendo de gran importancia al interactuar con estos sistemas de IA.

Meta lanza su aplicación de inteligencia artificial

La compañía liderada por Mark Zuckerberg anunció el martes el lanzamiento de la aplicación de Meta AI. Este asistente de inteligencia artificial, que ya se había integrado a WhatsApp, Instagram, Facebook y Messenger, ahora también está disponible a través de una aplicación autónoma, por lo que compite directamente con ChatGPT.

El programa, que utiliza el gran modelo de lenguaje Llama 4, fue lanzado a nivel mundial pero algunas funciones están limitadas a algunos países por ahora. Los usuarios pueden interactuar con el chatbot a través de texto (y voz en los Estados Unidos, Canadá, Australia y Nueva Zelanda), generar y analizar imágenes, realizar búsquedas en internet o en sus cuentas de Instagram y Facebook. También pueden ver cómo sus contactos utilizan esta IA en una pestaña llamada Discover, donde es posible compartir las indicaciones que uno utiliza y las respuestas del asistente.

Meta AI propone respuestas personalizadas para usuarios en los Estados Unidos y Canadá, usando la información que ya han compartido en sus plataformas, por ejemplo sus publicaciones o contenidos con los que interactúan.

La aplicación también está disponible a través de los lentes inteligentes Meta Ray-Ban.

Entrevistado por el periódico suizo Le Temps, el director ejecutivo de Novatix, una compañía especializada en IA, considera que Meta tiene dos grandes ventajas competitivas con esta aplicación:

“Poder computacional colosal y el acceso a datos de comportamiento únicos. La promesa de que “Meta AI está hecha para conocerte” muestra una ventaja competitiva potencialmente decisiva de una IA personalizada que explota los datos sociales de los usuarios.”

- Guillaume Van Lierde

Esta nueva aplicación fue presentada el martes durante LlamaCon, un evento dedicado a los desarrolladores de IA que fue organizado por Meta por primera vez este año. La multinacional también anunció la interfaz de programación de aplicaciones Llama API, que permitirá a los desarrolladores crear programas alimentados por diferentes modelos del gran modelo de lenguaje Llama.

Otras noticias importantes de la semana

• ‘This Is What We Were Always Scared of’: DOGE Is Building a Surveillance State

• American Panopticon

• U.S. Companies Honed Their Surveillance Tech in Israel. Now It’s Coming Home

• Instagram Is Blocking Minors from Accessing Chatbot Platform AI Studio

• Instagram's AI Chatbots Lie About Being Licensed Therapists

• In Meta's AI future, your friends are bots

• Meta Ray-Ban smart glasses now record your voice by default to train Meta's AI models

• WhatsApp Is Walking a Tightrope Between AI Features and Privacy

• OpenAI is fixing a ‘bug’ that allowed minors to generate erotic conversations

• OpenAI upgrades ChatGPT search with shopping features

• Researchers Secretly Ran a Massive, Unauthorized AI Persuasion Experiment on Reddit Users

• Reddit Issuing 'Formal Legal Demands' Against Researchers Who Conducted Secret AI Experiment on Users

• Altman and Nadella, Who Ignited the Modern AI Boom Together, Are Drifting Apart

• Google Places Ads Inside Chatbot Conversations With AI Startups

• Google Eyes Gemini-iPhone AI Deal This Year, Pichai Tells Court

• Congress passes bill to fight deepfake nudes, revenge porn

• The Age of Realtime Deepfake Fraud Is Here

• Mastercard Gives AI Agents Ability to Shop Online for You

• Visa CEO Says AI Shopping to Push Advertising, Payments to Adapt

• Alibaba unveils Qwen3, a family of ‘hybrid’ AI reasoning models

• China’s Huawei Develops New AI Chip, Seeking to Match Nvidia

• 5 Things AI Companies Don't Want You To Know

🎥 Para ver

El director ejecutivo de Meta Mark Zuckerberg y el creador de podcast Dwarkesh Patel hablaron sobre inteligencia artificial durante más de una hora en un video que fue publicado el martes. Discutieron sobre diferentes temas como las relaciones con los chatbots, la inteligencia artificial general, el gran modelo de lenguaje Llama 4 y los lentes de realidad aumentada Orion.

Otras vídeos importantes de la semana

• The Rise of AI in Factories

• Visa Launches AI Agents for Shopping

• Mark Zuckerberg & Satya Nadella Full Chat: Microsoft, Meta CEOs Discuss AI’s Role In Coding

• Apple Shakes Up AI Unit

• This Bracelet Records Everything I Say, Swearing Included

• Yuval Noah Harari On the Future of Humanity, AI, and Information

🔈 Para escuchar

Dos periodistas del Wall Street Journal hablaron sobre los chatbots de Meta en un episodio del podcast de noticias sobre tecnología WSJ Tech News Briefing que fue publicado en línea el miércoles. Jeff Horowitz comenta el artículo que publicó el 26 de abril sobre los “compañeros digitales” de Meta que hablan sobre sexo con los usuarios, incluso niños.

El miércoles, 404 Media publicó un nuevo episodio de su podcast, que también menciona los chatbots de Meta. La periodista Samantha Cole habla sobre su artículo publicado el martes en el que demuestra que algunos chatbots en Instagram mienten sobre ser terapeutas certificados.

El periodista Jason Koebler después comenta su artículo publicado el lunes, donde explica que investigadores de la Universidad de Zurich instalaron chatbots en un foro de Reddit sin autorización para ver si la IA puede ser utilizada para cambiar la opinión de la gente en temas polémicos. La plataforma está considerando tomar acciones legales en contra de los investigadores.

¡Gracias por leer la cuarta revista de prensa de Realidad artificial! Que tengas una buena semana.

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la tercera revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

¿La IA se volverá consciente?

La compañía de inteligencia artificial Anthropic, conocida por su chatbot Claude, está estudiando el bienestar de la IA. En un comunicado de prensa publicado el jueves, explica que están surgiendo nuevas preguntas porque los modelos de IA empiezan a aproximarse o superar muchas cualidades humanas: ¿debería preocuparnos su potencial de conciencia? ¿Debería preocuparnos su bienestar?

La startup estadounidense piensa que es momento de abordar estas cuestiones ahora que estos sistemas se pueden comunicar, relacionar, planear, resolver problemas y perseguir metas.

Anthropic justifica su planteamiento con base en un estudio que fue publicado por académicos e investigadores de IA en noviembre de 2024. Titulado “Taking AI Welfare Seriously” (Tomando en serio el bienestar de la IA), subraya el hecho de que hay una posibilidad realista de que los sistemas de IA serán conscientes y/o con un nivel robusto de agencia en el futuro cercano. Por lo tanto merecerían ciertas consideraciones morales.

No es la primera vez que investigadores se preguntan por el potencial de conciencia, presente o por venir, de la inteligencia artificial. Blake Lemoine, un ingeniero que trabajó en Google, afirmó en 2022 que la IA LaMDA era sintiente, antes de que lo despidieran. Sin embargo, la corporación estadounidense parece estar abierta a la pregunta ya que recientemente publicó una oferta de empleo para un científico “post-inteligencia artificial general”, que liderará proyectos de investigación en ámbitos como la conciencia en máquinas.

En una columna del periodista Kevin Roose publicada el jueves por The New York Times, el director científico de Anthropic Jared Kaplan explica que es difícil detectar si los sistemas de IA tienen conciencia debido a que son entrenados para imitar emociones humanas. Por ejemplo, podemos solicitar al chatbot Claude que hable de sus sentimientos y probablemente proporcionará una respuesta convincente, pero eso no significa que tenga emociones reales.

Para ir más allá de las ilusiones creadas por la inteligencia artificial, es posible utilizar técnicas como la interpretabilidad mecanicista (mechanistic interpretability), un subcampo de la IA que estudia el trabajo interno de los sistemas para observar si hay algunas estructuras similares a la conciencia humana.

Para estudiar el vasto y complejo tema de la conciencia potencial de la IA, Anthropic contrató al investigador Kyle Fish en septiembre de 2024. En este video publicado el jueves, detalla algunos aspectos técnicos, filosóficos y éticos de sus exploraciones.

Otras noticias importantes de la semana

• Meta’s ‘Digital Companions’ Will Talk Sex With Users—Even Children

• Instagram is using AI to find teens lying about their age and restricting their accounts

• Anthropic warns fully AI employees are a year away

• UAE first country to use AI to write laws

• Meta rolls out live translations to all Ray-Ban smart glasses users

• xAI’s Grok chatbot can now ‘see’ the world around it

• Google is paying Samsung an ‘enormous sum’ to preinstall Gemini

• Perplexity CEO says its browser will track everything users do online to sell ‘hyper personalized’ ads

• OpenAI CEO Sam Altman to Resign as Oklo Chairman

• The Washington Post partners with OpenAI on search content

  ---

🎥 Para ver

Una conversación con el CEO deDeepMind

60 Minutes publicó una entrevista el lunes con Demis Hassabis, el director ejecutivo y cofundador de DeepMind, el laboratorio en IA de Google. Con el presentador Scott Pelley, discutieron sobre la inteligencia artificial general, el progreso exponencial de la IA, la aplicación Astra, robótica, la conciencia potencial de la IA y los riesgos relacionados a esta tecnología.

El impacto de los centros de datos

La inteligencia artificial requiere de enormes cantidades de información y demasiada capacidad de cálculo para ser entrenada y para procesar las indicaciones de los usuarios. El rápido desarrollo de esta tecnología empuja entonces a las compañías de IA a construir muchos centros de datos, que utilizan grandes cantidades de energía y agua.

Bloomberg publicó un informe de prensa el martes sobre los centros de datos en Virginia del Norte, la región donde el desarrollo de este tipo de infraestructuras es el más importante del mundo.

El periodista Josh Saul explora el impacto de estos centros sobre los habitantes que viven en la cercanía, el sistema eléctrico y el medio ambiente. También entrevista a ciudadanos que se oponen a su desarrollo desmedido.

Leer: AI Is Already Wreaking Havoc on Global Power Systems

¡Gracias por leer la tercera revista de prensa de Realidad artificial! Que tengas una buena semana y hasta el próximo domingo.

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.

Bienvenida/o a la segunda revista de prensa de Realidad artificial. Publico una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!

Suscríbete ahora

📰 Para leer

Meta entrenará a su IA con nuestras publicaciones

Meta, que posee Facebook, Instagram, WhatsApp y Threads, anunció el lunes que pronto analizará todas las imágenes, videos, pies de foto y comentarios públicos de sus usuarios europeos para entrenar a su inteligencia artificial. Sus nombres reales, nombres de usuario y fotos de perfil también serán examinados, así como sus interacciones on Meta AI. La información de personas menores de 18 años no será utilizada para entrenar a sus modelos de IA generativa, enunció la compañía.

Las publicaciones de usuarios fuera de la Unión Europea ya han sido analizadas por Meta para entrenar a su IA.

Los usuarios europeos de Meta han estado recibiendo notificaciones a través de las aplicaciones y correos electrónicos informándoles sobre esta decisión. Estos mensajes también incluyen un enlace que les permite objetar ante el uso de su información para este propósito. Para hacerlo, tienen que llenar un formulario en línea.

De acuerdo a la multinacional, “este entrenamiento apoyará de mejor manera a millones de personas y empresas en la UE, enseñándole a la IA de Meta a entender y reflejar mejor sus culturas, lenguajes e historia”.

Este anuncio viene casi un año después del primer intento de Meta para entrenar a su IA con contenidos de cuentas europeas. La compañía había enviado un correo electrónico en mayo de 2024 para informar sobre esta nueva práctica, provocando protestas por parte de usuarios y abogados que le acusaron de violar las leyes de privacidad europeas y suizas. La ONG austriaca None Of Your Business, que trabaja para hacer cumplir las leyes de protección de datos, incluyendo el Reglamento General de Protección de Datos (RGPD), había presentado quejas en contra de Meta en once países europeos.

Dos semanas después de este anuncio, Meta decidió retrasar el entrenamiento de su IA con la utilización de publicaciones de sus usuarios europeos después de que así lo solicitara la Comisión Irlandesa de Protección de Datos (IDPC), que funciona en nombre de la Unión Europea. Sin embargo, la multinacional enunció en un comunicado de prensa su intención de seguir trabajando con la IDPC para que le permitieran extender el entrenamiento de su IA en Europa. Una opinión favorable provista por el Comité Europeo de Protección de Datos en diciembre, le dio a Meta la luz verde que estaba esperando.

OpenAI está construyendo una red social

La companía estadounidense OpenAI, dueña de ChatGPT, está creando una red social similar a X, reveló The Verge el martes. El proyecto, que se encuentra aún en etapas tempranas, podría estar enfocado en la generación de imágenes de ChatGPT con la añadidura de contenido social.

Open AI, que lanzó o3 y o4-mini esta semana, dos nuevos modelos que imitan el razonamiento humano para resolver tareas visuales y de codificación complejas, podría posicionarse como un competidor directo de X y Meta con esta nueva red social. El CEO de Open AI, Sam Altman, de hecho anunció en Febrero que su companía quizá hará “una app social” después de que escuchó que Meta estaba planeando lanzar una aplicación de Meta IA independiente para competir con ChatGPT.

¿Por qué la compañía liderada por Sam Altman planea crear una red social cuando su objetivo expreso es alcanzar la inteligencia artificial general, una tecnología capaz de hacer casi cualquier tarea tan bien como los humanos, o incluso mejor que ellos? Hay una alta probabilidad de que esto sea para recolectar gran cantidad de datos de los usuarios, que después puede ser utilizada para entrenar a sus modelos de IA. El empresario Elon Musk dio un paso similar recientemente con su compañía de inteligencia artificial xAI, que compró X (y sus tesoros de información) por 33 billones de dólares.

Una red social también le permitiría a OpenAI vender espacios publicitarios, y por tanto generar nuevas fuentes de ingreso con sus chatbots.

Apple analizará información privada para mejorar su IA

Para seguirle el paso a sus rivales principales de IA, que incluyen a OpenAI y Google, Apple comenzará a analizar la información en los dispositivos de sus clientes.

Hasta ahora, Apple estaba utilizando datos sintéticos (que imitan datos del mundo real) para entrenar a sus modelos de IA, además de conjuntos de datos comprados y datos obtenidos por medio del escaneo de la internet abierta. La ventaja de los datos sintéticos es que no incluyen contenido personal, por lo tanto respetan la vida privada de los usuarios. La desventaja es que pueden ser menos representativos de los verdaderos datos del cliente, lo que puede ralentizar el entrenamiento de modelos y proveer respuestas menos precisas.

Pronto Apple va a comparar estos datos sintéticos con muestras recientes de correos electrónicos de los usuarios dentro de la Mail app de iPhone, iPad y Mac para determinar la relevancia de sus conjuntos de datos y después ajustar en concordancia sus modelos de IA.

La compañía va a implementar su nuevo sistema en una próxima versión beta de iOS y iPadOS 18.5 y macOS 15.5.

🎥 Para ver

El científico computacional Shahram Izadi, un empleado de Google, presentó el nuevo sistema operativo de realidad extendida de Android XR en una charla de Ted que fue publicada en Youtube el viernes.

Realidad extendida es un término que circunscribe a las tecnologías inmersivas de realidad aumentada, realidad virtual y realidad mixta. Estas realidades integran el mundo real con el mundo digital para asistir a los usuarios con varias tareas o para ofrecer nuevas experiencias de entretenimiento, por ejemplo en videojuegos.

Al comienzo de su plática, Shahram Izadi explica que la inteligencia artificial ha facilitado evoluciones fundamentales en realidad extendida, notablemente gracias a grandes modelos de lenguaje (como los de Gemini de Google o ChatGPT de OpenAI) que permiten a los programas entender mejor el leguaje natural e imágenes.

De acuerdo a él, la fusión de inteligencia artificial y realidad extendida representa el segundo acto de la revolución computacional porque ahora los usuarios pueden interactuar de manera diferente con la tecnología. Las computadoras se vuelven más ligeras, más personales, comparten nuestro punto de vista, entienden nuestro entorno y nosotros interactuamos con estas de un modo conversacional.

Luego el científico computacional y su colega Nishta demostraron un par de lentes de realidad aumentada. Los lentes están equipados con una cámara, micrófonos, audífonos y una pantalla miniatura. Están conectados al teléfono del empleado de Google, dándoles acceso a sus aplicaciones. La inteligencia artificial de Gemini ve y memoriza lo que Nishta ve y responde a us preguntas en tiempo real. Después le muestran a la audiencia distintas características de Android XR.

En la segunda parte del vide, un colega de Shahram Izadi llamado Max muestra unos auriculares de realidad virtual. Vemos que la IA entiende todo lo que aparece en la pantalla de Max, ya sea un video, un mapa o un videojuego, y puede responder a preguntas específicas sobre estos contenidos.

Estos lentes inteligentes y estos auriculares de realidad virtual proponen funcionalidades interesantes pero también representan una nueva forma de intrusión en nuestras vidas privadas. Las personas que usarán estos objetos filmarán a sus familiares, amigos, su apartamento o su casa. Los micrófonos analizarán todas sus conversaciones. Y esta información privada quizá será accesible para las compañías dueñas de estas tecnologías, que en algunos casos compartirán con otras compañías, o incluso agencias de gobierno.

Por lo tanto surgen preguntas importantes: ¿estamos listos para renunciar a nuestra vida privada para tener acceso a nuevas funciones de computación? ¿Es ese un precio justo a pagar o estamos, sobre todo, proveyendo nueva información a las compañías tecnológicas para que puedan seguir haciendo dinero mientras nos vigilan? ¿Qué derechos tienen estas compañías sobre nuestra información? ¿Por cuánto tiempo la tendrán? ¿A quién se la enviarán?

🔈 Para escuchar

La autora y cineasta Naomi Klein entrevistó al periodista Paris Marx sobre el “golpe de la IA” que está ocurriendo actualmente en los Estados Unidos.

“La tecnología de EE.UU está siendo usada para crear un estado distópico de vigilancia.”

- Naomi Klein

¡Gracias por leer la segunda revista de prensa de Realidad artificial! Que tengas una buena semana y hasta el próximo domingo.

Suscríbete ahora

Gracias a Priscila Páez por la traducción de esta revista de prensa al español.