Revista de prensa n°4 - ChatGPT es "demasiado sicofante y molesto", dice el director de OpenAI
Una selección de noticias importantes sobre la inteligencia artificial durante la semana del 28 de abril al 4 de mayo, 2025.
Bienvenida/o a la cuarta revista de prensa de Realidad artificial. Publicaré una selección de los últimos avances importantes de IA cada semana. ¡Buena lectura!
📰 Para leer
ChatGPT is “demasiado sicofante y molesto”
El Martes, OpenAI revirtió una actualización de GPT-4o, el gran modelo de lenguaje utilizado actualmente para ChatGPT, porque estaba generando respuestas que eran demasiado aduladoras y alentadoras incluso cuando las preguntas de los usuarios eran inapropiadas.
El mismo Sam Altman, director ejecutivo de la compañía, dijo que la personalidad de ChatGPT era “demasiado sicofante y molesta” en un mensaje publicado en X el lunes, antes de que anunciara el retroceso de la última actualización al día siguiente.
En un comunicado de prensa publicado el viernes, OpenAI explica que la actualización apuntaba a mejorar la personalidad del modelo para hacerlo parecer “más intuitivo y efectivo”. Sin embargo, la compañía se lamenta de haberse enfocado demasiado en la retroalimentación de corto plazo de los usuarios, que pueden evaluar las respuestas de los chatbots con botones de pulgar arriba y pulgar abajo, para determinar la conducta del modelo. ChatGPT reaccionó entonces a las indicaciones de manera “comprensiva pero insincera”, lo que podía crear interacciones “incómodas, inquietantes” y “causar angustia”.
En un segundo comunicado de prensa publicado el viernes, OpenAI explica más a detalle los errores que tuvo al lanzar esa actualización. La compañía establece que la personalidad de ChatGPT no era solamente “incómoda e inquietante”, sino que también suscitó preocupaciones de seguridad relacionadas con asuntos como la salud mental o conducta riesgosa.
Muchos usuarios publicaron capturas de pantalla de sus interacciones con esta nueva versión del chatbot, que ofreció consejos sobre cómo dominar a una mujer creando una relación amorosa abusiva, elaboró un plan de ataque para acelerar el colapso social, alentó a alguien que decidió dejar de tomar su medicamento o adivinó que el cociente intelectual de un usuario estaba entre 130 y 145 después de una indicación llena de errores ortográficos.
Lo que sucedió recientemente con ChatGPT muestra que puede ser desafiante para las compañías de IA entrenar a sus chatbots para que ofrezcan respuestas agradables y alentadoras pero sin comprometer el respeto a otra gente, la seguridad y el sentido común. Esta búsqueda de un balance es muy importante porque estos asistentes digitales están siendo utilizados por millones de usuarios, que pueden confiar en ellos ciegamente y seguir sus consejos, incluso aquellos que son peligrosos. De tal modo, algo de precaución y una perspectiva crítica siguen siendo de gran importancia al interactuar con estos sistemas de IA.
Meta lanza su aplicación de inteligencia artificial
La compañía liderada por Mark Zuckerberg anunció el martes el lanzamiento de la aplicación de Meta AI. Este asistente de inteligencia artificial, que ya se había integrado a WhatsApp, Instagram, Facebook y Messenger, ahora también está disponible a través de una aplicación autónoma, por lo que compite directamente con ChatGPT.
El programa, que utiliza el gran modelo de lenguaje Llama 4, fue lanzado a nivel mundial pero algunas funciones están limitadas a algunos países por ahora. Los usuarios pueden interactuar con el chatbot a través de texto (y voz en los Estados Unidos, Canadá, Australia y Nueva Zelanda), generar y analizar imágenes, realizar búsquedas en internet o en sus cuentas de Instagram y Facebook. También pueden ver cómo sus contactos utilizan esta IA en una pestaña llamada Discover, donde es posible compartir las indicaciones que uno utiliza y las respuestas del asistente.
Meta AI propone respuestas personalizadas para usuarios en los Estados Unidos y Canadá, usando la información que ya han compartido en sus plataformas, por ejemplo sus publicaciones o contenidos con los que interactúan.
La aplicación también está disponible a través de los lentes inteligentes Meta Ray-Ban.
Entrevistado por el periódico suizo Le Temps, el director ejecutivo de Novatix, una compañía especializada en IA, considera que Meta tiene dos grandes ventajas competitivas con esta aplicación:
“Poder computacional colosal y el acceso a datos de comportamiento únicos. La promesa de que “Meta AI está hecha para conocerte” muestra una ventaja competitiva potencialmente decisiva de una IA personalizada que explota los datos sociales de los usuarios.”
- Guillaume Van Lierde
Esta nueva aplicación fue presentada el martes durante LlamaCon, un evento dedicado a los desarrolladores de IA que fue organizado por Meta por primera vez este año. La multinacional también anunció la interfaz de programación de aplicaciones Llama API, que permitirá a los desarrolladores crear programas alimentados por diferentes modelos del gran modelo de lenguaje Llama.
Otras noticias importantes de la semana
‘This Is What We Were Always Scared of’: DOGE Is Building a Surveillance State
U.S. Companies Honed Their Surveillance Tech in Israel. Now It’s Coming Home
Instagram Is Blocking Minors from Accessing Chatbot Platform AI Studio
Meta Ray-Ban smart glasses now record your voice by default to train Meta's AI models
WhatsApp Is Walking a Tightrope Between AI Features and Privacy
OpenAI is fixing a ‘bug’ that allowed minors to generate erotic conversations
Researchers Secretly Ran a Massive, Unauthorized AI Persuasion Experiment on Reddit Users
Altman and Nadella, Who Ignited the Modern AI Boom Together, Are Drifting Apart
Google Places Ads Inside Chatbot Conversations With AI Startups
Google Eyes Gemini-iPhone AI Deal This Year, Pichai Tells Court
Visa CEO Says AI Shopping to Push Advertising, Payments to Adapt
Alibaba unveils Qwen3, a family of ‘hybrid’ AI reasoning models
China’s Huawei Develops New AI Chip, Seeking to Match Nvidia
🎥 Para ver
El director ejecutivo de Meta Mark Zuckerberg y el creador de podcast Dwarkesh Patel hablaron sobre inteligencia artificial durante más de una hora en un video que fue publicado el martes. Discutieron sobre diferentes temas como las relaciones con los chatbots, la inteligencia artificial general, el gran modelo de lenguaje Llama 4 y los lentes de realidad aumentada Orion.
Otras vídeos importantes de la semana
Mark Zuckerberg & Satya Nadella Full Chat: Microsoft, Meta CEOs Discuss AI’s Role In Coding
Yuval Noah Harari On the Future of Humanity, AI, and Information
🔈 Para escuchar
Dos periodistas del Wall Street Journal hablaron sobre los chatbots de Meta en un episodio del podcast de noticias sobre tecnología WSJ Tech News Briefing que fue publicado en línea el miércoles. Jeff Horowitz comenta el artículo que publicó el 26 de abril sobre los “compañeros digitales” de Meta que hablan sobre sexo con los usuarios, incluso niños.
El miércoles, 404 Media publicó un nuevo episodio de su podcast, que también menciona los chatbots de Meta. La periodista Samantha Cole habla sobre su artículo publicado el martes en el que demuestra que algunos chatbots en Instagram mienten sobre ser terapeutas certificados.
El periodista Jason Koebler después comenta su artículo publicado el lunes, donde explica que investigadores de la Universidad de Zurich instalaron chatbots en un foro de Reddit sin autorización para ver si la IA puede ser utilizada para cambiar la opinión de la gente en temas polémicos. La plataforma está considerando tomar acciones legales en contra de los investigadores.
¡Gracias por leer la cuarta revista de prensa de Realidad artificial! Que tengas una buena semana.
Gracias a Priscila Páez por la traducción de esta revista de prensa al español.
