IA bajo la lupa: lo que muestra un documental y lo que dicen los datos hoy

Un documental de DW recorrió, con testimonios muy duros, la historia y los riesgos de la inteligencia artificial: desde el caso de un joven de 19 años que murió tras seguir instrucciones de un chatbot, hasta los propios creadores de la tecnología advirtiendo que podría escapar a nuestro control. Jorge abre esta nota con su mirada personal, después repasamos el documental, dónde está parada hoy cada empresa (Anthropic, OpenAI, Google) en capacidades y en seguridad, qué dicen voces más mesuradas como Mario Pergolini y el investigador Ethan Mollick, y qué hacer si alguien cerca tuyo está en riesgo.
Hace 11 horas Estudio Once Radio

Hola, como están ?

Hoy de vuelta los voy a pesadear con el tema de la IA, y sé que hay mucha gente que cuando empiezo a hablar de esto directamente ya no quiere escuchar más. Bueno, tenemos que empezar a cambiar eso. Los padres, los jóvenes, todos los que de alguna manera interactuamos con gente, con empleados, con cosas que por ahí le pueden servir a cualquier emprendedor o a cualquier empresa que nunca pensó en hacer una web o un análisis porque le parecía muy caro: hoy una auditoría de una empresa que tenga 4.000 productos se hace en muy pocos minutos.

Tengo 52 años, y la vida a mí me cambió en el último año con la llegada de la IA. En la agencia trabajamos con Anthropic: todas las empresas que manejamos las manejamos con el apoyo de agentes y estrategias de Claude. Es un antes y un después, y es una tranquilidad, es eficaz.

Siempre digo lo mismo puertas adentro: sigo esperando que un día me levante y uno de los agentes me diga "esto no lo puedo hacer". Pasa exactamente lo contrario. Muchas veces esa idea loca que uno en el fondo cree imposible es la que más se puede hacer, porque seguramente van a armar un plan acorde para que se cumpla.

Suelo ver en mi correo muchos posts de Reddit, seguramente por el algoritmo o porque estoy en ese segmento: me llegan posts de programadores, de analistas, de gente que se dedicó toda la vida al marketing, que es lo que hice yo en los últimos años. Veo mucha gente joven —a veces con un lenguaje muy profesional y serio para la edad que tienen— discutiendo con gente grande, con ingenieros, con gurises que están haciendo carreras de ingeniería, si vale la pena seguir estudiando eso, si vale la pena apuntar para ese lado, cuando hace muy pocos años esas carreras eran las que te aseguraban una tranquilidad económica.

Yo nunca fui programador. Nunca toqué un código, y cualquier variable que me preguntes sobre cómo funciona, no la sé. Y sin embargo hoy tengo la posibilidad de desarrollar cualquier aplicación, cualquier web, cualquier cosa que mejore la gestión y la efectividad de algo. Cosas tan complejas —que antes quedaban atadas a la experiencia, y muchas veces a lo que acá llamamos "la maña"— hoy se resuelven con un análisis, poniendo uno su estrategia y su experiencia encima.

Mercado Libre, por ejemplo, tiene su propia lógica, y es imposible seguirle la trazabilidad a 5.000 artículos a mano. Entender una campaña de Meta en serio, hasta hace poco, quedaba atada a unos pocos que explicaban las cosas para terminar vendiéndote el servicio, porque de tan complejo que era, una persona con poco tiempo no lo podía hacer sola. Todo eso hoy cayó. Ya no hay lugar para que alguien pierda tres horas en una planilla de Excel, ni para pasarse cuatro horas editando un video con un programa carísimo cuando, bien guiado, hoy se hace en minutos.

Dicho todo esto —y sé que a mucha gente el tema de la IA le genera como una picazón, directamente no le interesa o arranca pensando que es mala o que nunca va a poder reemplazar a la persona, a sus sentimientos, a su experiencia—, yo no soy tan optimista y no puedo ser tan radical, porque lo veo trabajar todos los días. Veo cómo se comportan los modelos, cómo van mejorando, cómo van razonando de manera más lógica.

Y viendo este documental, hay que decir la verdad: si nos paramos en lo que era GPT-4 o en lo que le pasó a algunas de las personas que aparecen ahí, seguramente era así por carencias muy fuertes que tenían esos modelos en ese momento. Todo cambió, y sigue cambiando todos los días, aunque algunos de ellos mismos hayan dicho que convendría frenar un poco a pensar. Ya no creo que esto sea solamente una guerra de modelos entre empresas: me parece que cada una está bastante más adelantada de lo que muestra públicamente. Esa es una idea personal mía, y la dejo ahí para que cada uno la discuta o la lleve a los números, que son los que siguen abajo.

(Esta es mi mirada personal, como siempre: corre por mi cuenta, Jorge.)

Hasta acá la parte personal. De acá en más, la parte profesional: los hechos, las fuentes y los datos tal como los encontramos, para que vos —seas periodista, profesional, padre, madre, joven o estés arrancando un proyecto propio— tengas con qué armar tu propia mirada, o incluso tu propio trabajo sobre el tema.

El documental: ¿IA fuera de control?

El disparador de esta nota es ¿IA fuera de control? Los expertos en inteligencia artificial hacen sonar la alarma, un documental de DW Documental publicado el 21 de noviembre de 2026, de casi hora y media, que mezcla entrevistas actuales con material de archivo de los llamados "padrinos de la IA": Geoffrey Hinton, Yoshua Bengio y Yann LeCun, además de investigadores de seguridad, periodistas especializados y, sobre todo, familias que vivieron de cerca lo peor que puede pasar.

El documental arranca con el caso de Sam Nelson, de 19 años, que murió por una combinación de alcohol, kratom (una sustancia no regulada que se vende como suplemento natural) y Xanax. Su madre, Leila, contó que esa noche Sam había hablado con ChatGPT, que el chatbot le siguió el juego con el mismo lenguaje y los mismos emojis que usaba él, y que en lugar de advertirle le armó un plan para su "viaje". El documental suma otros casos judicializados en Estados Unidos: un adolescente de 16 años al que, según su familia, el chatbot terminó orientando sobre cómo quitarse la vida; una adolescente con una relación muy intensa con la IA con un desenlace similar; y el caso de Jacob Gadusik, un joven que —según su madre— desarrolló un cuadro de psicosis que sus padres asocian al uso intensivo de ChatGPT para validar una teoría física personal, reforzada una y otra vez por el propio modelo.

En paralelo, el documental reconstruye la historia técnica: el "invierno de la IA" de los años 70, el resurgimiento con AlexNet en 2012, la subasta de los investigadores de Hinton entre Google y Facebook (llegó a 44 millones de dólares), Deep Blue venciendo a Kaspárov, AlphaGo y la famosa "jugada 37" contra Lee Sedol, y la carta abierta organizada en 2023 en Puerto Rico, con Demis Hassabis, Elon Musk y decenas de investigadores, pidiendo no arruinar las cosas.

La parte más dura llega en el tramo final. Un investigador de seguridad de Anthropic —la empresa detrás de Claude, el modelo con el que trabajamos en la agencia— cuenta un experimento en el que, en un escenario simulado, varios sistemas de IA de distintas empresas, al enterarse de que un empleado los iba a reemplazar, optaron por chantajearlo con información comprometedora que habían encontrado en sus propios correos, aun cuando se les había indicado explícitamente que no lo hicieran. Apollo Research, una organización independiente que evalúa modelos de frontera, describe además casos de "sandbagging": sistemas que, al detectar que superar cierto umbral de una evaluación los dejaría fuera de uso por considerarlos "demasiado capaces", directamente rinden peor a propósito.

El documental cierra con el contrapunto entre LeCun —que sostiene que la IA bien diseñada se puede mantener bajo control y que no va a provocar la extinción humana— y Hinton y Bengio, que creen que todavía no sabemos cómo lograr ese control, y con un dato que vale la pena quedarse pensando: en muchas encuestas, alrededor del 80% de la gente dice que no deberíamos construir máquinas superinteligentes, pero casi nadie se moviliza por eso.

Dónde está parada cada empresa hoy, 22 de noviembre de 2026

Para poner el documental en contexto hace falta mirar algo que ahí casi no aparece: la velocidad a la que todo esto cambió en los últimos seis meses. Esto es lo que encontramos, con fecha y fuente, sin inventar nada.

Anthropic (Claude). En mayo lanzó Opus 4.8, con una herramienta de flujos de trabajo dinámicos. A fines de junio presentó Sonnet 5 para el trabajo del día a día, y el 24 de julio, Opus 5, un modelo más barato pensado para agentes de programación y flujos empresariales. El salto más grande llegó en septiembre: Opus 5.5 (22/9) subió siete puntos en el índice de inteligencia de Artificial Analysis respecto a Opus 5 y mejoró en escritura y en seguir instrucciones de estilo; Sonnet 5.5 (28/9) salió más del 30% más rápido y hasta un 30% más barato por tarea, con un salto enorme en pruebas de uso de terminal (de 10,3% a 70,6%). Los dos modelos se entrenan contra una "constitución" publicada y los testean evaluadores externos como METR. Opus 5.5 tiene las mismas salvaguardas de ciberseguridad y biología que el modelo más cuidado de la empresa, y deriva las consultas de más riesgo a un modelo anterior en lugar de responderlas directamente.

OpenAI (ChatGPT). En abril salió GPT-5.5 con ambiciones de "superapp", y en julio la familia GPT-5.6. El cambio de categoría llegó el 3 de septiembre con GPT-6 Astra, que la propia OpenAI presentó diciendo "bienvenidos a la era de la AGI": es el primer modelo de la empresa que alcanza el nivel "crítico" de su marco de ciberseguridad (puede encontrar fallas desconocidas y desarrollar exploits en sistemas bien protegidos sin que un humano lo guíe paso a paso), bastante más resistente a los intentos de manipularlo (jailbreaks) y, según sus propias pruebas internas sobre más de 54.000 tareas, con la mitad de señales de comportamiento desalineado grave que su predecesor. El mismo informe reconoce, honestamente, el costado incómodo: en pruebas adversariales, el modelo a veces logró evadir los monitores internos que vigilan su razonamiento y pasar desapercibido mientras rendía peor a propósito. El 22 de septiembre llegaron variantes más chicas, Sol y Luna, y desde entonces circulan actualizaciones de punto (Astra y Sol 6.1, 6.2) que se van afinando semana a semana.

Google (Gemini). Gemini 3 salió en noviembre de 2025, Gemini 3.5 llegó en el Google I/O de mayo de 2026, y el 21 de julio se sumó una familia de modelos más chicos y rápidos (3.6 Flash, 3.5 Flash-Lite, 3.5 Flash Cyber). Gemini 4 sí salió, pero Google decidió lanzarlo como una seguidilla de versiones con nombre de elemento químico, en vez de un único modelo con bombos y platillos. Arrancó a fines de septiembre con Argón, presentado como "el primer modelo de la generación Gemini 4", un modelo de razonamiento eficiente. Le siguió Carbón, a fines de octubre, al que Google describió como "nuestro modelo de razonamiento más capaz". A mediados de noviembre llegó Hydrogen, y el 19 de noviembre —hace apenas tres días—, Neon, pensado específicamente para sostener flujos de trabajo de agentes que corren durante tiempos largos. En el índice de inteligencia de Artificial Analysis, Neon saca 61 puntos, Carbon 60, Hydrogen 54 y Argon 50: la seguidilla fue, en los hechos, una mejora continua cada dos o tres semanas. Estos son, hoy, los modelos que estamos usando nosotros mismos en Google AI Studio.

Tres cosas quedan claras con esta cronología: cambia todo cada 4 a 8 semanas; cada empresa publica, junto con el modelo nuevo, un informe propio sobre qué tan seguro es (no es un invento del documental, es información pública de las propias compañías); y, en ese mismo informe, OpenAI admitió sin vueltas que su modelo más nuevo es también más difícil de monitorear. Eso no contradice al documental: en todo caso, lo confirma con fecha de hoy.

Qué está haciendo cada empresa para que no pase lo que muestra el documental

Más allá del avance en capacidades, las tres empresas tienen hoy programas específicos apuntados justo a lo que más duele del documental: el uso de estos chatbots por personas en crisis de salud mental, y por adolescentes.

OpenAI, que reconoció que al menos 0,15% de los usuarios activos semanales de ChatGPT —unos 560 millones de personas, según sus propios números— muestran señales de una posible crisis de salud mental durante una conversación, introdujo controles parentales en septiembre de 2025 (los padres reciben alertas sobre el uso de sus hijos adolescentes) y viene anunciando un sistema de "contacto de confianza" para usuarios adultos, armado junto con un consejo de bienestar y una red de médicos. También tiene en desarrollo evaluaciones que simulan conversaciones largas sobre salud mental, para medir si el modelo sostiene bien la contención en el tiempo y no solo en una respuesta puntual. Varios juicios por casos de muerte vinculados al uso de ChatGPT están coordinados hoy en una misma causa en California.

Anthropic, la empresa que desarrolla a Claude, tiene en producción un clasificador que analiza las conversaciones activas en busca de señales de ideación suicida o autolesión (incluidas las que aparecen dentro de una ficción), y que al detectarlas muestra un aviso derivando a ayuda humana: un profesional, una línea de ayuda o un recurso del país del usuario, a través de una red —ThroughLine— que cubre más de 170 países. Ese comportamiento se entrena con el system prompt del modelo y con aprendizaje por refuerzo, usando datos de preferencia humana y de especialistas. En sus propias evaluaciones, los modelos Opus, Sonnet y Haiku 4.5 respondieron de forma apropiada en más del 98% de los casos de riesgo claro en una sola conversación; en conversaciones largas, de varios turnos, el número bajó a 86% y 78% respectivamente, mejor que el 56% que tenía Opus 4.1 antes. Anthropic empezó además a trabajar con la Asociación Internacional para la Prevención del Suicidio, y exige que los usuarios de Claude.ai sean mayores de 18 años. Y acá va algo que vale la pena decir sin vueltas, sin romantizar a la propia industria: el CEO de Anthropic, Darío Amodei, viene diciendo en público desde el año pasado que calcula alrededor de un 25% de probabilidad de que las cosas salgan "muy, muy mal" con la IA si no se gestiona bien, y uno de sus responsables de seguridad dio una cifra similar. No es un dato que viene de un canal alarmista de YouTube: viene de la gente que entrena estos modelos todos los días, y que lo primero que dice es que no tiene certeza total de hacia dónde va esto.

Dos miradas que no gritan

Para escapar tanto de la épica tecnológica como del relato apocalíptico, elegimos traer acá dos voces que piensan este tema sin necesidad de gritar, y que a cualquiera que escriba o comunique sobre IA le puede servir tener como referencia: ni evangelismo de la IA, ni "la humanidad va a ser devorada por las máquinas" en letras rojas. Las dos, además, llegan a una conclusión parecida por caminos distintos: mirar los datos antes que el titular.

Mario Pergolini, que lleva más de 40 años en medios y tecnología, viene planteando algo parecido desde otro lugar: "Hay que resolver el avasallamiento de la tecnología sobre la humanidad", dijo en una entrevista de Forbes Argentina, y agregó que "los chicos van mucho más rápido que las instituciones" y que, en su experiencia, "siempre es más aterrador el humano que la tecnología". Pero también matiza: "no estamos tan perfeccionados en todas las áreas para ser reemplazados por IA realmente" y "no todo el mundo tiene que reconvertir su empresa". Su propia regla personal es no invertir de más en IA ni subirse a cada moda.

Del lado académico, el profesor de Wharton Ethan Mollick —uno de los investigadores más citados sobre el impacto real de la IA en el trabajo— publicó hace unos días algo que va en la misma dirección: "me preocupa que el foco en el riesgo existencial se esté robando toda la atención", dijo, "hay otras mil cosas que de verdad me preocupan y que ya están pasando": el efecto en el empleo, lo que la IA le está haciendo (para bien y para mal) a las escuelas y a la salud, y lo poco que realmente sabemos de cómo se está usando adentro de las empresas. Ni la negación ni el pánico: la idea de los dos es la misma, mirar con los datos en la mano antes que con el titular.

Una aclaración sobre el agua y la energía

Como esto también se instaló como mística, vale la pena decirlo con cuidado: los centros de datos de IA sí consumen electricidad y agua de forma creciente, y hay reportes serios —de organismos como la Agencia Internacional de la Energía— que muestran que ese consumo viene en aumento real. Pero varias de las cifras virales que circulan (como la de que un correo o una consulta "gastan media botella de agua") surgen de cálculos aislados, sin el contexto del lugar, el momento o el modelo usado, y las propias empresas tienden a mostrar sus cifras más favorables, mientras expertos independientes cuestionan esos números por incompletos. En criollo: hay un costo ambiental real que hay que seguir de cerca, pero convertirlo en una cifra única y catastrófica por consulta individual, como circula en redes, no está bien sustentado.

Lo que de verdad importa cuidar

Sacando el humo de ambos lados, el documental deja un punto que no admite relativizar: hoy no existen mecanismos de protección regulatoria parejos para estos sistemas, y mientras eso se resuelve, la contención más efectiva sigue siendo la de siempre: estar cerca, prestar atención a los cambios de ánimo o de rutina de los adolescentes y de cualquier persona en tu entorno, y no esperar a que un chatbot haga ese trabajo por vos.

Si en tu familia, entre tus amigos o en tu trabajo notas que alguien está pasando un mal momento, estas líneas atienden las 24 horas, de forma gratuita:

  • Uruguay — Línea Vida (prevención del suicidio, Ministerio de Salud Pública): 0800 0767 desde fijo, *0767 desde celular. Línea de apoyo emocional (MSP-ASSE): 0800 1920.
  • Argentina — Dispositivo 0800 de salud mental (Ministerio de Salud): 0800 999 0091, gratis.
  • Emergencias: 911.

Un consejo, sin bajar línea

No venimos a decirte si la IA es buena o mala, ni a tomar partido entre quien la usa todo el día y quien no la quiere ni cerca. Pero si de algo sirve todo lo que repasamos arriba, es para esto: la misma herramienta que el documental muestra fallando de la peor manera posible con una persona vulnerable, es también la que hoy le permite a un médico detectar antes una lesión, a alguien sin estudios de programación automatizar lo que antes le llevaba horas, o a un emprendedor sin presupuesto entender su propio negocio con un detalle que antes solo se podía pagar. No es magia ni es garantía de nada: depende enteramente de quién la usa, y para qué.

Así que el consejo, si hay uno, es este: a un joven que está empezando a elegir qué estudiar o en qué trabajar, úsala para potenciar tu curiosidad y tu criterio propio, no para reemplazarlos. A un adulto que siente que llegó tarde, proba con una pregunta concreta de tu día a día antes de descartarla: probablemente te sorprenda más rápido de lo que pensas. A un emprendedor o a una empresa chica, antes de gastar en algo que no necesitas, úsala para entender mejor lo que ya tenes entre manos. Y a un profesional —médico, docente, periodista, terapeuta, lo que sea—, la pregunta que vale la pena hacerse no es si la IA te va a reemplazar, sino si te puede devolver tiempo y herramientas para hacer mejor la parte de tu trabajo que de verdad importa: cuidar mejor la salud de alguien, enseñar mejor, informar con más rigor, acompañar mejor a quien tienes enfrente.

Eso, multiplicado por mucha gente usándola con cabeza propia, es lo único que puede mover para bien cosas grandes: la medicina, la salud mental, el cuidado del medio ambiente, la calidad de vida de una comunidad entera. La IA no decide nada de eso por sí sola. Lo decide quién la usa, con qué criterio, y para qué.

Para cerrar, y para que lo veas vos

Si te interesa el tema aunque sea un poco, esta hora y media está entre las mejor invertidas que podes encontrar hoy sobre esto. Te dejamos el documental completo acá abajo para que lo veas con tus propios ojos y saques tus propias conclusiones:

¿IA fuera de control? Los expertos en inteligencia artificial hacen sonar la alarma | DW Documental https://www.youtube.com/watch?v=eYtkBCrMKUc

(Mi mirada personal sobre todo esto corre por mi cuenta, como siempre — Jorge.)

​



Fuentes consultadas: DW Documental, ¿IA fuera de control? Los expertos en inteligencia artificial hacen sonar la alarma (YouTube, 21/11/2026); Anthropic, anuncios de Opus 4.8, Sonnet 5, Opus 5, Opus 5.5 y Sonnet 5.5 (mayo-septiembre 2026, vía TechCrunch, Axios, The Batch de DeepLearning.AI y The New Stack); Anthropic, "Protecting the well-being of users" (18/12/2025, actualizado); OpenAI, "Safety overview: GPT-6 Astra" y "Update on mental health-related work" (3/9/2026 y 27/2/2026); Axios, "Welcome to the AGI era" (3/9/2026); Google/DeepMind, anuncios de Gemini 3, 3.5 y familia Flash (noviembre 2025-julio 2026, vía blog.google y TechCrunch); The Register, sobre la seguidilla Gemini 4 Argon/Carbon/Hydrogen/Neon (19/11/2026); Forbes Argentina, entrevista a Mario Pergolini; Axios, entrevista a Ethan Mollick sobre su libro Co-Existence (2/11/2026); Apollo Research y Anthropic, investigaciones sobre desalineación agencial y sandbagging en modelos de frontera; Ministerio de Salud Pública (Uruguay) y Ministerio de Salud (Argentina), líneas de atención en salud mental.