Cristina sin vueltas · Rivadavia
El que se fue no es el de ética. Es el que construía el motor.
9 de septiembre de 2026
Una mirada a la renuncia de un investigador de IA, los incentivos de una carrera que nadie quiere frenar solo y las preguntas que abre para todos nosotros.
Otra versión de la grabación
Versión completa conservada en el archivo. La edición corta se reproduce arriba.
¿Qué hago?
- Separá los modelos que usás hoy (no son un peligro) de la discusión sobre el futuro.
- Informate en fuentes directas, no en titulares.
- Seguí usando la IA, pero no le delegues todo tu pensamiento.
Transcripción
Transcripción automática, levemente editada.
Hola, Cristina, equipo y oyentes. Hoy vamos a hablar de una noticia inquietante. Jacob Coxon, en un hilo de Twitter que ya tiene más de sesenta y cinco millones de visitas, publicó una frase que conviene escuchar con precaución: "Están corriendo hacia una superinteligencia que se mejora sola y apostando con nuestras vidas".
Se refiere, claro, a Anthropic, la empresa de la que él renuncia, y a OpenAI, que es la empresa en la que él había trabajado previamente y de la que también renunció por las mismas o similares razones de ética. Y he aquí lo inquietante, porque Jacob Coxon no es la persona que se encarga de ética dentro de Anthropic, no es la persona de comunicaciones, no es alguien de fuera. Jacob era investigador de preentrenamiento, es decir, la etapa en la que el modelo se construye desde cero con todos los datos. Es la persona de la sala de máquinas.
Su tesis no es que las empresas sean malas, es que la competencia las obliga. Habla de una carrera soberbia que las fuerza a construir primero los sistemas peligrosos. Nadie puede frenar solo, dice, porque frenar es perder. Es un problema de incentivos y no de intenciones. Él reconoce las buenas intenciones en Anthropic, no tanto en OpenAI, pero ahí es donde suelta quizás la frase más pesada de todas: los que están construyendo la IA desde dentro creen sinceramente que podría matarnos a todos antes de que termine la década.
Y pide dos cosas: que sus colegas cooperen y que los países puedan coordinar para protegerse de estas posibles amenazas.
¿Y cuáles son estas amenazas? Bueno, Jacob nombra tres específicamente. Uno, la superinteligencia que se mejora sola y que además los humanos no pueden comprender.
Segundo, que pueda hackear cualquier cosa: un sistema superinteligente, sobrehumano, que en programación no encuentre ninguna puerta cerrada. Y tercero, que consiga poder y recursos reales. No un robot con un arma, sino cuentas, contratos, infraestructura y capacidad de penetrar cualquier sistema informático.
Aquí vale la pena frenar, tomar aire y reflexionar unos minutos. Todos los avances tecnológicos han tenido detractores que llamaron la atención sobre la velocidad de su avance a lo largo de la historia de la humanidad. ¿Es esta una realidad diferente? No lo sabemos. Podría serlo. Pero una aclaración importante es que los modelos que usamos actualmente, los modelos comerciales, no son un peligro. El problema, en todo caso, es cuál es la evolución que se está viendo posiblemente hacia el futuro. No tenemos la respuesta. Vale la pena seguir alertas. Vale la pena tratar de ser más inteligentes como humanos y no delegar toda nuestra inteligencia en máquinas artificiales.
Pero, sin embargo, es muy pronto todavía para poder distinguir si estamos frente a un peligro de extinción o no. Personalmente, yo creo que no. Como decimos siempre, la inteligencia artificial te da superpoderes. Hoy vimos que algunos de los que la están fabricando desde adentro están pidiendo que frenemos un poco. Hasta la semana que viene.