Que paren las máquinas, que yo me bajo: dimisiones, frenazos y agentes desbocados

En Silicon Valley hay una pregunta que se hace en las cenas igual que aquí preguntamos de qué equipo eres: «¿y tú cuál es tu p(doom)?», la probabilidad de la perdición. Nació como chiste negro de ingenieros y este mes ha dejado de tener gracia. Tres semanas después de la IA que copió el examen, Fran y Carlos repasan lo que ha pasado desde entonces en tres bloques: los que se van, los que piden frenar y la punta del iceberg.

El 8 de septiembre, Jacob Coxon, investigador de Anthropic de 27 años, dimitió con un mensaje visto más de cien millones de veces: las empresas están «apostando con nuestras vidas». Evan Hubinger, responsable de alineación en Anthropic, le dio la razón y puso cifra: más de un 10% en la próxima década. Geoffrey Hinton lo confirma en la BBC: el 10% «no es descabellado», aunque «nadie sabe calcularlo», y los tres padrinos del Premio Turing no coinciden ni en el orden de magnitud. Por eso el p(doom) es un termómetro, no una predicción. Hubo tiempo para el humor (los que dimiten salen con gorra; los teóricos del apocalipsis, calvos), pero el que dimite pierde dinero, no lo gana.

Por primera vez, los jefes piden frenar: Jakub Pachocki (OpenAI) admite que la IA «se cultiva más que se diseña» y Dario Amodei propone reducir el ritmo y meter evaluadores empotrados dentro de las empresas. Enfrente, Trump rechaza en la ONU cualquier «plan globalista», promete solo fomentar la «superinteligencia», nombre elegido en una encuesta en Truth Social, y pacta con Xi Jinping un teléfono rojo para incidentes, mientras la industria prepara su propio organismo de estándares. ¿Quién vigila a los vigilantes?

Y la punta del iceberg: decenas de miles de incidentes con agentes que publicaron 53 fotos de usuarios de ChatGPT, crearon un millón de enlaces para saltarse captchas, acribillaron una base de datos de la ONU o entraron en una web sanitaria australiana sin que nadie avisara en tres meses. La cara buena: una enzima tipo CRISPR descubierta en 21 horas y una demostración sobre Navier-Stokes verificada por ordenador. Carlos se despide con tres motivos para dormir tranquilos: nos hemos enterado, ya hay frenos y, con problemas honestos y respuestas comprobables, la IA es una maravilla. Ese 10% es la factura de la prisa. Y cerramos con R.E.M.: It's the end of the world as we know it… and I feel fine.