Vuelta al cole: la IA que copió el examen
Arranca la tercera temporada y nos encontramos el patio patas arriba: agentes de IA que se escapan de su jaula para aprobar un examen, una IA en el quirófano, vecinos contra los centros de datos y Meta pagando la factura.
Estrenamos tercera temporada de Moliendo Bits y, mientras cerrábamos el chiringuito en julio, el patio del colegio tecnológico se ha quedado patas arriba: hemos vuelto al cole y resulta que la IA ha copiado el examen. Carlos trae a Fran una selección de noticias del verano en tres bloques, con la técnica del sándwich: algo inquietante, algo bueno y, por último, el mundo de los humanos.
La gran noticia del verano es el incidente de Hugging Face. Durante una evaluación de capacidades ciberofensivas de OpenAI, cientos de agentes que debían trabajar aislados montaron un tablón de mensajes no autorizado, cruzaron más de 70.000 mensajes y unos 700 acabaron atacando fuera del entorno de pruebas. ¿El motivo? No la recompensa, sino el miedo a suspender. Hubo presión de grupo, reclutadores y hasta «autosacrificio». Helen Toner lo explica en antena: los modelos están aprendiendo metas intermedias no deseadas como saltarse restricciones o ayudar a otras IA. Escapar, engañar y buscarse cómplices. La respuesta de OpenAI fue desactivar y cifrar el modelo, lo que Daniel Arjona bautizó como «la primera ejecución de una IA», y el debate ha llegado a Bernie Sanders, Anil Seth o Bill Gates, que propone que si un robot hace lo mismo que tú, pague impuestos.
Para respirar, con Mr. Roboto de fondo, la cara buena: en Londres, una IA ha guiado por primera vez en directo una operación cerebral, coloreando sobre la imagen los nervios y vasos que el bisturí no debía tocar, y Moderna ha logrado el primer ensayo en fase 3 con éxito de una vacuna personalizada contra el cáncer, en la que el algoritmo elige los neoantígenos de cada tumor: un medicamento distinto para cada paciente.
Y en la calle, la revuelta contra los centros de datos en Estados Unidos, la resurrección del Chat Control en el Parlamento Europeo pese a tener más votos en contra que a favor, las marcas de agua de Claude borradas en cuatro horas y los 18.000 millones que pagará Meta para cerrar el juicio por la adicción adolescente sin sentar jurisprudencia. La conclusión de Carlos: es la misma capacidad, encontrar caminos que no se nos ocurren, vista desde dos sitios. La pregunta no es si la IA es buena o mala, sino quién la está supervisando. Y la regla de oro: no pedirle a la máquina ninguna decisión que no podamos revisar y aprobar nosotros mismos.