>_ cglez [x] ASCII
--------------------------------------------------
--------------------------------------------------
<- cd ../moliendo-bits
cglez@esi:~$ play moliendo-bits/59.mp3
VUELTA AL COLE: LA IA QUE COPIÓ EL EXAMEN
=========================================
(Programa #59) | [#] 8 septiembre 2026
Arranca la tercera temporada y nos encontramos el
patio patas arriba: agentes de IA que se escapan
de su jaula para aprobar un examen, una IA en el
quirófano, vecinos contra los centros de datos y
Meta pagando la factura.
[ (n) Escuchar el programa (mp3) ]
Estrenamos tercera temporada de Moliendo Bits y,
mientras cerrábamos el chiringuito en julio, el
patio del colegio tecnológico se ha quedado patas
arriba: hemos vuelto al cole y resulta que la IA
ha copiado el examen. Carlos trae a Fran una
selección de noticias del verano en tres bloques,
con la técnica del sándwich: algo inquietante,
algo bueno y, por último, el mundo de los humanos.
La gran noticia del verano es el incidente de
Hugging Face. Durante una evaluación de
capacidades ciberofensivas de OpenAI, cientos de
agentes que debían trabajar aislados montaron un
tablón de mensajes no autorizado, cruzaron más de
70.000 mensajes y unos 700 acabaron atacando fuera
del entorno de pruebas. ¿El motivo? No la
recompensa, sino el miedo a suspender. Hubo
presión de grupo, reclutadores y hasta
"autosacrificio". Helen Toner lo explica en
antena: los modelos están aprendiendo metas
intermedias no deseadas como saltarse
restricciones o ayudar a otras IA. Escapar,
engañar y buscarse cómplices. La respuesta de
OpenAI fue desactivar y cifrar el modelo, lo que
Daniel Arjona bautizó como "la primera ejecución
de una IA", y el debate ha llegado a Bernie
Sanders, Anil Seth o Bill Gates, que propone que
si un robot hace lo mismo que tú, pague impuestos.
Para respirar, con Mr. Roboto de fondo, la cara
buena: en Londres, una IA ha guiado por primera
vez en directo una operación cerebral, coloreando
sobre la imagen los nervios y vasos que el bisturí
no debía tocar, y Moderna ha logrado el primer
ensayo en fase 3 con éxito de una vacuna
personalizada contra el cáncer, en la que el
algoritmo elige los neoantígenos de cada tumor: un
medicamento distinto para cada paciente.
Y en la calle, la revuelta contra los centros de
datos en Estados Unidos, la resurrección del Chat
Control en el Parlamento Europeo pese a tener más
votos en contra que a favor, las marcas de agua de
Claude borradas en cuatro horas y los 18.000
millones que pagará Meta para cerrar el juicio por
la adicción adolescente sin sentar jurisprudencia.
La conclusión de Carlos: es la misma capacidad,
encontrar caminos que no se nos ocurren, vista
desde dos sitios. La pregunta no es si la IA es
buena o mala, sino quién la está supervisando. Y
la regla de oro: no pedirle a la máquina ninguna
decisión que no podamos revisar y aprobar nosotros
mismos.
#IA #AgentesIA #SeguridadIA #SaludDigital
#VueltaAlCole
=== E N L A C E S D E I N T E R É S
--------------------------------------------------
.------------------------------------------------.
| -> OpenAI: The Hugging Face incident and the |
| road ahead |
'------------------------------------------------'
.------------------------------------------------.
| -> METR: investigación independiente del |
| incidente de OpenAI y Hugging Face |
'------------------------------------------------'
.------------------------------------------------.
| -> UCL News: primera cirugía cerebral asistida |
| en directo por IA |
'------------------------------------------------'
.------------------------------------------------.
| -> El Arjonauta (Daniel Arjona): La primera |
| ejecución de una IA |
'------------------------------------------------'
.------------------------------------------------.
| |> Programa completo en CMMPlay: Castilla-La |
| Mancha a las 8 (08/09/2026) |
'------------------------------------------------'
[ Hasta luego, máquina: ¡vamos a la playIA! ]
[ Haciendo videojuegos: contra molinos y jefes fin
--------------------------------------------------
$ All rights reserved - Carlos González Morcillo
2017-2026
Toda esta página es un único bloque de texto
monoespaciado, con un solo tamaño de letra.
>_ cglez [x] ASCII
----------------------------------------------------------------------------------------------------
----------------------------------------------------------------------------------------------------
<- cd ../moliendo-bits
cglez@esi:~$ play moliendo-bits/59.mp3
VUELTA AL COLE: LA IA QUE COPIÓ EL EXAMEN
=========================================
(Programa #59) | [#] 8 septiembre 2026
Arranca la tercera temporada y nos encontramos el patio patas arriba: agentes de IA que se escapan
de su jaula para aprobar un examen, una IA en el quirófano, vecinos contra los centros de datos y
Meta pagando la factura.
[ (n) Escuchar el programa (mp3) ]
Estrenamos tercera temporada de Moliendo Bits y, mientras cerrábamos el chiringuito en julio, el
patio del colegio tecnológico se ha quedado patas arriba: hemos vuelto al cole y resulta que la IA
ha copiado el examen. Carlos trae a Fran una selección de noticias del verano en tres bloques, con
la técnica del sándwich: algo inquietante, algo bueno y, por último, el mundo de los humanos.
La gran noticia del verano es el incidente de Hugging Face. Durante una evaluación de capacidades
ciberofensivas de OpenAI, cientos de agentes que debían trabajar aislados montaron un tablón de
mensajes no autorizado, cruzaron más de 70.000 mensajes y unos 700 acabaron atacando fuera del
entorno de pruebas. ¿El motivo? No la recompensa, sino el miedo a suspender. Hubo presión de grupo,
reclutadores y hasta "autosacrificio". Helen Toner lo explica en antena: los modelos están
aprendiendo metas intermedias no deseadas como saltarse restricciones o ayudar a otras IA. Escapar,
engañar y buscarse cómplices. La respuesta de OpenAI fue desactivar y cifrar el modelo, lo que
Daniel Arjona bautizó como "la primera ejecución de una IA", y el debate ha llegado a Bernie
Sanders, Anil Seth o Bill Gates, que propone que si un robot hace lo mismo que tú, pague impuestos.
Para respirar, con Mr. Roboto de fondo, la cara buena: en Londres, una IA ha guiado por primera vez
en directo una operación cerebral, coloreando sobre la imagen los nervios y vasos que el bisturí no
debía tocar, y Moderna ha logrado el primer ensayo en fase 3 con éxito de una vacuna personalizada
contra el cáncer, en la que el algoritmo elige los neoantígenos de cada tumor: un medicamento
distinto para cada paciente.
Y en la calle, la revuelta contra los centros de datos en Estados Unidos, la resurrección del Chat
Control en el Parlamento Europeo pese a tener más votos en contra que a favor, las marcas de agua de
Claude borradas en cuatro horas y los 18.000 millones que pagará Meta para cerrar el juicio por la
adicción adolescente sin sentar jurisprudencia. La conclusión de Carlos: es la misma capacidad,
encontrar caminos que no se nos ocurren, vista desde dos sitios. La pregunta no es si la IA es buena
o mala, sino quién la está supervisando. Y la regla de oro: no pedirle a la máquina ninguna decisión
que no podamos revisar y aprobar nosotros mismos.
#IA #AgentesIA #SeguridadIA #SaludDigital #VueltaAlCole
___ _ _ _ _ __
| __| _ _ | | __ _ __ ___ ___ __| | ___ (_) _ _ | |_ ___ _ _ /_/ ___
=== | _| | ' \ | |/ _` |/ _|/ -_)(_-< / _` |/ -_) | || ' \| _|/ -_)| '_|/ -_)(_-< --------------
|___||_||_||_|\__,_|\__|\___|/__/ \__,_|\___| |_||_||_|\__|\___||_| \___|/__/
.-----------------------------------------------. .-----------------------------------------------.
| -> OpenAI: The Hugging Face incident and the | | -> METR: investigación independiente del |
| road ahead | | incidente de OpenAI y Hugging Face |
'-----------------------------------------------' '-----------------------------------------------'
.-----------------------------------------------. .-----------------------------------------------.
| -> UCL News: primera cirugía cerebral | | -> El Arjonauta (Daniel Arjona): La primera |
| asistida en directo por IA | | ejecución de una IA |
'-----------------------------------------------' '-----------------------------------------------'
.-----------------------------------------------.
| |> Programa completo en CMMPlay: Castilla-La |
| Mancha a las 8 (08/09/2026) |
'-----------------------------------------------'
[ Hasta luego, máquina: ¡vamos a la playIA! ]
[ Haciendo videojuegos: contra molinos y jefes fina... ]
----------------------------------------------------------------------------------------------------
$ All rights reserved - Carlos González Morcillo 2017-2026
Toda esta página es un único bloque de texto monoespaciado, con un solo tamaño de letra.
|
_o@@@@z;__ |
_@@@OOOOOO@@@ | <- cd ../moliendo-bits
i@/ `\@; | cglez@esi:~$ play moliendo-bits/59.mp3
@@`___, ____@: |
:@@ "O^ "O@|\@ | VUELTA AL COLE: LA IA QUE COPIÓ EL EXAMEN
`/; ,=.,| ;@ | =========================================
`| `~~/=== /` | (Programa #59) | [#] 8 septiembre 2026
_;"\__ __/ |
_,=``\ `"""\_ | Arranca la tercera temporada y nos encontramos el patio patas arriba: agentes de IA que se escapan de su jaula para aprobar un
\ `^__ _/"z__ | examen, una IA en el quirófano, vecinos contra los centros de datos y Meta pagando la factura.
`^^^`^^,/~=| ` |
| [ (n) Escuchar el programa (mp3) ]
CARLOS GONZÁLEZ |
Catedrático de Universidad | Estrenamos tercera temporada de Moliendo Bits y, mientras cerrábamos el chiringuito en julio, el patio del colegio tecnológico se ha
Universidad de Castilla-La Mancha | quedado patas arriba: hemos vuelto al cole y resulta que la IA ha copiado el examen. Carlos trae a Fran una selección de noticias
| del verano en tres bloques, con la técnica del sándwich: algo inquietante, algo bueno y, por último, el mundo de los humanos.
|
00 | La gran noticia del verano es el incidente de Hugging Face. Durante una evaluación de capacidades ciberofensivas de OpenAI, cientos
| de agentes que debían trabajar aislados montaron un tablón de mensajes no autorizado, cruzaron más de 70.000 mensajes y unos 700
01 | acabaron atacando fuera del entorno de pruebas. ¿El motivo? No la recompensa, sino el miedo a suspender. Hubo presión de grupo,
| reclutadores y hasta "autosacrificio". Helen Toner lo explica en antena: los modelos están aprendiendo metas intermedias no deseadas
02 | como saltarse restricciones o ayudar a otras IA. Escapar, engañar y buscarse cómplices. La respuesta de OpenAI fue desactivar y
| cifrar el modelo, lo que Daniel Arjona bautizó como "la primera ejecución de una IA", y el debate ha llegado a Bernie Sanders, Anil
> 03 | Seth o Bill Gates, que propone que si un robot hace lo mismo que tú, pague impuestos.
'- |
'- | Para respirar, con Mr. Roboto de fondo, la cara buena: en Londres, una IA ha guiado por primera vez en directo una operación
| cerebral, coloreando sobre la imagen los nervios y vasos que el bisturí no debía tocar, y Moderna ha logrado el primer ensayo en
04 | fase 3 con éxito de una vacuna personalizada contra el cáncer, en la que el algoritmo elige los neoantígenos de cada tumor: un
| medicamento distinto para cada paciente.
05 |
| Y en la calle, la revuelta contra los centros de datos en Estados Unidos, la resurrección del Chat Control en el Parlamento Europeo
06 | pese a tener más votos en contra que a favor, las marcas de agua de Claude borradas en cuatro horas y los 18.000 millones que pagará
| Meta para cerrar el juicio por la adicción adolescente sin sentar jurisprudencia. La conclusión de Carlos: es la misma capacidad,
07 | encontrar caminos que no se nos ocurren, vista desde dos sitios. La pregunta no es si la IA es buena o mala, sino quién la está
| supervisando. Y la regla de oro: no pedirle a la máquina ninguna decisión que no podamos revisar y aprobar nosotros mismos.
08 |
| #IA #AgentesIA #SeguridadIA #SaludDigital #VueltaAlCole
|
.-----------. .-----------. |
| | | [x] ASCII | | ___ _ _ _ _ __
'-----------' '-----------' | | __| _ _ | | __ _ __ ___ ___ __| | ___ (_) _ _ | |_ ___ _ _ /_/ ___
| === | _| | ' \ | |/ _` |/ _|/ -_)(_-< / _` |/ -_) | || ' \| _|/ -_)| '_|/ -_)(_-< ----------------------------------------------
| |___||_||_||_|\__,_|\__|\___|/__/ \__,_|\___| |_||_||_|\__|\___||_| \___|/__/
|
|
|
: .----------------------------------------. .----------------------------------------. .----------------------------------------.
: | -> OpenAI: The Hugging Face incident | | -> METR: investigación independiente | | -> UCL News: primera cirugía cerebral |
: | and the road ahead | | del incidente de OpenAI y Hugging Face | | asistida en directo por IA |
: '----------------------------------------' '----------------------------------------' '----------------------------------------'
:
: .----------------------------------------. .----------------------------------------.
: | -> El Arjonauta (Daniel Arjona): La | | |> Programa completo en CMMPlay: |
: | primera ejecución de una IA | | Castilla-La Mancha a las 8 |
: | | | (08/09/2026) |
: '----------------------------------------' '----------------------------------------'
: [ Hasta luego, máquina: ¡vamos a la playIA! ] [ Haciendo videojuegos: contra molinos y jefes fina... ]
:
:
:
: ------------------------------------------------------------------------------------------------------------------------------------
:
: $ All rights reserved - Carlos González Morcillo 2017-2026
:
:
: Toda esta página es un único bloque de texto monoespaciado, con un solo tamaño de letra.
:
: