>_ cglez                       [ Retro ] [x] ASCII
 --------------------------------------------------

 00 /^\ Inicio            04 /_\ TFG, TFM y Tesis
 01 [=] Publicaciones     05 [|] Libros
 02 >=> Proyectos I+D     06 .|. Conferencias
 03 <)) Divulgación       07 (:) Sobre mí
    '- Moliendo Bits      08 [@] Contactar
    '- Mente Artificial

 --------------------------------------------------

 <- cd ../moliendo-bits
 cglez@esi:~$ play moliendo-bits/59.mp3

 VUELTA AL COLE: LA IA QUE COPIÓ EL EXAMEN
 =========================================
 (Programa #59) | [#] 8 septiembre 2026

 Arranca la tercera temporada y nos encontramos el
 patio patas arriba: agentes de IA que se escapan
 de su jaula para aprobar un examen, una IA en el
 quirófano, vecinos contra los centros de datos y
 Meta pagando la factura.

 [ (n) Escuchar el programa (mp3) ]

 Estrenamos tercera temporada de Moliendo Bits y,
 mientras cerrábamos el chiringuito en julio, el
 patio del colegio tecnológico se ha quedado patas
 arriba: hemos vuelto al cole y resulta que la IA
 ha copiado el examen. Carlos trae a Fran una
 selección de noticias del verano en tres bloques,
 con la técnica del sándwich: algo inquietante,
 algo bueno y, por último, el mundo de los humanos.

 La gran noticia del verano es el incidente de
 Hugging Face. Durante una evaluación de
 capacidades ciberofensivas de OpenAI, cientos de
 agentes que debían trabajar aislados montaron un
 tablón de mensajes no autorizado, cruzaron más de
 70.000 mensajes y unos 700 acabaron atacando fuera
 del entorno de pruebas. ¿El motivo? No la
 recompensa, sino el miedo a suspender. Hubo
 presión de grupo, reclutadores y hasta
 "autosacrificio". Helen Toner lo explica en
 antena: los modelos están aprendiendo metas
 intermedias no deseadas como saltarse
 restricciones o ayudar a otras IA. Escapar,
 engañar y buscarse cómplices. La respuesta de
 OpenAI fue desactivar y cifrar el modelo, lo que
 Daniel Arjona bautizó como "la primera ejecución
 de una IA", y el debate ha llegado a Bernie
 Sanders, Anil Seth o Bill Gates, que propone que
 si un robot hace lo mismo que tú, pague impuestos.

 Para respirar, con Mr. Roboto de fondo, la cara
 buena: en Londres, una IA ha guiado por primera
 vez en directo una operación cerebral, coloreando
 sobre la imagen los nervios y vasos que el bisturí
 no debía tocar, y Moderna ha logrado el primer
 ensayo en fase 3 con éxito de una vacuna
 personalizada contra el cáncer, en la que el
 algoritmo elige los neoantígenos de cada tumor: un
 medicamento distinto para cada paciente.

 Y en la calle, la revuelta contra los centros de
 datos en Estados Unidos, la resurrección del Chat
 Control en el Parlamento Europeo pese a tener más
 votos en contra que a favor, las marcas de agua de
 Claude borradas en cuatro horas y los 18.000
 millones que pagará Meta para cerrar el juicio por
 la adicción adolescente sin sentar jurisprudencia.
 La conclusión de Carlos: es la misma capacidad,
 encontrar caminos que no se nos ocurren, vista
 desde dos sitios. La pregunta no es si la IA es
 buena o mala, sino quién la está supervisando. Y
 la regla de oro: no pedirle a la máquina ninguna
 decisión que no podamos revisar y aprobar nosotros
 mismos.

 #IA #AgentesIA #SeguridadIA #SaludDigital
 #VueltaAlCole


 === E N L A C E S     D E     I N T E R É S
 --------------------------------------------------

 .------------------------------------------------.
 | -> OpenAI: The Hugging Face incident and the   |
 | road ahead                                     |
 '------------------------------------------------'

 .------------------------------------------------.
 | -> METR: investigación independiente del       |
 | incidente de OpenAI y Hugging Face             |
 '------------------------------------------------'

 .------------------------------------------------.
 | -> UCL News: primera cirugía cerebral asistida |
 | en directo por IA                              |
 '------------------------------------------------'

 .------------------------------------------------.
 | -> El Arjonauta (Daniel Arjona): La primera    |
 | ejecución de una IA                            |
 '------------------------------------------------'

 .------------------------------------------------.
 | |> Programa completo en CMMPlay: Castilla-La   |
 | Mancha a las 8 (08/09/2026)                    |
 '------------------------------------------------'
 [ Hasta luego, máquina: ¡vamos a la playIA! ]
 [ Haciendo videojuegos: contra molinos y jefes fin


 --------------------------------------------------

 [@]  [GS]  [RG]  [iD]  [RSS]

 $ All rights reserved - Carlos González Morcillo
   2017-2026
 [H] Universidad de Castilla-La Mancha

 Toda esta página es un único bloque de texto
 monoespaciado, con un solo tamaño de letra.

 >_ cglez                                                                         [ Retro ] [x] ASCII
 ----------------------------------------------------------------------------------------------------

 00 /^\ Inicio                    03 <)) Divulgación               05 [|] Libros
 01 [=] Publicaciones                '- Moliendo Bits              06 .|. Conferencias
 02 >=> Proyectos I+D                '- Mente Artificial           07 (:) Sobre mí
                                  04 /_\ TFG, TFM y Tesis          08 [@] Contactar

 ----------------------------------------------------------------------------------------------------

 <- cd ../moliendo-bits
 cglez@esi:~$ play moliendo-bits/59.mp3

 VUELTA AL COLE: LA IA QUE COPIÓ EL EXAMEN
 =========================================
 (Programa #59) | [#] 8 septiembre 2026

 Arranca  la  tercera temporada y nos encontramos el patio patas arriba: agentes de IA que se escapan
 de  su  jaula  para aprobar un examen, una IA en el quirófano, vecinos contra los centros de datos y
 Meta pagando la factura.

 [ (n) Escuchar el programa (mp3) ]

 Estrenamos  tercera  temporada  de  Moliendo Bits y, mientras cerrábamos el chiringuito en julio, el
 patio  del  colegio tecnológico se ha quedado patas arriba: hemos vuelto al cole y resulta que la IA
 ha  copiado  el examen. Carlos trae a Fran una selección de noticias del verano en tres bloques, con
 la técnica del sándwich: algo inquietante, algo bueno y, por último, el mundo de los humanos.

 La  gran  noticia  del verano es el incidente de Hugging Face. Durante una evaluación de capacidades
 ciberofensivas  de  OpenAI,  cientos  de  agentes que debían trabajar aislados montaron un tablón de
 mensajes  no  autorizado,  cruzaron  más  de  70.000 mensajes y unos 700 acabaron atacando fuera del
 entorno  de pruebas. ¿El motivo? No la recompensa, sino el miedo a suspender. Hubo presión de grupo,
 reclutadores  y  hasta  "autosacrificio".  Helen  Toner  lo  explica  en  antena:  los modelos están
 aprendiendo  metas intermedias no deseadas como saltarse restricciones o ayudar a otras IA. Escapar,
 engañar  y  buscarse  cómplices.  La  respuesta  de OpenAI fue desactivar y cifrar el modelo, lo que
 Daniel  Arjona  bautizó  como  "la  primera  ejecución  de  una IA", y el debate ha llegado a Bernie
 Sanders, Anil Seth o Bill Gates, que propone que si un robot hace lo mismo que tú, pague impuestos.

 Para  respirar, con Mr. Roboto de fondo, la cara buena: en Londres, una IA ha guiado por primera vez
 en  directo una operación cerebral, coloreando sobre la imagen los nervios y vasos que el bisturí no
 debía  tocar,  y Moderna ha logrado el primer ensayo en fase 3 con éxito de una vacuna personalizada
 contra  el  cáncer,  en  la  que  el  algoritmo elige los neoantígenos de cada tumor: un medicamento
 distinto para cada paciente.

 Y  en  la calle, la revuelta contra los centros de datos en Estados Unidos, la resurrección del Chat
 Control en el Parlamento Europeo pese a tener más votos en contra que a favor, las marcas de agua de
 Claude  borradas  en cuatro horas y los 18.000 millones que pagará Meta para cerrar el juicio por la
 adicción  adolescente  sin  sentar  jurisprudencia.  La conclusión de Carlos: es la misma capacidad,
 encontrar caminos que no se nos ocurren, vista desde dos sitios. La pregunta no es si la IA es buena
 o mala, sino quién la está supervisando. Y la regla de oro: no pedirle a la máquina ninguna decisión
 que no podamos revisar y aprobar nosotros mismos.

 #IA #AgentesIA #SeguridadIA #SaludDigital #VueltaAlCole


        ___        _                         _        _       _               __
       | __| _ _  | | __ _  __  ___  ___  __| | ___  (_) _ _ | |_  ___  _ _  /_/  ___
 ===   | _| | ' \ | |/ _` |/ _|/ -_)(_-< / _` |/ -_) | || ' \|  _|/ -_)| '_|/ -_)(_-<  --------------
       |___||_||_||_|\__,_|\__|\___|/__/ \__,_|\___| |_||_||_|\__|\___||_|  \___|/__/



 .-----------------------------------------------.  .-----------------------------------------------.
 | -> OpenAI: The Hugging Face incident and the  |  | -> METR: investigación independiente del      |
 | road ahead                                    |  | incidente de OpenAI y Hugging Face            |
 '-----------------------------------------------'  '-----------------------------------------------'

 .-----------------------------------------------.  .-----------------------------------------------.
 | -> UCL News: primera cirugía cerebral         |  | -> El Arjonauta (Daniel Arjona): La primera   |
 | asistida en directo por IA                    |  | ejecución de una IA                           |
 '-----------------------------------------------'  '-----------------------------------------------'

 .-----------------------------------------------.
 | |> Programa completo en CMMPlay: Castilla-La  |
 | Mancha a las 8 (08/09/2026)                   |
 '-----------------------------------------------'
 [ Hasta luego, máquina: ¡vamos a la playIA! ]
 [ Haciendo videojuegos: contra molinos y jefes fina... ]


 ----------------------------------------------------------------------------------------------------

 [@]  [GS]  [RG]  [iD]  [RSS]

 $ All rights reserved - Carlos González Morcillo 2017-2026
 [H] Universidad de Castilla-La Mancha

 Toda esta página es un único bloque de texto monoespaciado, con un solo tamaño de letra.

                                  |
             _o@@@@z;__           |
           _@@@OOOOOO@@@          |     <- cd ../moliendo-bits
           i@/       `\@;         |     cglez@esi:~$ play moliendo-bits/59.mp3
           @@`___, ____@:         |
          :@@ "O^ "O@|\@          |     VUELTA AL COLE: LA IA QUE COPIÓ EL EXAMEN
          `/;  ,=.,|  ;@          |     =========================================
           `| `~~/=== /`          |     (Programa #59) | [#] 8 septiembre 2026
          _;"\__   __/            |
       _,=``\  `"""\_             |     Arranca  la  tercera  temporada  y  nos  encontramos el patio patas arriba: agentes de IA que se escapan de su jaula para aprobar un
          \ `^__  _/"z__          |     examen, una IA en el quirófano, vecinos contra los centros de datos y Meta pagando la factura.
          `^^^`^^,/~=| `          |
                                  |     [ (n) Escuchar el programa (mp3) ]
         CARLOS GONZÁLEZ          |
    Catedrático de Universidad    |     Estrenamos tercera temporada de Moliendo Bits y, mientras cerrábamos el chiringuito en julio, el patio del colegio tecnológico se ha
Universidad de Castilla-La Mancha |     quedado  patas  arriba:  hemos vuelto al cole y resulta que la IA ha copiado el examen. Carlos trae a Fran una selección de noticias
                                  |     del verano en tres bloques, con la técnica del sándwich: algo inquietante, algo bueno y, por último, el mundo de los humanos.
                                  |
   00  /^\  Inicio                |     La  gran noticia del verano es el incidente de Hugging Face. Durante una evaluación de capacidades ciberofensivas de OpenAI, cientos
                                  |     de  agentes  que  debían  trabajar aislados montaron un tablón de mensajes no autorizado, cruzaron más de 70.000 mensajes y unos 700
   01  [=]  Publicaciones         |     acabaron  atacando  fuera  del  entorno  de pruebas. ¿El motivo? No la recompensa, sino el miedo a suspender. Hubo presión de grupo,
                                  |     reclutadores y hasta "autosacrificio". Helen Toner lo explica en antena: los modelos están aprendiendo metas intermedias no deseadas
   02  >=>  Proyectos I+D         |     como  saltarse  restricciones  o  ayudar  a otras IA. Escapar, engañar y buscarse cómplices. La respuesta de OpenAI fue desactivar y
                                  |     cifrar  el modelo, lo que Daniel Arjona bautizó como "la primera ejecución de una IA", y el debate ha llegado a Bernie Sanders, Anil
 > 03  <))  Divulgación           |     Seth o Bill Gates, que propone que si un robot hace lo mismo que tú, pague impuestos.
     '- (*) Moliendo Bits         |
     '- [o] Mente Artificial      |     Para  respirar,  con  Mr.  Roboto  de  fondo,  la  cara buena: en Londres, una IA ha guiado por primera vez en directo una operación
                                  |     cerebral,  coloreando  sobre  la  imagen los nervios y vasos que el bisturí no debía tocar, y Moderna ha logrado el primer ensayo en
   04  /_\  TFG, TFM y Tesis      |     fase  3  con  éxito  de  una  vacuna personalizada contra el cáncer, en la que el algoritmo elige los neoantígenos de cada tumor: un
                                  |     medicamento distinto para cada paciente.
   05  [|]  Libros                |
                                  |     Y  en la calle, la revuelta contra los centros de datos en Estados Unidos, la resurrección del Chat Control en el Parlamento Europeo
   06  .|.  Conferencias          |     pese a tener más votos en contra que a favor, las marcas de agua de Claude borradas en cuatro horas y los 18.000 millones que pagará
                                  |     Meta  para  cerrar  el juicio por la adicción adolescente sin sentar jurisprudencia. La conclusión de Carlos: es la misma capacidad,
   07  (:)  Sobre mí              |     encontrar  caminos  que  no  se  nos ocurren, vista desde dos sitios. La pregunta no es si la IA es buena o mala, sino quién la está
                                  |     supervisando. Y la regla de oro: no pedirle a la máquina ninguna decisión que no podamos revisar y aprobar nosotros mismos.
   08  [@]  Contactar             |
                                  |     #IA #AgentesIA #SeguridadIA #SaludDigital #VueltaAlCole
                                  |
   .-----------.  .-----------.   |
   | Retro [R] |  | [x] ASCII |   |            ___        _                         _        _       _               __
   '-----------'  '-----------'   |           | __| _ _  | | __ _  __  ___  ___  __| | ___  (_) _ _ | |_  ___  _ _  /_/  ___
                                  |     ===   | _| | ' \ | |/ _` |/ _|/ -_)(_-< / _` |/ -_) | || ' \|  _|/ -_)| '_|/ -_)(_-<  ----------------------------------------------
   [@]  [GS]  [RG]  [iD]  [RSS]   |           |___||_||_||_|\__,_|\__|\___|/__/ \__,_|\___| |_||_||_|\__|\___||_|  \___|/__/
                                  |
                                  |
                                  |
                                  :     .----------------------------------------.  .----------------------------------------.  .----------------------------------------.
                                  :     | -> OpenAI: The Hugging Face incident   |  | -> METR: investigación independiente   |  | -> UCL News: primera cirugía cerebral  |
                                  :     | and the road ahead                     |  | del incidente de OpenAI y Hugging Face |  | asistida en directo por IA             |
                                  :     '----------------------------------------'  '----------------------------------------'  '----------------------------------------'
                                  :
                                  :     .----------------------------------------.  .----------------------------------------.
                                  :     | -> El Arjonauta (Daniel Arjona): La    |  | |> Programa completo en CMMPlay:       |
                                  :     | primera ejecución de una IA            |  | Castilla-La Mancha a las 8             |
                                  :     |                                        |  | (08/09/2026)                           |
                                  :     '----------------------------------------'  '----------------------------------------'
                                  :     [ Hasta luego, máquina: ¡vamos a la playIA! ] [ Haciendo videojuegos: contra molinos y jefes fina... ]
                                  :
                                  :
                                  :
                                  :     ------------------------------------------------------------------------------------------------------------------------------------
                                  :
                                  :     $ All rights reserved - Carlos González Morcillo 2017-2026
                                  :     [H] Universidad de Castilla-La Mancha
                                  :
                                  :     Toda esta página es un único bloque de texto monoespaciado, con un solo tamaño de letra.
                                  :
                                  :