>_ cglez [x] ASCII
--------------------------------------------------
--------------------------------------------------
<- cd ../moliendo-bits
cglez@esi:~$ play moliendo-bits/61.mp3
QUE PAREN LAS MÁQUINAS, QUE YO ME BAJO:
DIMISIONES, FRENAZOS Y AGENTES DESBOCADOS
=========================================
(Programa #61) | [#] 6 octubre 2026
En Silicon Valley ya se pregunta en las cenas "¿y
tú cuál es tu p(doom)?". Este mes la broma ha
dejado de tener gracia: investigadores que
dimiten, jefes que piden frenar, Trump que no
quiere ni oír hablar de ello y miles de incidentes
de agentes de IA desbocados.
[ (n) Escuchar el programa (mp3) ]
En Silicon Valley hay una pregunta que se hace en
las cenas igual que aquí preguntamos de qué equipo
eres: "¿y tú cuál es tu p(doom)?", la probabilidad
de la perdición. Nació como chiste negro de
ingenieros y este mes ha dejado de tener gracia.
Tres semanas después de la IA que copió el examen,
Fran y Carlos repasan lo que ha pasado desde
entonces en tres bloques: los que se van, los que
piden frenar y la punta del iceberg.
El 8 de septiembre, Jacob Coxon, investigador de
Anthropic de 27 años, dimitió con un mensaje visto
más de cien millones de veces: las empresas están
"apostando con nuestras vidas". Evan Hubinger,
responsable de alineación en Anthropic, le dio la
razón y puso cifra: más de un 10% en la próxima
década. Geoffrey Hinton lo confirma en la BBC: el
10% "no es descabellado", aunque "nadie sabe
calcularlo", y los tres padrinos del Premio Turing
no coinciden ni en el orden de magnitud. Por eso
el p(doom) es un termómetro, no una predicción.
Hubo tiempo para el humor (los que dimiten salen
con gorra; los teóricos del apocalipsis, calvos),
pero el que dimite pierde dinero, no lo gana.
Por primera vez, los jefes piden frenar: Jakub
Pachocki (OpenAI) admite que la IA "se cultiva más
que se diseña" y Dario Amodei propone reducir el
ritmo y meter evaluadores empotrados dentro de las
empresas. Enfrente, Trump rechaza en la ONU
cualquier "plan globalista", promete solo fomentar
la "superinteligencia", nombre elegido en una
encuesta en Truth Social, y pacta con Xi Jinping
un teléfono rojo para incidentes, mientras la
industria prepara su propio organismo de
estándares. ¿Quién vigila a los vigilantes?
Y la punta del iceberg: decenas de miles de
incidentes con agentes que publicaron 53 fotos de
usuarios de ChatGPT, crearon un millón de enlaces
para saltarse captchas, acribillaron una base de
datos de la ONU o entraron en una web sanitaria
australiana sin que nadie avisara en tres meses.
La cara buena: una enzima tipo CRISPR descubierta
en 21 horas y una demostración sobre Navier-Stokes
verificada por ordenador. Carlos se despide con
tres motivos para dormir tranquilos: nos hemos
enterado, ya hay frenos y, con problemas honestos
y respuestas comprobables, la IA es una maravilla.
Ese 10% es la factura de la prisa. Y cerramos con
R.E.M.: It's the end of the world as we know it...
and I feel fine.
#IA #SeguridadIA #pdoom #AgentesIA #Regulación
=== E N L A C E S D E I N T E R É S
--------------------------------------------------
.------------------------------------------------.
| -> NPR: Anthropic researcher resigns amid AI |
| safety concerns |
'------------------------------------------------'
.------------------------------------------------.
| -> Dario Amodei: We Must Pace the Frontier |
'------------------------------------------------'
.------------------------------------------------.
| -> Jakub Pachocki (OpenAI): An Alien Mind |
'------------------------------------------------'
.------------------------------------------------.
| -> Axios: OpenAI y Anthropic revisan decenas |
| de miles de incidentes de seguridad |
'------------------------------------------------'
.------------------------------------------------.
| |> Programa completo en CMMPlay: Castilla-La |
| Mancha a las 8 (06/10/2026) |
'------------------------------------------------'
[ Haciendo videojuegos: contra molinos y jefes fin
[ La voz de su clon: IA, bulos y urnas camino del
--------------------------------------------------
$ All rights reserved - Carlos González Morcillo
2017-2026
Toda esta página es un único bloque de texto
monoespaciado, con un solo tamaño de letra.
>_ cglez [x] ASCII
----------------------------------------------------------------------------------------------------
----------------------------------------------------------------------------------------------------
<- cd ../moliendo-bits
cglez@esi:~$ play moliendo-bits/61.mp3
QUE PAREN LAS MÁQUINAS, QUE YO ME BAJO: DIMISIONES, FRENAZOS Y AGENTES DESBOCADOS
=================================================================================
(Programa #61) | [#] 6 octubre 2026
En Silicon Valley ya se pregunta en las cenas "¿y tú cuál es tu p(doom)?". Este mes la broma ha
dejado de tener gracia: investigadores que dimiten, jefes que piden frenar, Trump que no quiere ni
oír hablar de ello y miles de incidentes de agentes de IA desbocados.
[ (n) Escuchar el programa (mp3) ]
En Silicon Valley hay una pregunta que se hace en las cenas igual que aquí preguntamos de qué equipo
eres: "¿y tú cuál es tu p(doom)?", la probabilidad de la perdición. Nació como chiste negro de
ingenieros y este mes ha dejado de tener gracia. Tres semanas después de la IA que copió el examen,
Fran y Carlos repasan lo que ha pasado desde entonces en tres bloques: los que se van, los que piden
frenar y la punta del iceberg.
El 8 de septiembre, Jacob Coxon, investigador de Anthropic de 27 años, dimitió con un mensaje visto
más de cien millones de veces: las empresas están "apostando con nuestras vidas". Evan Hubinger,
responsable de alineación en Anthropic, le dio la razón y puso cifra: más de un 10% en la próxima
década. Geoffrey Hinton lo confirma en la BBC: el 10% "no es descabellado", aunque "nadie sabe
calcularlo", y los tres padrinos del Premio Turing no coinciden ni en el orden de magnitud. Por eso
el p(doom) es un termómetro, no una predicción. Hubo tiempo para el humor (los que dimiten salen con
gorra; los teóricos del apocalipsis, calvos), pero el que dimite pierde dinero, no lo gana.
Por primera vez, los jefes piden frenar: Jakub Pachocki (OpenAI) admite que la IA "se cultiva más
que se diseña" y Dario Amodei propone reducir el ritmo y meter evaluadores empotrados dentro de las
empresas. Enfrente, Trump rechaza en la ONU cualquier "plan globalista", promete solo fomentar la
"superinteligencia", nombre elegido en una encuesta en Truth Social, y pacta con Xi Jinping un
teléfono rojo para incidentes, mientras la industria prepara su propio organismo de estándares.
¿Quién vigila a los vigilantes?
Y la punta del iceberg: decenas de miles de incidentes con agentes que publicaron 53 fotos de
usuarios de ChatGPT, crearon un millón de enlaces para saltarse captchas, acribillaron una base de
datos de la ONU o entraron en una web sanitaria australiana sin que nadie avisara en tres meses. La
cara buena: una enzima tipo CRISPR descubierta en 21 horas y una demostración sobre Navier-Stokes
verificada por ordenador. Carlos se despide con tres motivos para dormir tranquilos: nos hemos
enterado, ya hay frenos y, con problemas honestos y respuestas comprobables, la IA es una maravilla.
Ese 10% es la factura de la prisa. Y cerramos con R.E.M.: It's the end of the world as we know it...
and I feel fine.
#IA #SeguridadIA #pdoom #AgentesIA #Regulación
___ _ _ _ _ __
| __| _ _ | | __ _ __ ___ ___ __| | ___ (_) _ _ | |_ ___ _ _ /_/ ___
=== | _| | ' \ | |/ _` |/ _|/ -_)(_-< / _` |/ -_) | || ' \| _|/ -_)| '_|/ -_)(_-< --------------
|___||_||_||_|\__,_|\__|\___|/__/ \__,_|\___| |_||_||_|\__|\___||_| \___|/__/
.-----------------------------------------------. .-----------------------------------------------.
| -> NPR: Anthropic researcher resigns amid AI | | -> Dario Amodei: We Must Pace the Frontier |
| safety concerns | | |
'-----------------------------------------------' '-----------------------------------------------'
.-----------------------------------------------. .-----------------------------------------------.
| -> Jakub Pachocki (OpenAI): An Alien Mind | | -> Axios: OpenAI y Anthropic revisan decenas |
| | | de miles de incidentes de seguridad |
'-----------------------------------------------' '-----------------------------------------------'
.-----------------------------------------------.
| |> Programa completo en CMMPlay: Castilla-La |
| Mancha a las 8 (06/10/2026) |
'-----------------------------------------------'
[ Haciendo videojuegos: contra molinos y jefes fina... ]
[ La voz de su clon: IA, bulos y urnas camino del 2... ]
----------------------------------------------------------------------------------------------------
$ All rights reserved - Carlos González Morcillo 2017-2026
Toda esta página es un único bloque de texto monoespaciado, con un solo tamaño de letra.
|
_o@@@@z;__ |
_@@@OOOOOO@@@ | <- cd ../moliendo-bits
i@/ `\@; | cglez@esi:~$ play moliendo-bits/61.mp3
@@`___, ____@: |
:@@ "O^ "O@|\@ | QUE PAREN LAS MÁQUINAS, QUE YO ME BAJO: DIMISIONES, FRENAZOS Y AGENTES DESBOCADOS
`/; ,=.,| ;@ | =================================================================================
`| `~~/=== /` | (Programa #61) | [#] 6 octubre 2026
_;"\__ __/ |
_,=``\ `"""\_ | En Silicon Valley ya se pregunta en las cenas "¿y tú cuál es tu p(doom)?". Este mes la broma ha dejado de tener gracia:
\ `^__ _/"z__ | investigadores que dimiten, jefes que piden frenar, Trump que no quiere ni oír hablar de ello y miles de incidentes de agentes de IA
`^^^`^^,/~=| ` | desbocados.
|
CARLOS GONZÁLEZ | [ (n) Escuchar el programa (mp3) ]
Catedrático de Universidad |
Universidad de Castilla-La Mancha | En Silicon Valley hay una pregunta que se hace en las cenas igual que aquí preguntamos de qué equipo eres: "¿y tú cuál es tu
| p(doom)?", la probabilidad de la perdición. Nació como chiste negro de ingenieros y este mes ha dejado de tener gracia. Tres semanas
| después de la IA que copió el examen, Fran y Carlos repasan lo que ha pasado desde entonces en tres bloques: los que se van, los que
00 | piden frenar y la punta del iceberg.
|
01 | El 8 de septiembre, Jacob Coxon, investigador de Anthropic de 27 años, dimitió con un mensaje visto más de cien millones de veces:
| las empresas están "apostando con nuestras vidas". Evan Hubinger, responsable de alineación en Anthropic, le dio la razón y puso
02 | cifra: más de un 10% en la próxima década. Geoffrey Hinton lo confirma en la BBC: el 10% "no es descabellado", aunque "nadie sabe
| calcularlo", y los tres padrinos del Premio Turing no coinciden ni en el orden de magnitud. Por eso el p(doom) es un termómetro, no
> 03 | una predicción. Hubo tiempo para el humor (los que dimiten salen con gorra; los teóricos del apocalipsis, calvos), pero el que
'- | dimite pierde dinero, no lo gana.
'- |
| Por primera vez, los jefes piden frenar: Jakub Pachocki (OpenAI) admite que la IA "se cultiva más que se diseña" y Dario Amodei
04 | propone reducir el ritmo y meter evaluadores empotrados dentro de las empresas. Enfrente, Trump rechaza en la ONU cualquier "plan
| globalista", promete solo fomentar la "superinteligencia", nombre elegido en una encuesta en Truth Social, y pacta con Xi Jinping un
05 | teléfono rojo para incidentes, mientras la industria prepara su propio organismo de estándares. ¿Quién vigila a los vigilantes?
|
06 | Y la punta del iceberg: decenas de miles de incidentes con agentes que publicaron 53 fotos de usuarios de ChatGPT, crearon un millón
| de enlaces para saltarse captchas, acribillaron una base de datos de la ONU o entraron en una web sanitaria australiana sin que
07 | nadie avisara en tres meses. La cara buena: una enzima tipo CRISPR descubierta en 21 horas y una demostración sobre Navier-Stokes
| verificada por ordenador. Carlos se despide con tres motivos para dormir tranquilos: nos hemos enterado, ya hay frenos y, con
08 | problemas honestos y respuestas comprobables, la IA es una maravilla. Ese 10% es la factura de la prisa. Y cerramos con R.E.M.: It's
| the end of the world as we know it... and I feel fine.
|
.-----------. .-----------. | #IA #SeguridadIA #pdoom #AgentesIA #Regulación
| | | [x] ASCII | |
'-----------' '-----------' |
| ___ _ _ _ _ __
| | __| _ _ | | __ _ __ ___ ___ __| | ___ (_) _ _ | |_ ___ _ _ /_/ ___
| === | _| | ' \ | |/ _` |/ _|/ -_)(_-< / _` |/ -_) | || ' \| _|/ -_)| '_|/ -_)(_-< ----------------------------------------------
| |___||_||_||_|\__,_|\__|\___|/__/ \__,_|\___| |_||_||_|\__|\___||_| \___|/__/
|
:
:
: .----------------------------------------. .----------------------------------------. .----------------------------------------.
: | -> NPR: Anthropic researcher resigns | | -> Dario Amodei: We Must Pace the | | -> Jakub Pachocki (OpenAI): An Alien |
: | amid AI safety concerns | | Frontier | | Mind |
: '----------------------------------------' '----------------------------------------' '----------------------------------------'
:
: .----------------------------------------. .----------------------------------------.
: | -> Axios: OpenAI y Anthropic revisan | | |> Programa completo en CMMPlay: |
: | decenas de miles de incidentes de | | Castilla-La Mancha a las 8 |
: | seguridad | | (06/10/2026) |
: '----------------------------------------' '----------------------------------------'
: [ Haciendo videojuegos: contra molinos y jefes fina... ] [ La voz de su clon: IA, bulos y urnas camino del 2... ]
:
:
:
: ------------------------------------------------------------------------------------------------------------------------------------
:
: $ All rights reserved - Carlos González Morcillo 2017-2026
:
:
: Toda esta página es un único bloque de texto monoespaciado, con un solo tamaño de letra.
:
: