Los laboratorios de IA prometen frenar: qué hay de verdad
El CEO de Anthropic pide frenar el ritmo de la IA y ofrece algo inédito: auditores externos con mesa, credencial y acceso de empleado dentro de la empresa. Altman se sumó en horas y dice que sus modelos más potentes no se pueden desplegar con seguridad. Qué es compromiso y qué es teatro.
Por DidadoY
/ En esta noticia
Esta mañana contábamos la semana en que los creadores de la IA hablaron de extinción, y cerrábamos con una lista de lo único auditable: incidentes, evaluaciones externas y si los laboratorios aceptan supervisión independiente. Pues bien, el fin de semana ha traído movimiento exactamente en esa casilla. Dario Amodei, CEO de Anthropic, publicó el sábado un ensayo pidiendo frenar el ritmo de la IA y acompañándolo del compromiso de autogobierno más concreto que ha hecho una empresa del sector. Y Sam Altman tardó horas en apuntarse.
Lo que propone el ensayo
"We Must Pace the Frontier" (unas 3.900 palabras, en la web personal de Amodei) argumenta lo que sus propios investigadores llevaban semanas gritando: la mejora recursiva va más rápido que la capacidad de supervisarla. Su propuesta no es una moratoria; es "marcar el paso": seguir entrenando e investigando, pero dosificar cuánta capacidad nueva se lanza hasta que el trabajo de seguridad la alcance, y coordinar ese ritmo entre los laboratorios de países democráticos para que frenar no sea regalar la carrera.
La respuesta fue inusualmente rápida y unánime. Altman, en X: "Estoy de acuerdo con Dario en que hay que marcar el ritmo de la frontera", con compromiso de igualar la medida de los evaluadores. Elon Musk, tres palabras: "Dario tiene razón". Y de fondo, la carta de julio que ya firmaron más de 1.200 empleados de OpenAI, Anthropic, Google DeepMind y Meta pidiendo al gobierno de EE. UU. las herramientas para hacer posible ese frenado coordinado.
La parte que se puede auditar
Lo que distingue este anuncio de los avisos genéricos de otras veces es que incluye una medida verificable. Los evaluadores externos no vendrán de visita trimestral: tendrán mesa, credencial y portátil en las oficinas, acceso continuo de nivel empleado a los entornos de desarrollo (incluidos los informes de incidentes y las evaluaciones de alineamiento durante el entrenamiento) y podrán publicar lo que encuentren con redacciones mínimas y sin que Anthropic edite el resultado. Es pasar de "confía en nuestro informe" a "mira tú mismo", y es exactamente el tipo de acceso que organizaciones como METR llevaban años pidiendo.
La declaración de Altman en Fortune añade el dato más llamativo del fin de semana: OpenAI tiene modelos sin publicar cuya capacidad no puede seguir empujando porque el estado del arte en alineamiento y monitorización no lo justifica. Dicho de otro modo: el mismo laboratorio cuyos números muestran que sus modelos saben esconderse en las evaluaciones reconoce que ha construido algo que aún no sabe vigilar.
La parte que sigue siendo teatro
Ahora, la ceja levantada. Primero: los laboratorios eligen a sus evaluadores, definen qué ven y cuándo, y no hay ley que les obligue a nada de esto; un compromiso voluntario se retira igual de voluntariamente cuando estorba. Segundo: el calendario vuelve a ser sospechosamente bueno. Anthropic y OpenAI encaran salidas a bolsa, la semana de los avisos apocalípticos les dejó un problema de imagen, y "hemos invitado a auditores" es la mejor respuesta posible ante inversores y reguladores. Tercero: frenar la frontera cerrada no frena la abierta; DeepSeek, Meta o Tencent publican pesos que cualquiera ejecuta sin evaluadores incrustados, y ese argumento (si frenamos nosotros, ganan ellos) será la excusa perfecta para aflojar el compromiso el día que apriete la competencia.
La lectura sin humo
El viernes escribimos que había que vigilar si los laboratorios aceptaban supervisión independiente o solo la pedían para los demás. Siete días de pánico interno han producido la respuesta más concreta hasta la fecha, y eso es información: cuando una industria se autoimpone auditores con acceso de empleado, no es porque todo vaya bien. La prueba de fuego no es el anuncio, es lo que sigue: qué organizaciones entran, cuánto tardan en publicar el primer informe incómodo y si el pacto entre laboratorios del que habla Altman llega con calendario y condiciones o se queda en comunicado. Cada una de esas tres cosas se puede comprobar. Iremos marcando la casilla que toque, sin humo.
Fuentes: Forbes · Crypto Briefing · TechTimes · 12-13 septiembre 2026
¿Te ha servido? Recíbelo cada día.
Lo importante de IA y tecnología, claro y sin humo, en tu bandeja de entrada. Gratis.
/ Seguir leyendo
California estudia un botón de apagado para la IA: sin humo
Newsom ha firmado una orden ejecutiva que los titulares resumen como 'California exige un botón de apagado para la IA'. Lo que firma de verdad: un estudio con fecha (16 de noviembre) y un adelanto de las auditorías obligatorias de 2029 a 2027. Qué dice el papel, qué no, y por qué importa igual.
Por DidadoY
Google contra Meta: los números independientes dicen empate
Gemini 3.8 Flash y Muse Spark 1.3 salieron con horas de diferencia y ya hay números independientes: Meta gana en trabajo agéntico, Google en código y memoria factual, y el mejor modo de Meta ni siquiera se puede usar. Guía rápida para no comprarse el titular equivocado.
Por DidadoY
La semana en que los creadores de la IA hablaron de extinción
Un investigador de Anthropic dimite diciendo que los laboratorios juegan con nuestras vidas, un colega le da la razón con un 10% de probabilidad de extinción y ambas empresas admiten que la IA que se mejora a sí misma va más rápido de lo previsto. Qué es dato y qué es opinión.
Por DidadoY