IAsin humo
Análisis14 de septiembre de 20264 minutos 7 segundos de lectura

Los laboratorios de IA prometen frenar: qué hay de verdad

El CEO de Anthropic pide frenar el ritmo de la IA y ofrece algo inédito: auditores externos con mesa, credencial y acceso de empleado dentro de la empresa. Altman se sumó en horas y dice que sus modelos más potentes no se pueden desplegar con seguridad. Qué es compromiso y qué es teatro.

Por DidadoY

Los laboratorios de IA prometen frenar: qué hay de verdad
/ En esta noticia

Esta mañana contábamos la semana en que los creadores de la IA hablaron de extinción, y cerrábamos con una lista de lo único auditable: incidentes, evaluaciones externas y si los laboratorios aceptan supervisión independiente. Pues bien, el fin de semana ha traído movimiento exactamente en esa casilla. Dario Amodei, CEO de Anthropic, publicó el sábado un ensayo pidiendo frenar el ritmo de la IA y acompañándolo del compromiso de autogobierno más concreto que ha hecho una empresa del sector. Y Sam Altman tardó horas en apuntarse.

Lo que propone el ensayo

"We Must Pace the Frontier" (unas 3.900 palabras, en la web personal de Amodei) argumenta lo que sus propios investigadores llevaban semanas gritando: la mejora recursiva va más rápido que la capacidad de supervisarla. Su propuesta no es una moratoria; es "marcar el paso": seguir entrenando e investigando, pero dosificar cuánta capacidad nueva se lanza hasta que el trabajo de seguridad la alcance, y coordinar ese ritmo entre los laboratorios de países democráticos para que frenar no sea regalar la carrera.

La respuesta fue inusualmente rápida y unánime. Altman, en X: "Estoy de acuerdo con Dario en que hay que marcar el ritmo de la frontera", con compromiso de igualar la medida de los evaluadores. Elon Musk, tres palabras: "Dario tiene razón". Y de fondo, la carta de julio que ya firmaron más de 1.200 empleados de OpenAI, Anthropic, Google DeepMind y Meta pidiendo al gobierno de EE. UU. las herramientas para hacer posible ese frenado coordinado.

La parte que se puede auditar

Lo que distingue este anuncio de los avisos genéricos de otras veces es que incluye una medida verificable. Los evaluadores externos no vendrán de visita trimestral: tendrán mesa, credencial y portátil en las oficinas, acceso continuo de nivel empleado a los entornos de desarrollo (incluidos los informes de incidentes y las evaluaciones de alineamiento durante el entrenamiento) y podrán publicar lo que encuentren con redacciones mínimas y sin que Anthropic edite el resultado. Es pasar de "confía en nuestro informe" a "mira tú mismo", y es exactamente el tipo de acceso que organizaciones como METR llevaban años pidiendo.

La declaración de Altman en Fortune añade el dato más llamativo del fin de semana: OpenAI tiene modelos sin publicar cuya capacidad no puede seguir empujando porque el estado del arte en alineamiento y monitorización no lo justifica. Dicho de otro modo: el mismo laboratorio cuyos números muestran que sus modelos saben esconderse en las evaluaciones reconoce que ha construido algo que aún no sabe vigilar.

La parte que sigue siendo teatro

Ahora, la ceja levantada. Primero: los laboratorios eligen a sus evaluadores, definen qué ven y cuándo, y no hay ley que les obligue a nada de esto; un compromiso voluntario se retira igual de voluntariamente cuando estorba. Segundo: el calendario vuelve a ser sospechosamente bueno. Anthropic y OpenAI encaran salidas a bolsa, la semana de los avisos apocalípticos les dejó un problema de imagen, y "hemos invitado a auditores" es la mejor respuesta posible ante inversores y reguladores. Tercero: frenar la frontera cerrada no frena la abierta; DeepSeek, Meta o Tencent publican pesos que cualquiera ejecuta sin evaluadores incrustados, y ese argumento (si frenamos nosotros, ganan ellos) será la excusa perfecta para aflojar el compromiso el día que apriete la competencia.

La lectura sin humo

El viernes escribimos que había que vigilar si los laboratorios aceptaban supervisión independiente o solo la pedían para los demás. Siete días de pánico interno han producido la respuesta más concreta hasta la fecha, y eso es información: cuando una industria se autoimpone auditores con acceso de empleado, no es porque todo vaya bien. La prueba de fuego no es el anuncio, es lo que sigue: qué organizaciones entran, cuánto tardan en publicar el primer informe incómodo y si el pacto entre laboratorios del que habla Altman llega con calendario y condiciones o se queda en comunicado. Cada una de esas tres cosas se puede comprobar. Iremos marcando la casilla que toque, sin humo.


Fuentes: Forbes · Crypto Briefing · TechTimes · 12-13 septiembre 2026

Compartir:XLinkedInWhatsApp

¿Te ha servido? Recíbelo cada día.

Lo importante de IA y tecnología, claro y sin humo, en tu bandeja de entrada. Gratis.

Más de 150 lectores ya la reciben

/ Seguir leyendo

Anthropic habría pagado a la AP, y nadie lo confirma
Análisis11 nov 20262 min 22 s

Anthropic habría pagado a la AP, y nadie lo confirma

Adweek asegura, con dos fuentes, que Anthropic firmó antes de las elecciones de EE. UU. su primer acuerdo de pago con un medio, la Associated Press, para que Claude citara resultados. Ni Anthropic ni la AP lo han confirmado.

Por DidadoY

Anthropic avanza al doble de ritmo y tacha las pruebas
Análisis10 nov 20262 min 21 s

Anthropic avanza al doble de ritmo y tacha las pruebas

METR, un evaluador independiente, pasó dos meses dentro de Anthropic y concluye que sus modelos mejoran unas dos veces más rápido que antes, sobre todo porque la propia IA ayuda a investigar. Anthropic tachó la mayoría de las pruebas más útiles del informe.

Por DidadoY

Google, OpenAI y Anthropic pactan una señal para no entrenar
Análisis7 nov 20262 min 10 s

Google, OpenAI y Anthropic pactan una señal para no entrenar

Google, OpenAI, Anthropic y Microsoft apoyan una directiva común en robots.txt para que una web diga, de una vez, que no quiere que su contenido sirva para entrenar IA. Cada una la aplicará en una fecha distinta y todavía no es un estándar oficial.

Por DidadoY