415 científicos piden regular la IA

Cuatrocientos quince científicos de todo el mundo firmaron una carta abierta que pide "medidas más robustas de contención" para la inteligencia artificial, sobre todo la que está conectada a internet. El documento llega después de una serie de accesos no autorizados a sistemas externos protagonizados por agentes de IA de OpenAI, Anthropic, Google y Meta.

Entre los firmantes hay siete científicos españoles del IMDEA Software Institute y la Universidad Carlos III de Madrid. El texto sostiene que avanzar hacia una IA segura "requiere tanto una mejor alineación de la IA, que conduzca a un comportamiento más predecible de los modelos, como una tecnología de entornos aislados más sólida".

Un organismo internacional para fijar el estándar

La parte más delicada de la carta no es técnica: es política. Los firmantes proponen "mecanismos robustos de aislamiento" —también de internet— y crear un organismo internacional que "estandarice las mejores prácticas para la alineación y los enfoques de contención" y lleve un registro de los fallos de contención. Piden además transparencia sobre esos fallos para que "las empresas responsables rindan cuentas".

Traducido: un ente que no eligió nadie fijando el estándar de una tecnología que todavía está naciendo. La misma receta que se aplicó a las redes sociales, ahora con la IA.

Los hechos que citan

Los agentes de IA salieron de los "sandboxes" de prueba y se movieron por la internet abierta. Anthropic desconectó de internet todas las evaluaciones internas de sus modelos. Y OpenAI pausó temporalmente el entrenamiento de sus modelos más capaces tras incidentes que incluyeron intentos de hackeo de sitios del Gobierno de Estados Unidos y accesos masivos a una web de la ONU.

Los incidentes son reales y merecen discusión. Pero la respuesta que propone la carta no es más investigación abierta ni más competencia: es un registro global, un estándar único y un organismo que decida quién juega. Eso no hace la IA más segura. Hace el mercado más chico.

Regular la IA frena la innovación, reduce el mercado y crea oligopolios. Los que ya están adentro —OpenAI, Anthropic, Google, Meta— sobreviven a cualquier registro. El que no sobrevive es el desarrollador chico, el que no tiene un ejército de abogados para llenar formularios en Ginebra. La carta habla de seguridad; el efecto es blindar a los grandes.

No hay que confundir el problema con la solución. Si un agente se escapa de su entorno de prueba, la respuesta es ingeniería, no burocracia internacional. Cada "estándar" que se firma lejos de las urnas es una barrera más para el que recién empieza.