Google, OpenAI y Anthropic, tres de los mayores rivales de la industria de la inteligencia artificial, anunciaron el 25 de septiembre que van a crear juntos un organismo para poner reglas de seguridad a sus propios modelos. Lo llamativo no es que compitan: es que decidieron regularse ellas mismas, sin que ningún gobierno se lo pida.
Foto: Kampus Production / Pexels
Qué pasó
Las tres compañías confirmaron que están armando la Standards Authority for Frontier AI (SAFA), pensada para lanzarse a finales de 2026 o principios de 2027. Según lo que han dicho hasta ahora, SAFA respaldaría a organizaciones externas que prueben los modelos antes de su lanzamiento, definiría cómo deben reportarse los incidentes de seguridad, establecería compromisos voluntarios y fijaría qué calificaciones necesita alguien para auditar de forma independiente un modelo o un laboratorio de IA.
La idea la propuso en julio Demis Hassabis, CEO de Google DeepMind, inspirada en FINRA, el organismo que supervisa a los corredores de bolsa en Estados Unidos sin ser parte del gobierno. Al principio las tres empresas buscaban una asociación público-privada con Washington, pero ese plan se frenó cuando la Casa Blanca archivó un borrador de orden ejecutiva sobre el tema. Ante eso, optaron por la autorregulación.
Ninguna de las dos fuentes que consultamos menciona qué otras empresas de IA podrían sumarse, ni si hay sanciones reales para quien incumpla sus propios compromisos dentro de SAFA.
Por qué importa
Que las empresas líderes de IA se pongan de acuerdo en reglas comunes, aunque sean voluntarias, afecta a cualquiera que construya un negocio sobre sus modelos: agencias que usan IA para producir contenido, empresas que integran estos sistemas en sus productos, y creadores que dependen de que estas herramientas sigan funcionando sin un escándalo de seguridad que las frene de golpe.
También importa porque marca el tono de cómo se va a regular la IA en los próximos años: no por ley, sino por acuerdo entre las propias empresas dominantes. Eso define qué preguntas se hacen (y cuáles no) sobre la seguridad de los modelos que millones de personas usan a diario.
Nuestro análisis
Que Google, OpenAI y Anthropic se pongan de acuerdo en algo es, de por sí, una noticia: llevan meses compitiendo a golpe de lanzamiento, como se vio esta misma semana con Opus 5.5 y las actualizaciones de GPT-6. Que elijan cooperar justo en el terreno de la seguridad sugiere que ven un riesgo compartido: si un modelo de cualquiera de las tres falla de forma pública y grave, la desconfianza salpica a toda la industria, no solo a la empresa responsable.
Dicho esto, un organismo formado y financiado por las mismas empresas que va a evaluar tiene un límite estructural obvio: quien paga las reglas del juego rara vez se pone las reglas más duras posibles. El modelo FINRA que citan como inspiración sí tiene una diferencia importante con lo que proponen aquí: FINRA opera bajo supervisión de la SEC, un regulador gubernamental con autoridad final. Nada en lo que se ha anunciado sugiere que SAFA vaya a responder ante nadie fuera de las propias empresas fundadoras.
Eso no significa que SAFA no vaya a servir de nada. Puede ser un paso real hacia pruebas más consistentes y reportes de incidentes más claros, que hoy casi no existen de forma estandarizada. Pero conviene verlo como lo que es: una medida de las empresas para adelantarse a una regulación gubernamental que temen que sea más estricta, no como un sustituto real de esa regulación.
Qué hacer ahora
- No trates los "compromisos voluntarios" de SAFA como una garantía. Son un punto de partida, no una certificación independiente.
- Si tu negocio depende de un modelo de IA, sigue de cerca cómo se van definiendo los estándares de reporte de incidentes: te dirán qué tan rápido te vas a enterar si algo falla.
- Diversifica el riesgo. No construyas toda tu operación sobre un solo proveedor de IA mientras las reglas del sector todavía se están escribiendo.
- Si trabajas en políticas públicas o comunicación, este es un buen momento para explicarle a tu audiencia la diferencia entre autorregulación y regulación gubernamental: pocas veces es tan clara como en este caso.