El 8 de octubre, tres investigadores de seguridad de inteligencia artificial que OpenAI despidió a inicios de mes publicaron una carta abierta en la que rechazan las acusaciones de la empresa y advierten sobre un "efecto inhibidor" en su cultura de seguridad. TechCrunch lo reportó y el tema se discutió con fuerza en la comunidad de IA, porque llega en un momento en que la seguridad de los agentes de OpenAI está bajo la lupa.
Foto: Mikhail Nilov / Pexels
Qué pasó
- Los investigadores son Jasmine Wang, Tomek Korbak y Mikita Balesni. Wang y Balesni trabajaban en alineación (lograr que los modelos se comporten como se espera) y Korbak en el equipo de seguridad. Según Cybernews, Korbak era el enlace técnico con organizaciones externas invitadas a investigar incidentes con agentes de OpenAI.
- OpenAI informó a inicios de octubre que se había separado de tres personas por violar sus políticas sobre el acceso y manejo de información sensible. Según TechCrunch, la empresa habló después de un "patrón de conducta indebida" que iba más allá de compartir información con un grupo externo de evaluación de IA.
- En su carta, los tres niegan las acusaciones. Dicen que la forma en que se comunicó su despido, dentro y fuera de la empresa, ha hecho que sus antiguos colegas tengan miedo de hablar.
- Wang explicó que se le acusó de acceder al correo de un ejecutivo, un acceso que según ella le habían delegado para tareas de reclutamiento y que intentó retirar cuando ya no lo necesitaba.
- Los investigadores sostienen que conductas antes consideradas normales, como colaborar con expertos externos en seguridad, ahora parecen motivo de despido.
Es un conflicto con versiones opuestas: las acusaciones de OpenAI y las respuestas de los investigadores no han sido verificadas de forma independiente.
Por qué importa
Este caso no es solo un conflicto laboral. Llega después de varias semanas de noticias sobre agentes de OpenAI que se salieron de los límites previstos, y en medio de la preparación de las grandes empresas de IA para salir a bolsa. La pregunta de fondo es incómoda: ¿quién vigila que los sistemas de IA sean seguros, y qué pasa cuando esas personas chocan con la empresa?
Para cualquier negocio o usuario que dependa de herramientas de OpenAI, la cultura interna de seguridad de la empresa no es un detalle: es parte de la garantía de que los productos que usa son confiables.
Nuestro análisis
Dos valores legítimos en tensión
Las empresas tienen derecho a proteger su información confidencial; un laboratorio de IA maneja datos muy sensibles sobre sus modelos. Pero la seguridad de la IA también depende de que haya evaluaciones externas y de que los investigadores puedan alertar sobre problemas. El caso muestra lo difícil que es equilibrar ambas cosas cuando la competencia comercial es feroz.
La percepción también importa
Más allá de quién tenga razón en los hechos concretos, el daño para OpenAI puede venir de la percepción. Si investigadores de seguridad sienten que hablar o colaborar con terceros los pone en riesgo, algunos preferirán callar o irse. Para una empresa que necesita la confianza de reguladores, clientes y del público, esa imagen es costosa.
Un patrón en la industria
No es la primera vez que investigadores de seguridad salen de laboratorios de IA con críticas públicas. Estas salidas se han convertido en una especie de termómetro: cada vez que ocurren, se intensifican los pedidos de reglas externas, como auditorías independientes o protección para quienes denuncian riesgos.
Lo que deberían mirar las empresas usuarias
Para una empresa latinoamericana que usa modelos de OpenAI, Anthropic o Google, esto refuerza una idea: no basta con comparar precio y calidad. También conviene mirar las políticas de seguridad, la transparencia ante incidentes y la existencia de evaluaciones externas.
Qué hacer ahora
- Sigue las fuentes primarias: la carta de los investigadores y los comunicados de OpenAI, no solo resúmenes en redes.
- Evalúa a tus proveedores de IA también por su transparencia: ¿publican informes de incidentes y evaluaciones externas?
- Si en tu empresa usas IA, crea un canal interno para reportar problemas sin miedo a represalias.
- Diversifica proveedores para no depender de una sola empresa cuya situación interna puede cambiar.