15 de septiembre de 2026
Nueva York, Estados Unidos.- Tres de las empresas más influyentes en inteligencia artificial, OpenAI, Anthropic y Google DeepMind, trabajan en la creación de un organismo independiente que supervise los riesgos asociados con el desarrollo de sistemas de IA cada vez más avanzados.
La propuesta surgió a partir de una idea impulsada por Demis Hassabis, de Google DeepMind, quien planteó crear una entidad similar a la FINRA de Estados Unidos, organismo que funciona bajo un modelo de autorregulación en el sector financiero. La intención sería establecer estándares comunes de seguridad, evaluar riesgos y generar mayor supervisión dentro de una industria que avanza con rapidez.
La iniciativa aparece en un momento en que varios líderes tecnológicos han pedido ralentizar parcialmente el desarrollo de sistemas más poderosos, no para detener la inteligencia artificial, sino para dar tiempo a que las medidas de seguridad alcancen el mismo ritmo que las nuevas capacidades.
En las últimas semanas, empresas del sector han reconocido riesgos relacionados con ciberataques, uso indebido de agentes autónomos, vigilancia y posibles aplicaciones peligrosas en áreas sensibles. Anthropic, por ejemplo, informó recientemente que detectó y bloqueó operaciones en las que actores maliciosos intentaron utilizar Claude para actividades de ciberseguridad, vigilancia, fraude y otras tareas de riesgo.
OpenAI también ha pedido reglas nacionales obligatorias basadas en las capacidades de los modelos y evaluaciones independientes de seguridad. La compañía sostiene que ninguna empresa o gobierno puede enfrentar por sí solo los riesgos que podrían surgir conforme los sistemas sean más capaces.
El debate se intensificó porque algunos modelos ya muestran capacidades que hace pocos años parecían lejanas. OpenAI informó este mes que uno de sus modelos alcanzó por primera vez su nivel “crítico” en ciberseguridad, lo que significa que, con herramientas y acceso adecuados, puede localizar vulnerabilidades desconocidas y desarrollar formas de explotarlas sin necesitar supervisión humana en cada paso.
¿Por qué quieren vigilarse entre ellas?
El problema es que actualmente cada laboratorio tiene sus propios métodos para determinar cuándo un modelo representa un riesgo elevado. Un organismo compartido podría ayudar a crear criterios comunes para evaluar capacidades peligrosas, revisar medidas de seguridad y determinar cuándo una empresa debería implementar controles adicionales antes de lanzar una tecnología.
Sin embargo, el proyecto todavía enfrenta dudas sobre qué poder real tendría, cómo se garantizaría su independencia y si las empresas aceptarían someterse a decisiones que pudieran retrasar productos o afectar su competitividad.
A esto se suma la competencia internacional. Mientras algunos líderes tecnológicos piden más precauciones, el gobierno estadounidense ha mostrado preocupación por cualquier regulación que pueda frenar a sus empresas frente a China. Expertos consultados por EFE consideran poco probable que el Congreso estadounidense apruebe una regulación profunda antes de terminar 2026.
La creación del nuevo organismo podría convertirse, por tanto, en uno de los primeros intentos importantes de la propia industria para establecer límites compartidos antes de que los gobiernos alcancen un consenso sobre cómo regular una tecnología que continúa avanzando a gran velocidad.
