OpenAI, Anthropic y Google DeepMind analizan la creación de un organismo para supervisar los riesgos de la inteligencia artificial, una propuesta planteada el 15 de septiembre de 2026 en medio de crecientes llamados a establecer controles para los sistemas más avanzados.
La iniciativa contempla un modelo similar al de la Autoridad Reguladora de la Industria Financiera de Estados Unidos, conocida como FINRA, una organización de autorregulación que supervisa a empresas de valores y corredurías.
Una propuesta para evaluar riesgos antes del lanzamiento
La idea fue impulsada por Demis Hassabis, presidente de Google DeepMind, quien planteó la posibilidad de crear una entidad técnica capaz de evaluar los riesgos de los sistemas de inteligencia artificial antes de que lleguen al mercado.
Entre los aspectos que podrían revisarse se encuentran las capacidades de ciberseguridad, las amenazas biológicas y otros escenarios considerados de alto riesgo. El objetivo sería establecer estándares comunes para el desarrollo y despliegue de modelos de IA de frontera.
El debate sobre la supervisión de la inteligencia artificial
La propuesta surge mientras empresas y dirigentes del sector discuten la necesidad de reducir los riesgos asociados con el avance acelerado de la inteligencia artificial. En ese contexto, también se han planteado auditorías externas, evaluaciones de seguridad y reglas compartidas para los modelos más capaces.
El modelo inspirado en FINRA combinaría la participación de la industria con mecanismos de supervisión pública. Sin embargo, todavía no se han definido la estructura, las facultades ni el calendario para poner en marcha el organismo.
La discusión refleja el esfuerzo de las principales empresas de IA por establecer criterios comunes frente a riesgos tecnológicos que pueden tener efectos económicos, sociales y de seguridad. Los detalles del eventual organismo aún están en proceso de definición.