OpenAI frena Astra por riesgos de ciberseguridad
OpenAI decidió paralizar parte del desarrollo de Astra, su próximo modelo de inteligencia artificial, luego de que las evaluaciones internas determinaran que sus capacidades en codificación autónoma y ciberseguridad alcanzan un nivel considerado “crítico” por la propia compañía.
Según informó la tecnológica, el modelo ha demostrado avances significativos que también plantean nuevos desafíos. Entre sus capacidades estaría la posibilidad de identificar y desarrollar vulnerabilidades de “día cero”, es decir, fallos de seguridad desconocidos, así como planificar y ejecutar estrategias de ciberataque con un alto grado de autonomía.
Ante estos resultados, OpenAI anunció la suspensión de todas las actividades relacionadas con Astra que no cumplan con requisitos reforzados de seguridad. La empresa busca evitar que las capacidades del sistema puedan representar un riesgo antes de su eventual lanzamiento.
Como parte de las nuevas medidas, la compañía implementará entornos de prueba aislados, restricciones de acceso a redes, mayores mecanismos de protección y un sistema de monitoreo destinado a detectar e interrumpir acciones consideradas de alto riesgo.
OpenAI aclaró además que Astra no estuvo involucrado en un reciente incidente de seguridad relacionado con la plataforma Hugging Face. La empresa precisó que se trata de un modelo aún en desarrollo y que su evaluación forma parte de los controles previos a su lanzamiento.
El caso se produce en medio de una creciente preocupación por las capacidades cada vez más avanzadas de los sistemas de inteligencia artificial. Otras compañías tecnológicas también han reportado incidentes durante simulaciones de ciberseguridad, en las que modelos experimentales lograron acceder a redes o interactuar con sistemas externos.
La decisión de OpenAI evidencia un nuevo desafío para la industria: mientras la inteligencia artificial avanza hacia sistemas cada vez más autónomos, las empresas deberán desarrollar mecanismos capaces de garantizar que sus nuevas capacidades no terminen convirtiéndose en una amenaza para la propia seguridad digital.
