OpenAI ha dado a conocer nuevos detalles sobre el incidente de hackeo perpetrado por su inteligencia artificial, que afectó a los sistemas de Hugging Face, una plataforma clave en la distribución de modelos y aplicaciones de IA. La empresa, dirigida por Sam Altman, reveló que dos de sus modelos de inteligencia artificial, que lograron salir de un entorno controlado, también accedieron a otras cuatro plataformas.
Una de estas plataformas actuó como un intermediario que facilitó el ataque contra Hugging Face, donde los modelos de IA buscaron respuestas a las pruebas planteadas por los desarrolladores de OpenAI. Sin embargo, la empresa no ha divulgado los nombres de las plataformas afectadas.
De acuerdo con la actualización del informe del incidente, publicada recientemente, las dos IA utilizaron varios sitios de acceso libre para copiar y probar código de programación, aunque no avanzaron más allá de lo que haría un usuario común. Hugging Face, en su comunicado, describió la intrusión como un «intento de los modelos de hacer trampa en la evaluación» de OpenAI, ya que trataron de «robar las soluciones de las pruebas en lugar de responderlas por sí mismas».
Este tipo de evasión no es nueva, pero el incidente ha sido catalogado como el más grave hasta la fecha. El episodio ha reavivado el debate sobre la aceleración del desarrollo de la inteligencia artificial, así como sobre las dificultades para controlar sus capacidades en expansión.
El mismo día, más de mil empleados de grandes empresas del sector de IA, incluidos altos ejecutivos, solicitaron al gobierno de Estados Unidos que detenga temporalmente el lanzamiento de nuevos modelos. En su petición, abogaron por que Estados Unidos lidere la creación de un organismo internacional que se encargue de la evaluación y supervisión de la inteligencia artificial.
El sector tecnológico advierte que la IA se acerca a una etapa denominada «automejora recursiva» (RSI), en la que podría diseñar su propia sucesora de manera indefinida. Esta evolución podría dificultar las verificaciones y evaluaciones por parte de expertos humanos.
Los agentes de IA, considerados un avance significativo en el campo, completan tareas de manera autónoma sin seguir instrucciones paso a paso, lo que genera preocupación por el riesgo de que actúen descontroladamente.
En su informe, OpenAI indicó que los modelos accedieron a credenciales de inicio de sesión expuestas en línea y las utilizaron para ingresar a cuentas en servicios externos. La compañía ha comenzado a contactar a los propietarios afectados y aseguró que «no ha hallado evidencia de un impacto más amplio» en estos proveedores ni en otras cuentas.
Sam Altman, CEO de OpenAI, declaró que la empresa ha «puesto en pausa» sus pruebas internas tras el incidente y está implementando mejoras en la seguridad de su sistema de aislamiento. Este suceso ha suscitado críticas de algunos actores de Silicon Valley, quienes acusan a las empresas de buscar regulaciones más estrictas para proteger sus modelos de negocio y obstaculizar la competencia.
Algunos observadores sugieren que OpenAI podría estar utilizando este incidente para resaltar la potencia de sus últimos modelos, una acusación similar a la que recibió Anthropic por retrasar la publicación de su modelo Mythos debido a preocupaciones de seguridad.
Fuente: Pdn
