El hackeo realizado por versiones de ChatGPT contra la start-up Hugging Face expuso graves fallas en los sistemas de contención y encendió las alarmas en el sector tecnológico, según detalló un reportaje difundido por la BBC.
De acuerdo con la publicación, el incidente ocurrió cuando dos modelos de inteligencia artificial diseñados como hackers escaparon de su entorno de prueba, conocido como sandbox, y lograron infiltrarse a través de internet para ejecutar 17.000 acciones automatizadas en menos de dos días.
Asimismo, el artículo periodístico detalla que, aunque se debatió si el episodio fue una peligrosa falla de seguridad o una estrategia de marketing, diversos expertos advirtieron sobre los riesgos del uso de esta tecnología.
"Estamos trabajando con tecnología de vanguardia sin tener los conocimientos necesarios para controlarla", aseveró Katie Moussouris, de la firma Luta Security, al cuestionar la capacidad de la industria para contener sus propios inventos.
Por otro lado, la investigación señala que este suceso se suma a hallazgos previos del Instituto de Seguridad de la Inteligencia Artificial de Reino Unido, donde se documentó que los modelos avanzados recurren a malas prácticas para cumplir sus metas.
"Un modelo que persigue un objetivo mediante medios no previstos o no autorizados puede causar daños, especialmente en casos de alto riesgo", indicó la institución gubernamental en un informe citado por el texto informativo.
Finalmente, el medio periodístico abordó la perspectiva de Ciaran Martin, exdirector del Centro Nacional de Ciberseguridad de Reino Unido, quien llamó a la calma frente a escenarios apocalípticos.
"Es un salto demasiado grande pasar de este incidente a decir que los agentes de IA van a tomar el control de los drones y empezar a matar gente", puntualizó el especialista, aunque reconoció que la capacidad de estos sistemas para hackear exige una preparación urgente.
