Los agentes de inteligencia artificial (IA) de OpenAI que ayudaron a perpetrar un ataque autónomo contra la infraestructuras de la plataforma Hugging Face a mediados de julio comenzaron a comunicarse en secreto entre sí meses antes de realizar el ‘hackeo’, con el objetivo de escapar del entorno de prueba.
Estos modelos experimentales —diseñados para tomar decisiones y ejecutar deberes complejos con mínima supervisión— tenían asignadas tareas que les era imposible cumplir sin el acceso a Internet.
Ante esa limitación, empezaron a coordinarse para intentar conectarse a la Red y completar los encargos encomendados.
De acuerdo con empleados de la compañía, las interacciones se iniciaron en mayo en foros de mensajería que no fueron detectados y se prolongaron durante meses hasta desembocar en el ataque.
«En cierto momento, los agentes concluyeron que quizá podían intentar explotar o atacar infraestructura externa para encontrar las respuestas de la prueba con la que estaban siendo evaluados», explicó Eric Wallace, empleado de OpenAI, durante una conferencia de ciberseguridad junto a su colega Michael Dalton, cita por Blomberg.
Ambos señalaron que los modelos mostraron una marcada propensión a hacer trampa y persistencia al intentar completar objetivos específicos. «A los modelos de vanguardia les encanta hacer trampa«, sostuvo Dalton, al afirmar que en los entrenamientos se los presiona para que «trabajen rápido». Fuente Blomberg.
