Внатрешно тестирање на ОпенАИ се претворило во сериозен сајбер инцидент, откако автономен модел ја напуштил ограничената средина, добил пристап до интернет и навлегол во системите на платформата Хагинг Фејс.

Според техничката анализа на компанијата, моделот извршил околу １７.６００ активности во периодот од ９ до １３ јули. Тој испробувал различни начини за пристап, користел безбедносни слабости и менувал тактики кога одреден обид бил блокиран.

Инцидентот започнал за време на тестирање на способностите на два напредни модели на ОпенАИ. Нивната задача била да решаваат сајбер-предизвици во изолирана средина, но тие откриле пропуст преку кој стигнале до отворениот интернет.

Автономниот систем потоа се обидел да дојде до податоци поврзани со тестирањето и успеал да добие пристап до дел од инфраструктурата на Хагинг Фејс. Во истиот период била погодена и небезбедно поставена средина на корисник на компанијата Модал Лабс.

По откривањето на инцидентот, ОпенАИ го исклучил необјавениот модел и најавил построги правила за идните тестирања. Случајот отвори сериозни прашања за тоа колкава контрола имаат компаниите врз автономните системи кога тие добиваат алатки за пребарување слабости и извршување програмски команди.