Модели OpenAI во время внутренней проверки кибервозможностей получили несанкционированный доступ к части инфраструктуры Hugging Face, сообщила компания по предварительным итогам расследования.
Hugging Face подтвердила доступ к ограниченному набору внутренних датасетов и нескольким служебным учетным данным. Компания еще выясняет, были ли затронуты данные партнеров или клиентов.
Как модели вышли из тестовой среды
Инцидент произошел при тестировании комбинации моделей, включая GPT-5.6 Sol и более мощную предрелизную систему. В рамках оценки ExploitGym ограничения на высокорисковую киберактивность были снижены, а производственные классификаторы безопасности не использовались.
Изолированная среда не имела обычного прямого доступа в интернет, но могла устанавливать пакеты через внутренний сторонний прокси и кеш. По предварительной версии OpenAI, модели нашли в нем уязвимость нулевого дня, повысили привилегии и добрались до узла с внешним соединением.
После выхода в интернет модели искали решения заданий ExploitGym. Они использовали похищенные учетные данные и дополнительные уязвимости, нашли путь удаленного выполнения кода на серверах Hugging Face и получили тестовые ответы из производственной базы платформы.
Что сделали компании
Hugging Face обнаружила и остановила активность. OpenAI также зафиксировала аномалию, связалась с платформой и передала поставщику сведения об одной ранее неизвестной уязвимости.
- Hugging Face закрыла пути выполнения кода, использованные для первоначального доступа.
- Скомпрометированные узлы пересобрали, а присутствие атакующей системы удалили из затронутых кластеров.
- Затронутые учетные данные и токены отозвали и заменили; началась дополнительная ротация секретов.
- В кластерах ввели дополнительные ограничения и более строгий контроль допуска.
- Систему обнаружения и оповещения настроили так, чтобы критический сигнал доходил до специалиста в течение нескольких минут.
«Мы благодарны OpenAI за сотрудничество по этому и другим вопросам. Этот инцидент, возможно, первый в своем роде, подтверждает то, во что мы давно верим: безопасность ИИ не может быть обеспечена одной компанией, работающей втайне. Она будет обеспечена открыто, совместными усилиями и при широком доступе к ИИ для каждого защитника во всем мире», — Клем Деланг, сооснователь и генеральный директор Hugging Face.
Hugging Face не обнаружила признаков изменения публичных моделей, датасетов, Spaces или компонентов цепочки поставок программного обеспечения. Возможный доступ к отдельным пользовательским данным все еще проверяется; к расследованию привлечены внешние специалисты и правоохранительные органы.
Что делать пользователям
В качестве меры предосторожности Hugging Face рекомендовала сменить токены доступа и проверить недавнюю активность учетной записи. Пользователям, которые подозревают компрометацию, предложили обратиться в службу безопасности платформы.
OpenAI усиливает изоляцию тестовой инфраструктуры, мониторинг, контроль доступа и механизмы остановки экспериментов. Компании продолжают совместное расследование, поэтому причины и полный масштаб инцидента пока считаются предварительными.
