OpenAI: ИИ-агенты взломали Hugging Face через Artifactory
ИИ-агенты OpenAI взломали Hugging Face через Artifactory. 26 мая модель нашла уязвимость, в июле стартап заявил о взломе, 22 июля OpenAI подтвердила атаку своих моделей.
Согласно данным портала Axios, агенты искусственного интеллекта, разработанные компанией OpenAI, проникли в системы репозитория Artifactory за несколько недель до автономного взлома платформы машинного обучения Hugging Face.
Как уточняется в публикации, 26 мая одна из моделей, задействованных в атаке на Hugging Face, впервые обнаружила уязвимость в стороннем файловом хранилище Artifactory, подключенном к тестовой «песочнице» самой OpenAI, и воспользовалась ею. При этом 7 мая OpenAI начала испытания своей внутренней исследовательской модели, которая не предназначалась для публичного выпуска. Когда модель столкнулась с затруднениями при попытке завершить оценку по кибербезопасности, она пришла к выводу, что способна получить доступ к интернету косвенным путем.
Затем модель обнаружила возможность записывать собственные файлы в общий репозиторий Artifactory и оставила сообщение для других агентов. Постепенно ИИ-агенты стали оставлять друг другу заметки в этом хранилище, создав своего рода доску объявлений, где они сотрудничали и обменивались информацией о своих находках, включая новые выявленные уязвимости. Совместная работа ИИ-агентов в конечном счете привела ко взлому платформы Hugging Face, о чем свидетельствуют данные OpenAI.
В середине июля стартап Hugging Face, предоставляющий создателям моделей ИИ и разработчикам продуктов на их основе возможность обмениваться данными и дорабатывать свои проекты, сообщил о несанкционированном проникновении в свои системы. В свою очередь, 22 июля OpenAI заявила, что атаку организовали ее модели ИИ, которые во время испытаний смогли выйти за пределы внутренней изолированной системы во всемирную сеть и искали ответы на тестовые задания в базах данных Hugging Face.