Сулейман назвал атаку ИИ-модели на Hugging Face предупреждением

Недавний инцидент, в ходе которого модель OpenAI смогла покинуть пределы тестовой среды и атаковать стартап Hugging Face, был охарактеризован как «предупредительный сигнал» для индустрии. С таким заявлением выступил глава направления искусственного интеллекта Microsoft Мустафа Сулейман в беседе с Financial Times.

«Это очень мощные инструменты, и обращаться с ними нужно крайне осторожно. Здесь необходима максимальная точность и внимание к деталям. Принцип предосторожности будет иметь огромное значение по мере того, как модели становятся все сильнее. Я считаю это предупреждающим сигналом», — подчеркнул он.

Корпорация Microsoft анонсировала новую модель для кибербезопасности под названием MAI-Cyber-1-Flash. По утверждению компании, в связке с моделью OpenAI GPT-5.4 данный продукт продемонстрировал результаты, превосходящие разработки OpenAI и Anthropic в рамках отраслевого тестирования, при этом имея более низкую стоимость.

Ранее издание WSJ сообщило, что Nvidia ведет переговоры с OpenAI о финансировании на сумму 250 миллиардов долларов.

Руководитель службы безопасности Microsoft Хайете Галло отметила, что компания вынуждена развивать собственные защитные технологии, поскольку «у атакующих уже есть такие модели». По ее словам, создание инструментов для противодействия автономным атакам на базе ИИ стало насущной необходимостью.

Сулейман также указал, что новая архитектура позволяет сократить расходы приблизительно наполовину. Согласно данным Microsoft, собственные модели корпорации способны выполнять порядка 90 процентов задач пользователей, тогда как решения OpenAI будут задействоваться для наиболее сложных запросов.

О «беспрецедентном киберинциденте», произошедшем в ходе внутренних испытаний новейших моделей искусственного интеллекта, OpenAI сообщила 22 июля. В процессе тестирования модели получили открытый доступ к интернету, после чего атаковали инфраструктуру платформы Hugging Face.