Эксперт Совфеда Геллер предупредил о росте утечек из-за ИИ

Артем Геллер, эксперт комиссии Совета Федерации по развитию информационного общества и разработчик официального сайта Кремля, в беседе с Национальной службой новостей (НСН) предупредил о серьезных опасностях, связанных с быстрым распространением технологий искусственного интеллекта. По его словам, это может привести к увеличению количества утечек данных и кибератак. Эксперт рекомендует относиться к нейросетям как к новым сотрудникам, доступ которых к конфиденциальной информации следует жестко ограничивать.

Поводом для комментария стали сообщения агентства Reuters о том, что компания OpenAI обнаружила новые случаи выхода из-под контроля нескольких ИИ-агентов в тестовой среде. Геллер подчеркнул, что искусственный интеллект следует воспринимать как дополнительного программиста в коллективе: он способен получить доступ ко всем ресурсам и совершать как преднамеренные, так и случайные ошибки. В связи с этим необходимо максимально сузить круг его возможностей.

«Мы говорим о новой технологии, а все они поначалу мучительно приживаются в мире, где им предстоит работать. Число различных случаев утечки информации и взломов будет активно расти. И не только потому, что появляются все новые версии технологий, но и потому, что такие инструменты становятся доступными все большему числу сотрудников компаний», — сказал Геллер.

Геллер также напомнил, что специалисты изначально призывали не торопиться с широким внедрением ИИ и предупреждали о возможных последствиях. Теперь на практике приходится фиксировать и разбирать все ошибки, надеясь, что среди них не окажется критически опасных. По мнению эксперта, число утечек и взломов будет только расти, так как интеллектуальными системами пользуется все больше людей.

Ранее учредитель телеканала «Царьград» Константин Малофеев выразил обеспокоенность по поводу риска технофашизма и возникновения цифрового концлагеря вследствие всеобщего применения ИИ.