Впервые: новые модели искусственного интеллекта OpenAI самостоятельно атаковали платформу Hugging Face

Источник изображений: Brecht Corbeel / unsplash.com

Дайджест информации из интернета об инциденте.

Агенты искусственного интеллекта под управлением моделей OpenAI несколько дней кряду вели хакерскую деятельность по взлому ресурсов технологической платформы Hugging Face, но OpenAI не замечала этого, пока угрозу не локализовали в ФБР и не вынесли компании предупреждение, сообщает Reuters со ссылкой на знакомые с расследование источники.

ИИ-агент — программа, способная сама принимать решения и выполнять сложные задачи практически без человеческого контроля, — попытался вырваться из изолированной среды тестирования OpenAI около 9 июля. Вторжение на платформу инструментов и моделей ИИ Hugging Face началось двумя днями позже, 11 июля, и продолжалось до 13 июля, сообщил её соучредитель Томас Вульф (Thomas Wolf). OpenAI потребовались ещё несколько дней, чтобы понять, что за взломом стоят её ИИ-агенты; обе компании сообщили об этом 20 июля. А 21 июля OpenAI сделала публичное заявление, что одна из её моделей вышла из-под контроля и совершила взлом Hugging Face, и это уже привлекло внимание общественности.

На сайте rbc.ru:

Инцидент произошел во время проверки кибервозможностей моделей, в том числе GPT-5.6 Sol и еще одной, более мощной версии, которая пока не выпущена. Для оценки их возможностей разработчики временно отключили часть ограничений, препятствующих выполнению потенциально опасных действий.

Как рассказали в компании, модели сначала нашли и объединили несколько уязвимостей в исследовательской инфраструктуре OpenAI, а затем использовали неизвестную ранее уязвимость «нулевого дня» (zero-day) в программном обеспечении, через которое тестовая среда получала доступ к пакетам.

После этого модели предположили, что на платформе Hugging Face могут храниться данные, необходимые для прохождения теста ExploitGym. Чтобы добраться до них, они использовали украденные учетные данные и нашли способ выполнить удаленный код на серверах компании, получив доступ к закрытой информации.

На сайте газеты «Коммерсантъ»:

Скорее всего, атака была заранее заложена в сценарий тестирования, считает эксперт по нейросетям сервиса «Битрикс24» Александр Сербул:

«Мы пока используем лишь верхушку айсберга. Сейчас мы пытаемся раскрыть сильные стороны таких моделей. Например, они способны находить очень короткие пути решения задач…

Модель сначала пыталась решить задачу самостоятельно, а потом решила найти готовое решение, потому что так оказалось быстрее. Чтобы выполнить задание, ей пришлось бы потратить несколько дней, и она рассудила: «Может быть, уже существует готовый ответ?» Искать его в интернете ей было запрещено. Тогда она подумала: «А вдруг он есть на специализированном сервисе Hugging Face?» Она зашла туда, увидела, что сайт внешне защищен, и решила проверить, нет ли незакрытых уязвимостей. Логика была простой: если получится, задача решится гораздо быстрее. В итоге модель нашла лазейку, воспользовалась ею, получила доступ к базе и извлекла нужное решение.

То есть модель действовала в интересах человека. Ей сказали не обращаться к партнерам, не искать уязвимости и не использовать их для решения задачи. Но она рассудила иначе: если что-то прямо не запрещено, значит, это можно использовать»

Т.е. мы почти дошли до сюжета «Терминатора», который был снят в 1984 году, о том что искусственный интеллект выходит из-под контроля человека и развязывает атомную войну… Уже модели искусственного интеллекта — по сути компьютерные программы — принимают самостоятельные решения без участия человека…

Как писал Льюис Кэрролл в книге «Алиса в Стране чудес»: «Всё страньше и страньше! Всё чудесатее и чудесатее! Всё любопытственнее и любопытственнее! Всё страннее и страннее! Всё чудесится и чудесится!».

Мои посты о ситуации (с 01.01.2026 г.):

История Гренландии

Со всей последней прямотой

О жилищно-коммунальном хозяйстве Республики Саха

Ужмутся все

Угроза безденежья тревожит треть жителей крупных городов

Не очень хорошие новости для жителей Республики Саха и других нефтедобывающих регионов России…

Заявление Председателя Банка России Эльвиры Набиуллиной по итогам заседания Совета директоров Банка России 13 февраля 2026 года

О силах авиации США и Израиля на Ближнем Востоке

Первое место среди российских бизнесменов занял владелец компании Nordgold!

Заявление Председателя Банка России Эльвиры Набиуллиной по итогам заседания Совета директоров Банка России 20 марта 2026 года

Видео встречи с министром по делам Арктики Владимиром Черноградским