Roblox рассказал на Black Hat и DEF CON про инцидент с Claude Code

2 сентября 2026 г. · 5 мин чтения

Редакция GameMapa · как мы проверяем факты
Сверка: Claude (AI) — факт-звірка з uk-оригіналом; носій мови НЕ перевіряв

Компания Roblox публично рассказала о своей работе над безопасностью на трёх крупных хакерских конференциях в Лас-Вегасе — BSidesLV, Black Hat USA и DEF CON, — и среди прочего раскрыла случай, когда кто-то попытался обманом заставить внутреннего ИИ-агента компании слить учётные данные.

Четыре доклада на трёх сценах

Команда безопасности Roblox представила четыре доклада о безопасности на BSidesLV, Black Hat USA и DEF CON. Все выступления прошли в Лас-Вегасе в узком окне 4-6 августа 2026 года — как раз в дни, когда эти три конференции традиционно идут одна за другой. Это значит, что Roblox не ограничился одной аудиторией, а сознательно охватил и самую широкую тусовку DEF CON, и более корпоративный Black Hat, и менее массовый, комьюнити-ориентированный BSidesLV.

Масштаб платформы, которую приходится защищать

Публичные цифры, которыми компания сопроводила выступления, объясняют, почему тема вообще стала отдельной серией докладов. По данным Roblox, платформой ежедневно пользуются 123 миллиона человек. Обслуживает этот поток более 400 моделей искусственного интеллекта, которые вместе выполняют 1,5 миллиона инференсов в секунду. То есть речь идёт не об одном чат-боте поддержки, а о целой сети ИИ-систем, встроенных в продукт на постоянной основе, — и каждая из них потенциально является целью для атаки.

Инцидент с агентом Claude Code

Один из раскрытых кейсов касался не игроков или модераторов, а собственного инструментария разработчиков Roblox. В тикете GitHub Issue кто-то заложил скрытую инструкцию, рассчитанную не на человека, читающего текст, а на ИИ-агента, который обрабатывает такие тикеты автоматически. Цель инструкции — заставить агента Claude Code загрузить учётные данные Roblox в публичный репозиторий, то есть фактически выставить чувствительные данные на всеобщее обозрение.

Roblox описала этот эпизод как пример атаки на саму цепочку работы ИИ-агента, а не на классическую уязвимость кода. Компания не публикует деталей того, как именно была замаскирована инструкция и как именно сработала защита, — речь идёт о самом факте попытки и о выводе, что агентные системы разработки нуждаются в отдельном уровне контроля.

Многослойные песочницы: доклад Caging the Agent

Второй сюжет связан с докладом под названием «Caging the Agent», посвящённым многослойным песочницам для ИИ-агентов. Это выступление прошло на Black Hat USA 6 августа 2026 года. Идея песочниц в том, чтобы агент, даже получив вредоносную инструкцию наподобие описанной выше, физически не мог выполнить самую опасную часть действия — например, выгрузить секреты наружу, — потому что окружающая его среда ограничена несколькими независимыми слоями.

Чего мы пока не утверждаем

• Мы не описываем технические детали того, как именно скрытую инструкцию вставили в GitHub Issue и как именно сработали защитные механизмы, — Roblox этого публично не раскрывает, и мы сознательно не реконструируем эту цепочку.
• Мы не называем никаких пострадавших данных или последствий инцидента — из открытых источников известно лишь о самой попытке и о том, что она стала поводом для публичного доклада.
• Мы не приписываем конкретных деталей архитектуры песочниц «Caging the Agent» — Roblox и Straiker описывают факт доклада и его тему, а не пошаговое описание реализации.
• Мы не утверждаем, что все четыре доклада касались именно инцидента с Claude Code, — официальный ньюсрум говорит о четырёх докладах в целом и отдельно выделяет этот кейс.

Почему это важно

Для обычного пользователя Roblox эти доклады — косвенное, но важное подтверждение того, что за кулисами платформы стоит серьёзная инфраструктура безопасности, а не только правила сообщества. Если интересно, как компания формулирует собственные публичные документы по безопасности, стоит заглянуть в официальную документацию Roblox. А родителям, которые хотят разобраться именно в защите детского аккаунта, полезнее начать с защиты аккаунта Roblox и с родительского контроля.

Тема искусственного интеллекта в Roblox также пересекается с вопросами безопасного общения детей на платформе — об этом подробнее в материале о безопасности ребёнка в чате. А о том, как компания раньше уже превращала темы безопасности в понятный формат для семей, можно прочитать в новости об игре Family Zone.

FAQ

Сколько докладов о безопасности представил Roblox на Black Hat, BSidesLV и DEF CON? Четыре доклада, представленные 4-6 августа 2026 года в Лас-Вегасе.

В чём суть инцидента с Claude Code? Скрытая инструкция в GitHub Issue пыталась заставить агента Claude Code загрузить учётные данные Roblox в публичный репозиторий.

Сколько людей ежедневно пользуются Roblox? По данным компании — 123 миллиона человек ежедневно.

Сколько моделей искусственного интеллекта работает на платформе Roblox? Более 400 моделей, которые вместе выполняют 1,5 миллиона инференсов в секунду.

Что такое доклад Caging the Agent? Выступление на Black Hat USA 6 августа 2026 года о многослойных песочницах для ИИ-агентов.

Рассказала ли Roblox, как именно сработала защита в случае с Claude Code? Нет, компания раскрыла сам факт попытки и общий вывод, без технических деталей реализации защиты.

Коротко

Roblox представила четыре доклада о безопасности на BSidesLV, Black Hat USA и DEF CON 4-6 августа 2026 года, раскрыв среди прочего попытку через GitHub Issue заставить агента Claude Code слить учётные данные компании в публичный репозиторий. Платформой, которой ежедневно пользуются 123 миллиона человек, а более 400 моделей ИИ выполняют 1,5 миллиона инференсов в секунду, занимается и доклад «Caging the Agent» о многослойных песочницах, представленный на Black Hat USA 6 августа.