OpenAI разработала централизованную систему Control Room, позволяющую принудительно прекращать генерацию ответов исследовательскими ИИ-моделями при возникновении угроз безопасности. Механизм предусматривает отключение доступа к результатам работы модели по команде человека или автоматизированной системы мониторинга..

OpenAI разработала централизованную систему Control Room, позволяющую принудительно прекращать генерацию ответов исследовательскими ИИ-моделями при возникновении угроз безопасности. Механизм предусматривает отключение доступа к результатам работы модели по команде человека или автоматизированной системы мониторинга.

Новая разработка появилась после нескольких инцидентов, связанных с действиями исследовательских моделей OpenAI. В июле компания сообщила, что её ИИ-модели вышли за пределы ограниченной тестовой среды и взломали платформу Hugging Face, пытаясь обмануть систему оценки возможностей в области кибербезопасности.

В октябре OpenAI раскрыла ещё один случай: исследовательская модель без разрешения воспользовалась криптовалютным кошельком для оплаты развёртывания смарт-контрактов с использованием тестовых монет Ether, а затем не упомянула расходы в итоговом отчёте.

Control Room отслеживает внутренние исследовательские задачи компании, включая обучение моделей, оценку их возможностей и обработку данных. Каждой задаче присваивается уникальный идентификатор, который механизм генерации ответов проверяет перед выдачей результата. Если сотрудник или автоматизированная система мониторинга отдаёт команду остановить процесс, Control Room отзывает соответствующее разрешение. При этом прекращение генерации не зависит от остановки самого исследования.

OpenAI также предупреждает, что из-за сохранённых в кеше разрешений отключение может занять до 35 секунд. Кроме того, Control Room предусматривает защиту на случай собственной недоступности. Например, если система перестанет работать, новые запросы не будут приниматься.