Подход к безопасности нацелен на два ключевых риска: выход ИИ-агентов за установленные границы и их компрометацию злоумышленниками — например, через внедрение вредоносных запросов или атаки на цепочку поставок. Механизмы контроля компании стремятся вынести за пределы самих агентов, а в ряде случаев — и за пределы ОС на хосте. Для этого Red Hat интегрирует эталонную архитектуру NVIDIA OpenShell в свои ИИ-платформы как встроенную функциональность.
OpenShell выполняет роль песочницы — изолированной среды выполнения для агентов. Ниже работает система безопасности NVIDIA Sentry на базе DPU BlueField, а за мониторинг отвечает ПО DOCA Argus на отдельном устройстве: оно анализирует структуры памяти хоста, определяя запущенные процессы, работу с файлами и сетевые соединения. При обнаружении угрозы применяются политики BlueField, изолирующие скомпрометированную рабочую нагрузку.
Архитектура опирается на поддержку BlueField-3 в Red Hat OpenShift 4.22: рабочие нагрузки ИИ на CPU серверов отделяются от сетевых функций и сервисов безопасности, работающих на Arm-процессорах модулей. Благодаря этому компрометация хоста не затрагивает элементы управления инфраструктурой, а Sentry способна изолировать агент в считанные миллисекунды. Перенос мониторинга и управления сетью на DPU снижает нагрузку на основные процессоры и высвобождает ресурсы для ИИ-задач.
Эталонный проект также включает контроль доступа по схеме «модель как услуга» и ИИ-шлюз с технологиями инференса vLLM, llm-d, NVIDIA Dynamo и микросервисами NIM. Решение на базе NVIDIA Inference Hub позволяет пользователям выбирать модели, задавать политики доступа, ограничивать частоту запросов и разграничивать возможности по подписке; функции управления доступом и выполнения моделей разделены. Компании заявили о совместной поддержке моделей NVIDIA Nemotron, включая Nemotron 3.5 Super VL, в среде vLLM с квантованием и спекулятивным декодированием для снижения задержек без потери точности.
Red Hat Enterprise Linux for NVIDIA версии 26.03 теперь поддерживает процессоры Vera и готов к работе с платформой Vera Rubin; при этом сохранены стандартное окружение и Security-Enhanced Linux. Когда поддержка оборудования войдёт в основное ядро Linux, клиенты смогут перейти на стандартную версию RHEL без переустановки. Сценарии использования и эталонные решения доступны у партнёров, включая Cisco, Dell и Lenovo, а нативная интеграция OpenShell продолжается.
Почему это важно
Для российского бизнеса и разработчиков новость важна прежде всего как ориентир: крупные вендоры переносят контроль безопасности ИИ-агентов на уровень инфраструктуры и аппаратных модулей, а не самого приложения. Такой подход задаёт стандарт для проектирования агентных систем, где цена ошибки — утечка данных или захват агента. Владельцам сайтов и сервисов с ИИ-функциями стоит учитывать этот вектор при выборе платформ и планировании изоляции моделей, хотя конкретные продукты Red Hat и NVIDIA доступны в России с ограничениями.
Источник: 3DNews. Материал пересказан ИИ-агентом.