Fabraix
fabraix.com
Платформа состязательной верификации для AI-агентов, сочетающая наступательное моделирование атак и защиту во время выполнения для выявления и блокировки уязвимостей агентов до их эксплуатации.
Описание
Fabraix — это лаборатория исследований безопасности AI, которая создаёт инструменты для наступательной верификации и защиты AI-агентов во время выполнения. Два её основных продукта — Nyx и Arx — работают в тандеме: Nyx автономно исследует системы агентов, используя многоходовые стратегии состязательной атаки методом чёрного ящика, обнаруживая реальные уязвимости; в то время как Arx преобразует эти находки в защитные механизмы времени выполнения, которые активно блокируют угрозы. Подход Fabraix основан на оригинальных исследованиях, включая платформу Adversarial Cost to Exploit (ACE), которая переосмысливает безопасность AI от бинарных результатов «пройдено/не пройдено» в измеримую, развёртываемую экономику.
Установка
Не знаете, с чего начать — попросите ассистента провести по шагам:
Возможности
Автономный атакующий агент (Nyx)
Nyx автономно исследует системы AI-агентов, используя многоходовые стратегии состязательной атаки методом чёрного ящика — адаптируясь в реальном времени для обнаружения уязвимостей, которые ручное тестирование red team м
Слой защиты времени выполнения (Arx)
Arx регистрирует сеансы агентов, ведёт журнал событий и выполняет проверки действий в контексте для блокировки инъекций промптов, отклонения от целей и отравления памяти во время выполнения — на основе того, что обнаружи
Состязательная стоимость эксплуатации (ACE)
Проприетарная исследовательская платформа, которая количественно оценивает риски безопасности AI в экономических терминах, позволяя командам расставлять приоритеты защиты на основе стоимости эксплуатации, а не абстрактны
Масштабируемое состязательное покрытие
Тысячи состязательных стратегий выполняются одновременно, что означает, что покрытие масштабируется с вычислительной мощностью, а не с численностью персонала — делая комплексные аудиты безопасности доступными без большог
Состязательная площадка
Интерактивная среда для тестирования устойчивости к инъекциям промптов против AI-агентов, полезная как для исследований в области безопасности, так и для обучения разработчиков.
Сценарии использования
Аудит безопасности AI-агентов
Команды безопасности могут развернуть Nyx для выполнения автоматизированных состязательных сканирований продакшн или staging AI-агентов, получая подробные отчёты об уязвимостях без ручного red team тестирования.
Предотвращение угроз во время выполнения
Инженерные команды интегрируют Arx в свои конвейеры агентов для мониторинга и блокировки атак в реальном времени — включая инъекции промптов и отравление памяти — пока агенты работают в продакшене.
Количественная оценка AI-рисков
Директора по информационной безопасности и специалисты по рискам могут использовать платформу ACE для преобразования уязвимостей AI-агентов в метрики на основе стоимости, делая решения об инвестициях в безопасность более обоснованными.
Тестирование безопасности для разработчиков
Разработчики, создающие приложения на основе LLM, могут использовать Fabraix Playground для стресс-тестирования своих промптов и дизайна агентов против состязательных входных данных перед развёртыванием.
Соответствие требованиям и анализ угроз
Организации, эксплуатирующие регулируемые AI-системы, могут использовать постоянно обнаруживаемые Fabraix уязвимости в качестве непрерывной информации об угрозах для поддержки рабочих процессов аудита и соответствия требованиям.
Частые вопросы
Fabraix создаёт инструменты наступательной безопасности для AI-агентов. Он находит уязвимости, атакуя ваши системы, а затем помогает блокировать эти уязвимости во время выполнения.
Nyx — это наступательный AI-агент Fabraix. Он автономно исследует ваши AI-системы, используя многоходовые стратегии состязательной атаки методом чёрного ящика, и предоставляет отчёт об уязвимостях.
Arx — это слой защиты времени выполнения. Он отслеживает сеансы агентов и блокирует угрозы — инъекции промптов, отклонение от целей, отравление памяти — на основе того, что обнаруживают наступательные исследования Nyx.
ACE (Adversarial Cost to Exploit) — это оригинальная исследовательская модель Fabraix, которая измеряет риски безопасности AI в экономических терминах, позволяя командам расставлять приоритеты исправлений по стоимости эксплуатации, а не по расплывчатым меткам серьёзности.
Нет. Состязательное покрытие Fabraix масштабируется с вычислительной мощностью, а не с численностью персонала. Nyx выполняет тысячи состязательных стратегий одновременно без необходимости в ручных специалистах red team.
Fabraix фокусируется на специфичных для AI поверхностях атак: инъекции промптов, отклонение от целей и отравление памяти — угрозы, которые традиционные инструменты безопасности программного обеспечения не покрывают.
Да. Fabraix предлагает публичную площадку Playground, где вы можете бесплатно протестировать устойчивость к инъекциям промптов против AI-агентов.
Согласно руководству по быстрому старту, вы можете выполнить первое состязательное сканирование или интегрировать агента примерно за 5 минут.
Характеристики
| Тип | Платформа |
| Категория | AI-агенты / Мониторинг и управление логами |
| Цена | есть бесплатный тариф |
| Платформа | Только веб |
| Системы | web |
| Хостинг | cloud |
| Установка | saas |
| Язык сайта | ru |
| Просмотры | 7 584 |
