HiveTrace

HiveTrace — платформа для мониторинга безопасности GenAI-приложений. Сервис анализирует взаимодействия пользователей с LLM-моделями, выявляет атаки и аномалии в реальном времени. Предназначен для команд, которые разрабатывают и эксплуатируют приложения на основе больших языковых моделей. Основные возможности • Обнаружение prompt-инъекций, jailbreak-атак и вредоносных HTML/Markdown элементов • Двунаправленный мониторинг — анализ сообщений пользователя и ответов LLM • Очистка сообщений от персональных данных (PII) • Адаптивное управление токенами для пользователей с подозрительной активностью • Оповещения через email, мессенджеры и Telegram-бот • Визуализация аналитики и отслеживание нагрузки на систему Покрытие угроз (OWASP Top 10 for LLM 2025) • Prompt Injection, Sensitive Information Disclosure, System Prompt Leakage • Improper Output Handling, Excessive Agency, Unbounded Consumption Варианты развёртывания • Облачное подключение через Yandex Cloud • Локальная установка (on-premise) Создан при поддержке Университета ИТМО / AI Talent Hub. Привлёк 10 млн рублей от стартап-студии МФТИ при содействии CyberStage. Разработчик: Raft Digital Solutions (raftds.ru)