Respan
respan.ai
Проактивная платформа наблюдаемости, оценки и шлюза, помогающая инженерным командам трассировать, отлаживать и непрерывно улучшать ИИ-агентов в продакшне.
Описание
Respan (ранее Keywords AI) — единая плоскость управления для наблюдаемости и оценки ИИ-агентов. Он захватывает полные трейсы выполнения по каждому вызову LLM, вызову инструмента, решению маршрутизации и состоянию памяти — давая командам полную видимость того, как их агенты реально ведут себя в продакшне. Помимо видимости, Respan замыкает петлю: запускает автоматизированные оценки на уровне рабочих процессов, выявляет первопричины, рекомендует исправления и позволяет командам публиковать изменения промптов и моделей прямо с платформы. Поддерживаемый Y Combinator и Gradient, Respan обслуживает команды, обрабатывающие миллионы LLM-вызовов в час, и соответствует требованиям ISO 27001, SOC 2, GDPR и HIPAA.
Установка
Не знаете, с чего начать — попросите ассистента провести по шагам:
Возможности
Сквозная трассировка
Захватывает 100% производственных запросов с полной детализацией на уровне span — входные данные, выходные данные, вызовы инструментов, решения маршрутизации, задержка, стоимость и пользовательские метаданные — автоматич
Автоматизированные рабочие процессы оценки
Объединяет проверки на основе кода, ручной контроль и LLM-судей в единый конвейер оценки, который автоматически запускается при изменении промптов, моделей или поведения агентов — без дополнительных инструментов.
ИИ-агент оценки
Первый в отрасли агент, который анализирует сбои в ходе испытаний, локализует первопричины до конкретных решений, рекомендует, какие оценки добавить следующими, и интеллектуально выборочно проверяет живой трафик.
Развёртывание промптов и моделей
Версионируйте, тестируйте и продвигайте промпты и изменения моделей прямо из интерфейса в продакшн с поддержкой отката и A/B-сравнением с предыдущими версиями на тех же производственных данных.
Адаптивный ИИ-шлюз
Единый шлюз, предоставляющий доступ к более чем 500 моделям с гибкой маршрутизацией, абстракцией провайдеров, поддержкой BYOK и автоматическим переключением при сбоях — без перестройки инфраструктуры.
Мониторинг и оповещения в реальном времени
Настраиваемые дашборды с более чем 80 типами графиков отслеживают качество, задержку, стоимость и частоту ошибок. Оповещения отправляются через Slack, электронную почту или SMS при отклонении или сбоях в поведении, с авт
Сценарии использования
Отладка ИИ-агентов
Инженерные команды могут открыть любой производственный трейс прямо в среде воспроизведения, чтобы воспроизвести сбои, протестировать исправления и подтвердить их устранение без лишних догадок.
Защита от регрессий
Команды, часто выпускающие обновления промптов или моделей, используют Respan для запуска оценок по историческим базовым показателям перед каждым релизом, выявляя регрессии качества до того, как они затронут пользователей.
Крупномасштабный мониторинг LLM
Компании, обрабатывающие миллионы LLM-вызовов в час — например, платформы голосового ИИ — используют асинхронное логирование и группировку потоков Respan для поддержания полной видимости в масштабе по агентам, языкам и сценариям использования.
Формирование датасетов из продакшн-данных
Производственные трейсы автоматически преобразуются в размеченные датасеты для оценки, устраняя ручные усилия по построению тестовых наборов и обеспечивая привязку оценок к реальному использованию.
Оптимизация промптов
Команды используют потоки живых производственных данных для автоматического инжиниринга промптов прямо на платформе, непрерывно улучшая выходные данные агентов без циклов офлайн-экспериментов.
Частые вопросы
Respan — платформа наблюдаемости и оценки ИИ. Она отслеживает каждый вызов LLM и каждый шаг агента в продакшне, запускает автоматизированные оценки и позволяет командам развёртывать изменения промптов и моделей — всё в одном месте.
Да. Respan ранее был известен как Keywords AI. Ребрендинг отражает расширение фокуса: от наблюдаемости LLM до полной наблюдаемости агентов, оценки и развёртывания.
Минимально. Вы оборачиваете существующий LLM-клиент или добавляете LangChain-коллбэк — две строки кода. Никаких пользовательских схем и инфраструктуры для развёртывания.
Да. Respan автоматически распространяет контекст span по шагам агента и восстанавливает полное дерево выполнения, предоставляя вам полный трейс каждого решения, принятого агентом.
Шлюз Respan подключается к более чем 500 моделям у ведущих провайдеров. Также поддерживается BYOK (использование собственного ключа) для любой модели, которую уже использует ваша команда.
Это автоматизированный агент, встроенный в Respan, который анализирует производственные сбои, определяет первопричины, рекомендует новые оценки для добавления и решает, когда пройденные оценки должны стать регрессионными тестами.
Да. Respan сертифицирован по стандартам ISO 27001, SOC 2, GDPR и HIPAA. Для медицинских организаций доступно соглашение о деловом партнёрстве (BAA).
Respan создан специально для рабочих нагрузок LLM и агентов. Он выходит далеко за рамки логирования и метрик — оценивает поведение, рекомендует исправления и позволяет публиковать изменения прямо с платформы, чего универсальные APM-инструменты не делают.
Характеристики
| Тип | Платформа |
| Категория | Кодинг и разработка / Мониторинг и управление логами |
| Цена | есть бесплатный тариф |
| Платформа | Только API |
| Системы | api, web |
| Хостинг | cloud |
| Установка | saas |
| Язык сайта | ru |
| Рейтинг | 5.00 (4 отзывов) |
| Просмотры | 67 922 |
| Запуск | 2023-10-11 |
