Лаборатория AI-инженерии
Данные и ИИ Кейс 15 / 22

Единый шлюз к внешним моделям

Сервисы и сотрудники обращались к внешним провайдерам напрямую. Никто не проверял, что именно уходит наружу.

Все кейсы
НаправлениеДанные и ИИ
ПрофильКомпания, которая использует внешние модели в работе и заботится о конфиденциальности
Проблема бизнеса

Что происходило до внедрения

Сервисы и сотрудники обращались к внешним провайдерам напрямую. Никто не проверял, что именно уходит наружу.

Что внедрили

Решение и его эффект

Поставили обязательный шлюз: весь внешний трафик идёт через одну точку. Шлюз классифицирует данные, вырезает секреты, применяет правила минимизации и журналирует запросы. В единицу времени используется один провайдер, автоматических подмен нет.

Измеримый эффект Внешний выход один и контролируется, секреты не уходят наружу.
Интеграция

Как встроили в ИТ-контур

Шлюз стоит между внутренними сервисами и внешним выходом. Политики, классификация и журнал запросов находятся внутри контура.

Схема упрощена. Полную архитектуру и состав интеграций показываем на встрече по NDA.

Результат

Что получил заказчик

  • внешний выход один и контролируется
  • секреты и лишние персональные данные не уходят наружу
  • по журналу видно, кто и что отправлял
  • смена провайдера выполняется осознанно, а не автоматически

Показатели проекта раскрываем в согласованном диапазоне. Точные данные, имена и архитектуру покажем на встрече по NDA.

Ограничения и безопасность

Что учли по требованиям заказчика

Секреты и лишние персональные данные вырезаются до отправки. Журнал показывает, кто и что отправлял.

ИИ-агент в кейсе
ИИ-агент

Страж внешнего выхода

проверяет каждый запрос к внешней модели

Как работает

  1. Принимает запрос от сервиса или сотрудника.
  2. Классифицирует данные и вырезает секреты и лишние персональные данные.
  3. Применяет политику и отправляет запрос через одну точку.
  4. Пишет журнал: кто, что, какой профиль, что вырезано.

Границы

  • Один провайдер в единицу времени, без автоматических подмен.
  • Запрещённые данные блокируются до отправки.
  • Каждый запрос и решение видны в аудите.
Технологии

Что использовали

Python FastAPI httpx PostgreSQL политики и аудит

У нас похожая задача

Разберём процесс, определим метрику и скажем, подходит ли здесь пилот. Покажем архитектуру этого кейса на встрече по NDA.

Первый шаг

Обсудить задачу

Четыре поля. Ответим в течение одного рабочего дня и предложим следующий шаг. Если удобнее письмом — hello@ailabix.ru.

Данные заявки не продаём и не передаём третьим лицам, кроме технической доставки уведомления оператору. Сайт использует статистику без cookie и сторонних скриптов.