head-hanter.ruCloud.ru сделал доступным исходный код Guardrails Filter – решения, предназначенного для предотвращения утечек конфиденциальных данных при обмене информацией с большими языковыми моделями. Теперь любой российский бизнес может бесплатно развернуть этот инструмент на своей площадке и интегрировать его с ИИ-продуктами сторонних вендоров. Об этом IT Speaker рассказали в пресс-службе облачного провайдера.
До этого фильтр применялся в составе цифровой среды AI Factory для очистки запросов к сервису Foundation Models, а также в пилотных и действующих проектах клиентов и внутренних разработках Cloud.ru.
Генеральный директор Cloud.ru Михаил Лобоцкий отметил, что, несмотря на высокий интерес к генеративному ИИ, вопросы безопасности тормозят его повсеместное использование. По его словам, Guardrails Filter создавался как часть собственной платформы компании, а публикация кода призвана помочь бизнесу быстрее выстраивать защищенные ИТ-контуры для работы с языковыми моделями.
Открытая версия не привязана к экосистеме Cloud.ru и работает с любыми LLM. Ее можно установить в собственной инфраструктуре и администрировать через веб-интерфейс: менять правила фильтрации, тестировать их, просматривать логи и события. Инструмент встраивается между корпоративными приложениями и моделью, сканируя пользовательские запросы и ответы нейросети. Перед отправкой данных в модель он маскирует персональную информацию, ключи API, пароли и прочую критичную информацию, подменяя их тестовыми значениями. После получения сгенерированного ответа фильтр возвращает исходные данные, так что пользователь получает полноценный результат, а реальные сведения не покидают защищенную среду.
Пользователи опенсорс-версии могут опираться на встроенные шаблоны для выявления конфиденциальных данных либо создавать свои правила – для уникальных форматов договоров, клиентских идентификаторов или внутренних кодов проектов. В инструменте также предусмотрены ведение логов и режим Ghost Mode, позволяющий протестировать все настройки до полноценного запуска. Качество работы Guardrails Filter подтверждено на независимом тесте pii-bench: результат по метрике F1 составил 93,1 балла, а точность обнаружения достигла 99,9% – это означает, что из тысячи проверок лишь одна оказывается ложной.
Ранее Cloud.ru запустил EvoClaw – облачный сервис собственной разработки для работы с OpenClaw и другими агентами на базе искусственного интеллекта. Новинка предоставляется клиентам на основе доступных тарифов.
От хайпа к профиту: как считать ИИ-эффективность