Сначала учесть ИИ-активы
Модель, настройки, промпты, база знаний, документы, доступы и интеграции составляют рабочую систему. Для каждого элемента определяют владельца, место хранения, условия обновления и возможные последствия ошибки. Копия модели без данных и прав доступа не описывает весь контур. Инвентаризация помогает ограничить проверку и понять, где требуется организационная мера, а где изменение настройки или архитектуры.
Аудит ИИ-активов — от 150 000 ₽
Согласуем задачи, архитектуру, набор документов и допустимые испытания. Рассмотрим источники знаний, доступы, сценарии работы пользователей и внешние зависимости. В отчёте фиксируются наблюдаемые проблемы, условия проверки и ограничения покрытия. Приоритеты зависят от последствий для заказчика. Точный объём и стоимость определяются в КП; приведённая начальная цена не означает одинаковый состав для любой системы.
Red teaming ИИ-систем — от 300 000 ₽
Обсудим контролируемую проверку нежелательных запросов, команд в документах, обхода ограничений и попыток получить закрытые сведения. Сценарии, границы и разрешённые действия утверждаются владельцем системы. Для рабочего окружения отдельно определяются условия остановки и безопасные данные. Результат включает протокол, описание воспроизводимых наблюдений и перечень исправлений. Повторная проверка после доработки указывается в согласованном составе работ.
Модель угроз и меры защиты
Рассматриваем конкретную систему: её пользователей, данные, инфраструктуру, интеграции и последствия ошибок. На этой основе можно сформулировать сценарии угроз и меры снижения риска. Ограничение доступа, фильтрация источников и проверка действий должны работать совместно. Наличие фильтра или отдельного продукта не подтверждает защищённость всей цепочки. Применимость средств защиты и необходимых документов оценивается по реальному объекту.
Данные и нормативные требования
Передача персональных, внутренних или конфиденциальных материалов в ИИ требует отдельного разбора условий. Нужно определить допустимые действия, договорные основания, порядок хранения и роли ответственных. Применимые требования зависят от назначения системы и состава информации. Юридические выводы, необходимость аттестации и разрешения исполнителя проверяются для конкретного объекта. Публикация общей страницы не заменяет такого разбора и не является подтверждением аттестации.
Подготовка к рабочему запуску
Согласуйте, кто обновляет материалы, принимает результаты, управляет доступами и реагирует на ошибки. Для испытаний нужны обычные вопросы, сложные сценарии и запросы, на которые система должна отказать. После изменений модели или документов результаты перепроверяются. Если планируется внедрение, полезно начать с ограниченного пилота и программы приёмки. Для первичного разговора достаточно описания архитектуры и задач; секреты, ключи и реальные закрытые документы через форму не отправляются.
Частые вопросы
Что проверяется при аудите ИИ?
Состав зависит от выбранной системы. Обычно согласуются перечень активов, источники данных, доступы, интеграции и сценарии проверки. Результат — отчёт с наблюдениями, ограничениями и приоритетами доработки.
Сколько стоит аудит и red teaming?
Аудит ИИ-активов — от 150 000 ₽, red teaming — от 300 000 ₽. Точная стоимость, состав и повторные проверки фиксируются в КП после уточнения задачи.
Можно ли проверить рабочую систему?
Проверки согласуются с владельцем системы: границы, пользователи, данные и допустимые действия. Испытания с внешними эффектами требуют отдельного порядка; случайные изменения рабочих данных не являются частью проверки.
Нужна ли аттестация конкретной ИИ-системе?
Это определяется по назначению системы, составу данных и применимым требованиям. Необходимые работы и права исполнителя проверяются отдельно для выбранного объекта.