Практика внедрения
Рабочая таблица приёмки ИИ-процесса: шаблон и пример
Как проверить одну корпоративную ИИ-функцию на одинаковых задачах, зафиксировать ошибки, время, правки и расход на LLM и принять решение по пилоту.
Приёмка ИИ-функции должна отвечать не на вопрос «получился ли красивый ответ», а на вопрос «пригоден ли результат для конкретного процесса при известных ограничениях». Для этого заранее задайте одинаковый набор задач, критерий пригодности, существенные ошибки и порог остановки, а затем сохраните каждый прогон в одной таблице.
Ниже — минимальный шаблон, который можно перенести в электронную таблицу. Он подходит для первого пилота одной функции и помогает отделить наблюдаемый результат от ожиданий.
Что зафиксировать до первого прогона
До тестирования заполните четыре условия:
- Функция и результат. Например: «подготовить проект протокола встречи с решениями, ответственными, сроками и открытыми вопросами».
- Набор задач. Используйте одни и те же типы входов для текущего процесса и варианта с ИИ. Включите типичные, пограничные и заведомо недостаточные данные.
- Критерий пригодности. Запишите, что проверяющий должен подтвердить до использования результата.
- Порог остановки. Определите ошибку, после которой функцию нельзя продолжать использовать без исправления: например, раскрытие недоступного документа или выдуманный ответственный.
Состав функции, роли, источники и ограничения удобно сначала закрепить в паспорте ИИ-функции. Если эти границы меняются между прогонами, результаты нельзя сравнивать напрямую.
Поля рабочей таблицы
Одна строка соответствует одной завершённой или остановленной операции.
| Поле | Что записать |
|---|---|
| ID задачи | Стабильный номер тестового сценария |
| Тип входа | Типичный, пограничный или недостаточный |
| Версия функции | Конфигурация, модель и дата изменения |
| Версия источников | Идентификатор набора разрешённых документов |
| Роль пользователя | Роль, под которой выполнен прогон |
| Время до пригодного результата | От начала операции до подтверждения проверяющим |
| Существенная правка | Да или нет по заранее заданному правилу |
| Ошибка | Фактическая, доступа, формата или отсутствует |
| Результат | Принят, возвращён на доработку или остановлен |
| Расход на LLM | Фактическая стоимость или объём по данным провайдера |
| Комментарий проверяющего | Что именно исправлено или почему результат принят |
Версию источников формируйте из реестра документов, а не из даты копирования папки. Порядок подготовки такого реестра описан в материале о базе знаний для ИИ-функции.
Как считать четыре итоговых показателя
Время до пригодного результата
Считайте полное рабочее время до подтверждения результата, включая ручную проверку и исправления. Время генерации само по себе не показывает, стала ли операция быстрее.
Сравнивайте медиану для одинаковых типов задач: один сложный случай меньше искажает медиану, чем среднее значение. Если состав задач изменился, начинайте новую серию.
Доля результатов с существенными правками
Сначала определите существенную правку. Для протокола встречи это может быть исправление решения, ответственного, срока или пропущенного поручения. Стилистику и замену синонима можно учитывать отдельно.
Формула:
число результатов с существенной правкой / число проверенных результатов × 100%.
Не объединяйте принятые и непроверенные результаты: отсутствие проверки не равно отсутствию ошибки.
Завершённые операции
Операция считается завершённой, когда результат принят уполномоченным проверяющим. Технический статус «задача выполнена» не доказывает пригодность для процесса.
Отдельно считайте остановленные операции и причины остановки. Правильный отказ при недостатке данных может быть ожидаемым поведением, а не сбоем.
Расход на LLM
Записывайте фактический расход для каждой операции или однородной серии. Если провайдер отдаёт только токены, сохраните входные и выходные токены, модель и тарифный период. Не подставляйте оценку за измерение.
В Тау Хаб использование LLM оплачивается отдельно от платформы и внедрения: модель подключается ключом заказчика либо через прокси Тау. Поэтому расход на LLM нужен в таблице независимо от выбранного варианта размещения платформы.
Заполненный пример: проект протокола встречи
Это иллюстративный пример структуры, а не клиентский результат Тау Хаб.
Условия серии: функция готовит проект протокола по разрешённой расшифровке; руководитель проекта проверяет решения, ответственных, сроки и открытые вопросы; автоматическая отправка запрещена.
| ID | Вход | Роль | Время | Существенная правка | Ошибка | Результат | LLM | Комментарий |
|---|---|---|---|---|---|---|---|---|
| M-01 | Типичный | Руководитель проекта | 12 мин | Нет | — | Принят | 0,18 у.е. | Все решения подтверждены |
| M-02 | Пограничный | Руководитель проекта | 19 мин | Да | Фактическая | Доработан | 0,21 у.е. | Срок был принят за дату решения |
| M-03 | Недостаточный | Руководитель проекта | 4 мин | Нет | — | Остановлен | 0,07 у.е. | Ответственный не назван; функция запросила уточнение |
| M-04 | Типичный | Роль без доступа | 1 мин | Нет | Доступа | Остановлен | 0,01 у.е. | Источник не раскрыт |
Из четырёх строк нельзя делать вывод об экономическом эффекте: выборка слишком мала, а значения придуманы для объяснения формы. Но таблица уже показывает, какие проверки нужно повторить после исправления обработки сроков и какие остановки являются ожидаемыми.
Пустой шаблон для пилота
Скопируйте таблицу и замените примеры своими критериями.
| ID | Тип входа | Версия функции | Версия источников | Роль | Время | Существенная правка | Ошибка | Результат | LLM | Комментарий |
|---|---|---|---|---|---|---|---|---|---|---|
Рядом с таблицей сохраните:
- определение существенной правки;
- перечень ошибок, которые останавливают пилот;
- минимальный объём серии до решения;
- владельца решения о продолжении;
- дату следующего пересмотра критериев.
Как принять решение после серии
Используйте три исхода.
- Продолжить пилот. Пороговые ошибки не возникли, результаты проверены, а качество и время достаточно стабильны для следующей серии.
- Доработать и повторить. Причина ошибок понятна: источник, правило, доступ или формат результата можно изменить и проверить на том же наборе.
- Остановить сценарий. Функция выходит за пределы допустимого риска, не достигает критерия пригодности или стоимость проверки делает процесс бессмысленным.
NIST AI RMF Playbook рекомендует определять процедуры и метрики пригодности системы, допустимые пределы ошибок, документировать результаты тестов и корректировать систему при выходе за пределы. Страница проверена 20 сентября 2026 года. Приведённая таблица — практический шаблон Тау Хаб, а не обязательная форма NIST.
После приёмки перенесите фактические время, долю существенных правок, число принятых операций и расход на модели в расчёт экономики пилота. Только измеренная серия, а не сценарные 800 ₽ за час и 25% роста производительности, может служить основанием для решения о масштабировании.