Цифровой сотрудник: что можно реально поручить ИИ, а где нужен человек

«Нам нужен цифровой сотрудник» может означать очень разные вещи: чат с документами, автоматическое заполнение CRM или помощника, который сам выбирает несколько шагов для решения задачи. Пока это не уточнено, трудно сравнивать предложения, считать стоимость и понимать, где заканчивается автоматизация.

Для бизнеса цифровой сотрудник полезен как понятная роль с входящими задачами, источниками, инструментами, критериями результата и ограничениями. Название роли помогает обсуждать работу. Но оно не превращает модель в человека, который знает все негласные правила компании и самостоятельно отвечает за последствия.

Чат может помочь сформулировать ответ или найти идею. Рабочая роль должна ещё понимать, к какой задаче относится запрос, откуда взять актуальные сведения, где сохранить результат и что делать при исключении. Без этого сотрудник сам переносит контекст между диалогами и выполняет все действия вручную.

Например, ИИ-офис-менеджер получает разрешённое письмо, определяет тип обращения, извлекает реквизиты, ищет связанный заказ и готовит проект ответа. Результат включает найденные основания и нерешённые вопросы. Затем процесс направляет документ на проверку или выполняет заранее разрешённый шаг.

Автономность здесь не обязательна на всех этапах. Хорошая роль может быть очень ограниченной: каждый день собирать подтверждённые статусы и готовить одну сводку. Если она надёжно снимает повторяющуюся работу, ей не нужно самостоятельно придумывать себе новые обязанности.

В инженерном разборе Anthropic различаются процессы с заранее определённым маршрутом и агенты, в которых модель динамически выбирает шаги и инструменты. Это полезное архитектурное различие, хотя термин «агент» в отрасли используют по-разному. Anthropic · Building effective agents ↗

Если известна последовательность «получить файл → извлечь поля → проверить → сохранить черновик», фиксированный маршрут часто проще контролировать. Свободный выбор действий полезнее там, где заранее неизвестно, какие документы потребуются для ответа или сколько уточнений возникнет.

Добавление автономности имеет цену: больше вариантов поведения, сложнее проверка, возможны лишние вызовы и повторные действия. Поэтому выбирать нужно минимальную самостоятельность, достаточную для задачи. В рекламном описании больше свободы звучит сильнее; в работе ценнее предсказуемый результат.

Вместо общего поручения «помогай отделу продаж» составьте короткий документ. Он описывает события, с которых начинается работа, доступные источники, допустимые действия и признаки завершения. Такой паспорт нужен и руководителю, и специалисту по внедрению, и человеку, который принимает результат.

• Вход: какое письмо, событие или запрос запускает процесс.
• Результат: что именно должно быть подготовлено или изменено.
• Данные: какие системы, документы и версии разрешено использовать.
• Полномочия: чтение, подготовка, запись или внешнее действие.
• Исключения: когда остановиться и кому передать вопрос.
• Приёмка: как проверить качество и где сохранить подтверждение.

Добавьте владельца роли. Это человек или подразделение, которое поддерживает правила, разбирает ошибки и принимает изменения. Без владельца цифровой сотрудник постепенно начинает работать по устаревшим инструкциям, даже если модель остаётся технически исправной.

Хороший кандидат повторяется, имеет доступные исходные данные и проверяемый результат. Например, классификация обращений, извлечение реквизитов, поиск действующего регламента, подготовка резюме встречи или сопоставление строк документа с каталогом.

Важно оценивать не название профессии, а конкретную операцию. «ИИ-бухгалтер» слишком широкое обещание для старта. «Подготовить список расхождений между заказом и счётом, сохранив ссылки на строки» — задача с понятными границами. Решение о дальнейших учётных действиях остаётся в согласованном процессе.

Не каждая подходящая задача требует LLM. Проверку суммы, обязательного поля или точного идентификатора часто лучше выполнять обычной программой. Модель полезна при работе с вариативным текстом и контекстом; арифметику и формальные ограничения разумно проверять отдельно.

Человеческое участие особенно важно при неоднозначных исходных данных, изменении обязательств и решениях с существенными последствиями. Система может подготовить сравнение поставщиков, но выбор должен учитывать условия, которые ещё не отражены в таблице. Может составить черновик ответа клиенту, но не обещать новый срок без полномочий.

Разделяйте знание и право. Даже если ИИ правильно понял ситуацию, это не даёт ему разрешения изменить цену, оформить платёж, выдать доступ или принять кадровое решение. Допустимые действия задаёт компания, а не убедительность ответа модели.

OWASP описывает избыточную агентность как риск, связанный с чрезмерными функциями, правами или автономностью системы. Практический вывод для цифровой роли — предоставлять только необходимые инструменты и ограничивать существенные действия, включая человеческое подтверждение там, где оно требуется процессом. OWASP · LLM06:2025 Excessive Agency ↗

При этом подтверждение должно быть содержательным. Если человеку показывают только кнопку «одобрить» без получателя, суммы, условий и источников, он не может проверить действие. Согласование должно относиться к конкретной версии результата, а не к любому будущему варианту.

Представим условную сервисную компанию. Новое письмо нужно связать с клиентом, определить тему, найти инструкцию и подготовить ответ. Это пример для проектирования, а не заявленная статистика внедрения AI Office.

Цифровой сотрудник сначала проверяет, доступна ли история обращения. Если клиент определён неоднозначно, он не подставляет данные наиболее похожего контакта. Если инструкция устарела или противоречит договору, вопрос передаётся ответственному.

Для обычного запроса система готовит ответ с основанием и проектом следующего действия. Для претензии — краткую карточку: что сообщает клиент, какие документы найдены, чего не хватает и кто должен рассмотреть ситуацию. Никакой компенсации или признания обязательств без установленного разрешения.

В конце процесс сохраняет связь с исходным письмом и фактический статус. «Черновик подготовлен», «отправка разрешена» и «письмо доставлено почтовому сервису» — разные события. Их нельзя объединять в одно слово «готово».

Цифровому сотруднику может понадобиться контекст текущей задачи, подтверждённые правила и история решений. Но хранить каждую фразу навсегда не обязательно. Разделяйте рабочее состояние задачи, корпоративную базу знаний и временные промежуточные материалы.

Если клиент изменил адрес, старое значение не должно продолжать появляться из памяти чата. Нужны авторитетный источник, обновление и правило разрешения конфликтов. При удалении доступа к документу нужно учитывать не только оригинал, но и поиск, кэш, выдержки и подготовленные ответы.

Сотрудники должны понимать, какие данные сохраняются и для какой задачи. Особенно это важно, если роль получает почту, записи встреч или документы нескольких подразделений. Общая модель не означает общие права на всё содержимое компании.

Агент может застрять в поиске, многократно переписывать ответ или повторять вызов недоступного сервиса. Поэтому у процесса нужны пределы: число попыток, время выполнения, бюджет инструментов и условия остановки. После достижения предела задача должна иметь понятный статус и маршрут передачи человеку.

Повторное событие также не должно создавать вторую запись. Если письмо уже обработано, система должна распознать его или явно определить новую версию задачи. Для внешних действий требуется проверять, что произошло до сбоя, а не запускать всё заново вслепую.

«Работает круглосуточно» означает возможность выполнять задачи при доступной инфраструктуре и источниках. Это не обещание бесконечной мощности, отсутствия обслуживания или мгновенного ответа на любую очередь. Производительность проверяется для конкретной нагрузки.

Проверьте роль на наборе задач, которые отличаются от примеров настройки. Включите неполные документы, неизвестные позиции, противоречия, недоступные источники и попытки выдать текст документа за инструкцию. Система должна не только успешно отвечать, но и правильно останавливаться.

Оценивайте долю результатов, принятых без существенных исправлений, время проверки, пропущенные ошибки и лишние действия. Один красивый ответ не показывает, как роль поведёт себя на сотне неодинаковых обращений. При этом число тестов выбирают под разнообразие и последствия задачи, а не ради красивой цифры.

Экономику считайте по принятому результату. В расходы входят запуск, интеграции, вычисления, поддержка и время проверяющего. Если подготовка ускорилась, но исправлений стало больше, выгода может оказаться небольшой. Успешный пилот должен показать изменение всего процесса.

На сайте AI Office описаны возможные роли: офис-менеджер, помощник продаж, поддержка, закупки, работа с договорами, маркетинговыми материалами и встречами. Это направления последующего подключения. Для каждой роли согласуются источники, права и критерии качества; наличие названия в каталоге не означает готовое внедрение в любую компанию.

Начать разумно с одной роли и одного маршрута. После проверки можно добавлять новые типы задач, затем отдельные разрешённые действия. Несколько ролей могут использовать общую инфраструктуру и модели, но их данные, правила и права должны оставаться различимыми.

Цифровой сотрудник становится полезным, когда его работу можно объяснить и принять: что он получил, что сделал, чем подтвердил результат и где остановился. Предлагаем начать AI Office с такого описания для одной повторяющейся задачи вашей команды и проверить его на реальных материалах.