Поддержка покупателей с ИИ в облаке торговой сети: проект ApTask

ApTask описывает заказчика как специализированную торговую сеть из списка Fortune 500 . Компания хотела поручить ИИ простые обращения в службу поддержки — первую линию, или Tier-1. При этом данные покупателей должны были оставаться внутри компании: передавать их внешнему сервису языковой модели через API, то есть программное подключение, было нельзя. Это ограничение определило устройство системы. Источник

У торговой сети был бюджет на инфраструктуру, но не хватало специалистов, которые могли бы построить и обслуживать закрытую систему ИИ: настроить языковые модели, облачную среду, обновления и защиту. ApTask взяла на себя разработку рабочего решения с заранее согласованным результатом и сроком. Источник

После этого команда спроектировала остальные части: где искать сведения о товарах, как готовить ответы и как подключать обращения покупателей.

В команде ApTask было шесть специалистов: два инженера по языковым моделям, два специалиста по инфраструктуре DevOps, руководитель по безопасности ИИ и менеджер продукта с частичной занятостью . В задании на проект — Statement of Work, или SOW — закрепили объём работ, срок в 90 дней и обязательные критерии приёмки: условия, по которым заказчик проверяет готовую систему. Источник

Команда развернула систему обработки запросов внутри VPC заказчика — его закрытой облачной среды . Затем подключила поиск по базе знаний о товарах и подготовила план постепенного запуска. Такой поиск называют RAG: система находит подходящие материалы и передаёт их языковой модели, чтобы та подготовила ответ. В открытом кейсе не названы модель, база для поиска и способ отбора материалов. Источник

Публикация объясняет общую схему, но не позволяет восстановить технические подробности. ApTask не раскрывает, какие модели готовят ответы и ищут сведения, где хранятся материалы, как система сортирует найденное и проверяет результат. Не описаны и правила передачи обращения сотруднику.

По модели Managed Solutions ApTask отвечает за согласованный результат проекта. Компания описывает такой порядок работы: сначала изучает задачу, затем выделяет команду, сдаёт этапы по обязательным критериям приёмки и передаёт знания заказчику. Управление проектом должно быть прозрачным для заказчика. Источник

В этом проекте систему запустили за 87 дней при согласованном сроке 90 дней — на три дня раньше. По данным кейса, обращения подключали постепенно. Источник

К запуску нужно подготовить не только модель, но и облачную инфраструктуру, поиск по базе знаний и защиту данных. Команде также нужно проверять качество ответов и следить за работой системы: без этого её готовность к обслуживанию покупателей оценить нельзя.

По опубликованным значениям можно рассчитать, как изменилось время обработки автоматизированных обращений. Девять минут — это 540 секунд; снижение до 22 секунд составляет примерно 95,9% . Отношение 540 к 22 показывает ускорение примерно в 24,5 раза . Это расчёты на основе цифр ApTask, а не отдельные показатели, полученные независимым измерением. Источник

На странице об ИИ и машинном обучении ApTask утверждает, что оценку экономии в 2 млн долларов подтвердили через перераспределение численности сотрудников поддержки. Там же указано, что сокращённое время обработки сохранилось в первый праздничный квартал после запуска. Методика расчёта затрат, исходная численность команды и независимая проверка не раскрыты. Поэтому 2 млн долларов остаются оценкой поставщика. Данные ApTask об ИИ

Собственную среду для модели стоит выбирать под конкретное требование. Внешний сервис может быть проще запустить и обслуживать, а закрытой системе потребуется своя команда. Дополнительные расходы могут быть оправданы требованиями к данным, соблюдению правил, скорости ответа, управлению моделью или подключению к другим системам.

У торговой сети было конкретное требование: автоматизировать поддержку без передачи данных покупателей во внешний API. Размещение модели внутри компании позволило выполнить это условие. Источник

Кейс показывает, с чего начать выбор системы для поддержки.

Торговая сеть хотела автоматизировать поддержку и сохранить данные внутри компании, поэтому модель разместили в её облаке. Поиск по базе знаний дал модели сведения о товарах. Сроки и критерии приёмки задали условия сдачи проекта, а постепенное подключение обращений позволило перейти к работе с покупателями.

Такой порядок подходит и другим отраслям. Если компания рассматривает закрытый ИИ, сначала стоит спросить:

Какое конкретное требование мы нарушим, если этот процесс будет использовать внешний сервис языковой модели?

Если чёткого ответа нет, собственная инфраструктура может быть преждевременной. Если ограничение конкретное и существенное, систему можно спроектировать с его учётом.