Телеком-компания решила внедрить расшифровку звонков и суммирование информации для своих внутренних задач и b2b-клиентов, чтобы отстроиться от конкурентов и привлечь больше пользователей. По замыслу, по окончании разговора пользователь должен был получать текст, в котором содержалась информация, например, о том, что генеральный директор компании провел переговоры с представителями дочерней компании, и они договорились о выделении дополнительных инвестиций на конкретные проекты.
Подобная функция есть у некоторых сервисов видеоконференций, например, у Zoom. Она позволяет быстро прочитать основные тезисы разговора и не тратить время на прослушивание записей.
Интеграция распознавания речи и большой языковой модели — решение от MTS AI
Чтобы реализовать решение для своего клиента, разработчики MTS AI решили использовать собственную большую языковую модель (large language model, или LLM) и платформу синтеза и распознавания речи Audiogram для транскрибации.
LLM дают уникальные возможности по быстрому анализу и выделению главного в текстах.
До появления современных больших языковых моделей решение подобных задач было практически невозможно: нейросети справлялись в целом хуже, применение было ограничено набором узких кейсов и требовало большого количества вычислительных ресурсов и существенных затрат (временных и финансовых) на разметку данных.
Этапы внедрения большой языковой модели в телеком-компании
Разработчики MTS AI развернули большую языковую модель на серверах заказчика и интегрировали ее с внутренними системами компании. Далее специалисты написали промпты (или запросы к LLM), чтобы ИИ мог выполнять задачи по выделению необходимой информации в расшифровках разговоров. Параллельно к виртуальной АТС (автоматическая телефонная станция) телеком-компании подключили Audiogram для транскрибации звонков.
Решение было подготовлено и интегрировано в работу.
Получившая система может автоматически расшифровывать звонки, суммировать информацию и отправлять краткое содержание диалога абоненту в чат-бот.
Пример:
20 сентября Михаил Петрович П. из компании N позвонил Алексею Васильевичу К., генеральном директору торгового дома F. Они обсудили возможность продления аренды торгового помещения и договорились о повышении арендной платы на 30% с 1 ноября.
Влияние нейросети на работу компании
Телеком-компания тестирует систему на базе большой языковой модели в пилотном режиме, по итогам пробного периода будет принято решение о продлении совместной работы.
Компания прогнозирует, что новая функция позволит на 20% увеличить удовлетворенность клиентов.
Также ожидается повышение лояльности пользователей на 15-20% за счет появления функции анализа диалогов.
Помимо этого, за счет использования большой языковой модели, которая требует меньше усилий для настройки, чем ML-модели, можно будет сократить в два раза временные и финансовые затраты на развертывании решения.
