Использование LLM в телекоме для суммирования звонков

fgfg Picture

Телеком-компания решила внедрить расшифровку звонков и суммирование информации для своих внутренних задач и b2b-клиентов, чтобы отстроиться от конкурентов и привлечь больше пользователей. По замыслу, по окончании разговора пользователь должен был получать текст, в котором содержалась информация, например, о том, что генеральный директор компании провел переговоры с представителями дочерней компании, и они договорились о выделении дополнительных инвестиций на конкретные проекты. 

Подобная функция есть у некоторых сервисов видеоконференций, например, у Zoom. Она позволяет быстро прочитать основные тезисы разговора и не тратить время на прослушивание записей. 

Интеграция распознавания речи и большой языковой модели — решение от MTS AI

Чтобы реализовать решение для своего клиента, разработчики MTS AI решили использовать собственную большую языковую модель (large language model, или LLM) и платформу синтеза и распознавания речи Audiogram для транскрибации. 
LLM дают уникальные возможности по быстрому анализу и выделению главного в текстах.

До появления современных больших языковых моделей решение подобных задач было практически невозможно: нейросети справлялись в целом хуже, применение было ограничено набором узких кейсов и требовало большого количества вычислительных ресурсов и существенных затрат (временных и финансовых) на разметку данных.

Этапы внедрения большой языковой модели в телеком-компании

Разработчики MTS AI развернули большую языковую модель на серверах заказчика и интегрировали ее с внутренними системами компании. Далее специалисты написали промпты (или запросы к LLM), чтобы ИИ мог выполнять задачи по выделению необходимой информации в расшифровках разговоров. Параллельно к виртуальной АТС (автоматическая телефонная станция) телеком-компании подключили Audiogram для транскрибации звонков. 

Решение было подготовлено и интегрировано в работу.

Получившая система может автоматически расшифровывать звонки, суммировать информацию и отправлять краткое содержание диалога абоненту в чат-бот. 

Пример:

20 сентября Михаил Петрович П. из компании N позвонил Алексею Васильевичу К., генеральном директору торгового дома F. Они обсудили возможность продления аренды торгового помещения и договорились о повышении арендной платы на 30% с 1 ноября.

Влияние нейросети на работу компании

Телеком-компания тестирует систему на базе большой языковой модели в пилотном режиме, по итогам пробного периода будет принято решение о продлении совместной работы. 

Компания прогнозирует, что новая функция позволит на 20% увеличить удовлетворенность клиентов. 

Также ожидается повышение лояльности пользователей на 15-20% за счет появления функции анализа диалогов. 

Помимо этого, за счет использования большой языковой модели, которая требует меньше усилий для настройки, чем ML-модели, можно будет сократить в два раза временные и финансовые затраты на развертывании решения.

Новости
Главное за последнее время
Смотреть все
События
ВЕБИНАР: LLM для бизнес: возможности, ограничения и реальные кейсы
События
ВЕБИНАР: Возможности генеративного ИИ для бизнеса
ВобъективеИИ
Жажда скорости и ИИ против подделок
MTS AI в медиа
MTS AI создала LLM для корпоративного сектора
Новости команды
MTS AI провела специальную оценку условий труда
Новости команды
Сотрудник MTS AI вошел в Научный совет Альянса в сфере ИИ
ВобъективеИИ
Защита от биоугроз и LLM под знаком дракона
Решения
Использование LLM в телекоме для суммирования звонков
ВобъективеИИ
Спящие агенты и новые возможности GPT
Решения
По каким критериям оценивать качество голосового бота
ВобъективеИИ
Джейлбрейк LLM и ИИ для обучения роботов