Использование LLM в телекоме для суммирования звонков

fgfg Picture

Телеком-компания решила внедрить расшифровку звонков и суммирование информации для своих внутренних задач и b2b-клиентов, чтобы отстроиться от конкурентов и привлечь больше пользователей. По замыслу, по окончании разговора пользователь должен был получать текст, в котором содержалась информация, например, о том, что генеральный директор компании провел переговоры с представителями дочерней компании, и они договорились о выделении дополнительных инвестиций на конкретные проекты. 

Подобная функция есть у некоторых сервисов видеоконференций, например, у Zoom. Она позволяет быстро прочитать основные тезисы разговора и не тратить время на прослушивание записей. 

Интеграция распознавания речи и большой языковой модели — решение от MTS AI

Чтобы реализовать решение для своего клиента, разработчики MTS AI решили использовать собственную большую языковую модель (large language model, или LLM) и платформу синтеза и распознавания речи Audiogram для транскрибации. 
LLM дают уникальные возможности по быстрому анализу и выделению главного в текстах.

До появления современных больших языковых моделей решение подобных задач было практически невозможно: нейросети справлялись в целом хуже, применение было ограничено набором узких кейсов и требовало большого количества вычислительных ресурсов и существенных затрат (временных и финансовых) на разметку данных.

Этапы внедрения большой языковой модели в телеком-компании

Разработчики MTS AI развернули большую языковую модель на серверах заказчика и интегрировали ее с внутренними системами компании. Далее специалисты написали промпты (или запросы к LLM), чтобы ИИ мог выполнять задачи по выделению необходимой информации в расшифровках разговоров. Параллельно к виртуальной АТС (автоматическая телефонная станция) телеком-компании подключили Audiogram для транскрибации звонков. 

Решение было подготовлено и интегрировано в работу.

Получившая система может автоматически расшифровывать звонки, суммировать информацию и отправлять краткое содержание диалога абоненту в чат-бот. 

Пример:

20 сентября Михаил Петрович П. из компании N позвонил Алексею Васильевичу К., генеральном директору торгового дома F. Они обсудили возможность продления аренды торгового помещения и договорились о повышении арендной платы на 30% с 1 ноября.

Влияние нейросети на работу компании

Телеком-компания тестирует систему на базе большой языковой модели в пилотном режиме, по итогам пробного периода будет принято решение о продлении совместной работы. 

Компания прогнозирует, что новая функция позволит на 20% увеличить удовлетворенность клиентов. 

Также ожидается повышение лояльности пользователей на 15-20% за счет появления функции анализа диалогов. 

Помимо этого, за счет использования большой языковой модели, которая требует меньше усилий для настройки, чем ML-модели, можно будет сократить в два раза временные и финансовые затраты на развертывании решения.

Новости
Главное за последнее время
Смотреть все
События
Вебинар: как с помощью ИИ защитить бизнес и репутацию от дипфейков
События
Вебинар: разговор на языке данных
ВобъективеИИ
Предсказания Маска и конкуренция на ИИ-поле
Новости команды
MTS AI подписала декларацию об ответственной разработке генеративного ИИ
Технологии
MTS AI создала ИИ-помощника программиста
ВобъективеИИ
Трансцендентность ИИ-моделей и улыбка робота
Технологии
Как сервису объявлений избежать оттока клиентов с помощью ИИ
ВобъективеИИ
Понимание визуального мира LLM и опасности игр со спецификациями
MTS AI в медиа
Как применяется GenAI в речевой аналитике
Партнерство
Компания «Синимекс» и MTS AI стали партнерами
ВобъективеИИ
Гуманоид с открытым кодом и мода от Пушкина
Технологии
Искусственный интеллект в финансовом секторе
Технологии
MTS AI запустила речевую аналитику с LLM