Многие корпорации сталкиваются с тем, что сотрудникам сложно находить информацию вручную в разрозненных базах данных. Зачастую в поиск документов вовлекаются представители различных департаментов. Они тратят на эти задачи время, которое могли бы использовать для решения критически важных задач.
Один из крупнейших российских государственных холдингов также столкнулся с подобной проблемой. Представители корпорации обратились в MTS AI, чтобы разработать решение на основе искусственного интеллекта для оптимизации поиска.
Как искусственный интеллект помогает оптимизировать процесс поиска по документам
Большие языковые модели сегодня способны за секунды находить информацию по запросу, суммировать ее и предлагать пользователю конкретный ответ на его вопрос.
Для повышения точности и надежности ответов генеративных сетей MTS AI использует метод RAG (Retrieval Augmented Generation), что переводится как поисковая расширенная генерация. Говоря простыми словами, этот метод предполагает, что к базе знаний языковой модели Cotype «подмешивается» дополнительная информация из внешних источников, на основе которой LLM может дать пользователю более полный и точный ответ.
На практике метод работает следующим образом:
- Пользовать задает вопрос большой языковой модели
- RAG просматривает свою базу знаний, подбирает подходящий ответ, а затем добавляет найденную информацию к вопросу пользователя.
- В языковую модель поступает и сам запрос, и дополнительная информация от RAG.
- LLM, получив больше контекста, дает полный ответ.
Использование RAG необходимо, когда остро стоит вопрос актуальности данных и точности фактов по определенной теме. По сути, взаимодействие с ИИ-решением напоминает консультацию у эксперта, который получив вопрос, заглянул в справочник.
Какое решение MTS AI предложила корпорации
Компания MTS AI создала систему умного поиска на базе технологии RAG и собственной большой языковой модели Cotype, разработанной специально для крупного бизнеса. Специалисты по разметке MTS AI структурировали корпоративные данные. После разработчики компании проиндексировали документы, создали их векторные представления и построили структуру индекса для быстрого поиска. Дополнительного обучения модели не требовалось.
Далее Cotype развернули on-premise на серверах компании. Также разработчики MTS AI создали интерфейс, чтобы сотрудникам корпорации было удобно пользоваться поиском.
После проведения тестирования специалисты компании обучили персонал эффективному взаимодействию с сервисом и передали заказчику инструкции по взаимодействию с моделью, которые позволяют получить наиболее точные ответы.
Предполагаемый результат
Ожидается, что внедрение системы умного поиска значительно повысит эффективность работы с внутренними данными корпорации. Это приведет к существенной экономии времени сотрудников и автоматизации рутинных процессов поиска информации..
- До 100% запросов в корпорации будут обрабатываться автоматически.
- Среднее время поиска ответов на вопросы сократится с получаса до 3 секунд.
- Сотрудники HR, юридического и других отделов, которые вынуждены давать справочную информацию коллегам, смогут экономить до 4 часов рабочего времени ежедневно.
Проект показал широкие возможности ИИ для оптимизации внутренних бизнес-процессов в корпорациях.
