В этом выпуске дайджеста #ВобъективеИИ расскажем о новом методе прунинга, очередном бенчмарке от Альянса в сфере ИИ, руководстве по масштабированию LLM от MIT, прогнозе Epoch AI до 2030 и обратной стороне корпоративных генеративок.
AI-focused digest – новости ИИ-сферы
Выпуск № 72, cентябрь 2025
Ученые разработали новый метод прунинга ИИ-моделей
Международная группа ученых, в составе которой исследователи MWS AI, разработала еще один метод прунинга ИИ-моделей с сохранением их эффективности. Название – ReplaceMe. Тесты подтвердили, что новый подход действеннее других методов прунинга без обучения. Подробности есть в этом исследовании. Оно будет официально представлено на конференции NeurIPS в декабре.
Альянс в сфере ИИ выпустил динамический бенчмарк для оценки кодинг-моделей
Ученые MWS AI, Сбера и ИТМО разработали новый бенчмарк для комплексной оценки LLM для кодинга — SWE-MERA. Главные его отличия от других – динамичность (набор задач пополняется постоянно и автоматически) и защита от контаминации данных. Подробнее можно почитать в этой статье. Она уже одобрена для презентации на конференции EMNLP, которая пройдет в Китае в ноябре.
MIT и IBM опубликовали руководство по масштабированию LLM
Исследователи из MIT и IBM разработали методологию поиска законов масштабирования для предсказания качества работы больших языковых моделей на основе перебора нескольких моделей меньшего размера. Это позволит оптимально распределять вычислительные и финансовые ресурсы при обучении LLM с нуля. В основу руководства лег анализ более тысячи закономерностей масштабирования на основе 485 моделей из 40 семейств. Почитать подробности можно здесь.
Google DeepMind и Университет Джонса Хопкинса выпустили статью о фундаментальных ограничениях ИИ
Ученые из Google DeepMind и Университета Джонса Хопкинса выпустили статью о фундаментальных ограничениях информационного поиска на основе векторных представлений текстов. На примере задачи поиска именованных сущностей авторы доказывают, что из-за ограниченной размерности векторных представлений (существует лимит, сколько токенов можно упаковать в один вектор фиксированной длины), даже самые продвинутые модели не могут охватить все возможные комбинации релевантных документов для произвольных запросов.
ИИ пророчат рост до 2030
Epoch AI опубликовало прогноз развития ИИ до 2030 года и его влияния на R&D-процессы. Коротко: если развитие технологии продолжится теми же темпами, то к 2030 году для обучения и поддержки моделей потребуются сотни миллиардов долларов инвестиций и гигаватт электричества. Однако это позволит существенно повысить продуктивность НИОКР – на 10-20%.
Ученые: ИИ-мусор снижает производительность
Ученые выявили проблему, которая мешает компаниям получать экономическую отдачу от использования ИИ в рабочих процессах, они назвали ее workslop. Это когда одни сотрудники в рамках своей рабочей деятельности генерируют сносный на первый взгляд, но низкокачественный контент, а другие вынуждены тратить много времени на его исправление, проверку и доработку. 40% опрошенных штатных работников в США рапортовали, что сталкивались с корпоративным ИИ-шлаком хотя бы раз за последний месяц.
