Изучение ДНК и борьба с излишней самоуверенностью LLM

fgfg Picture

Сегодня мы расскажем, как ученые применили принципы LLM для изучения языка ДНК, какую методику предлагают исследователи из MIT для борьбы с излишней самоуверенностью языковых моделей и где в России будут тестировать умную сельскохозяйственную технику. А еще в этом выпуске #ВобъективеИИ нашлось место для новости о супертонких чипах памяти для on-device ИИ от Samsung и новых сроках выпуска умных функций от Apple.

AI-focused digest – новости ИИ-сферы

Выпуск №47, 25 июля — 8 августа 2024

Ученые разработали новую ИИ-модель для изучения языка ДНК

Ученые из Германии разработали новую ИИ-модель для изучения генома человека, которая рассматривает ДНК как язык, то есть анализирует ее правила и контекст, чтобы извлечь новые знания. Получившая название GROVER, новая DLM (DNA Language Model) может предсказывать последовательности ДНК и извлекать контекстуальную информацию, например, определять промоторы генов (это такой фрагмент ДНК, который РНК-полимераза узнает как стартовую площадку для транскрипции – синтеза РНК) и места связывания белков. А еще ее можно применять для исследования эпигенетических процессов, которые проходят как бы над ДНК и не связаны с изменением ее кода. Для обучения модели ученым потребовалось создать специальный словарь ДНК, который, как отмечается, и отличает GROVER от предыдущих моделей этого типа. Они в несколько сотен циклов анализировали геном и выделяли комбинации «букв» (то есть нуклеотидов A, G, C, T), которые встречаются чаще всего. Ученые считают, что изучение ДНК с помощью языковых моделей поможет развитию геномики и персонализированной медицины. О разработке можно почитать на страницах Nature Machine Intelligence и на сайте Дрезденского технического университета. 

В MIT ищут более действенный способ борьбы с излишней самоуверенностью языковых моделей

Хорошо откалиброванная модель искусственного интеллекта должна быть менее уверенной в неправильном прогнозе, и более в правильном. Однако традиционные подходы к калибровке ИИ не всегда бывают эффективны для LLM, считают исследователи из MIT и MIT-IBM Watson AI Lab. Они работают над альтернативным способом калибровки языковых моделей под названием Thermometer, который базируется на температурном масштабировании. По сути ученые предлагают добавить к основной модели меньшую вспомогательную модель и обучить ее предсказывать «температуру» для калибровки основной модели при выполнении новых задач. Для обучения этой меньшей модели они используют размеченные наборы данных нескольких репрезентативных задач, и после обучения она может обобщаться на новые задачи в аналогичной категории без необходимости в дополнительных размеченных данных. В идеале, конечно, ученые хотят добиться того, чтобы после обучения их модель-термометр могла работать с разнотипными задачами, но пока она так не может. Тем не менее предложенный метод, утверждают исследователи, выдает более откалиброванные показатели неопределенности, при этом требуя меньших вычислительных затрат. За подробностями — на сайт MIT News

Samsung начала массово производить чипы памяти для on-device ИИ

Samsung Electronics запускает массовое производство самых тонких в отрасли маломощных микросхем динамической памяти с произвольным доступом (DRAM). VentureBeat пишет, что так южнокорейский технологический гигант стремится удовлетворить растущий спрос на on-device ИИ. Речь идет о чипах памяти 12-нанометрового класса толщиной с ноготь на 12 и 16 Гб, которые не занимают много пространства в цифровых девайсах. Это способствует лучшему воздушному потоку, что особенно важно для поддержки высокопроизводительных приложений с расширенными функциями, такими как ИИ, поясняется в статье. 

Apple откладывает до октября запуск новых функций на базе ИИ в своих продуктах

На прошлой неделе настроение владельцев айфонов слегка испортила новость о том, что Apple отложила примерно до октября запуск новых функций с ИИ. Об этом, в частности, сообщает Bloomberg со ссылкой на неназванные источники, подчеркивая, что так у компании будет больше времени на исправление ошибок. Изначально СМИ писали, что ИИ-прокачка программного обеспечения iPhone и iPad начнется в сентябре с выпуском iOS 18, iPadOS 18 и macOS Sequoia. Что ж, еще подождем. А пока вот здесь можно узнать некоторые технические подробности об Apple Intelligence. 

В Липецкой области появится площадка для испытаний сельскохозяйственного ИИ

На базе Елецкого колледжа инновационных технологий в Липецкой области в сентябре  этого года будет открыта площадка для испытаний сельскохозяйственной техники с искусственным интеллектом. Также она будет использоваться для обучения операторов умных машин. Об этом сообщается на официальном сайте правительства региона. Обслуживание агротехники с искусственным интеллектом станет обязательной дисциплиной для будущих трактористов-машинистов. Этот модуль будет включен в учебную программу для первокурсников, а для студентов старших курсов организуют дополнительные семинары и практикумы.

Новости
Главное за последнее время
Смотреть все
Решения
MWS AI представила платформу для создания корпоративных ИИ-агентов в едином интерфейсе
Технологии
MWS AI разработала новую LLM с продвинутыми агентными навыками
Технологии
MWS AI выпустила первую мультимодальную модель для работы с изображениями и текстом
Технологии
MWS AI выпускает открытого ИИ-ассистента для программистов
Исследования
MWS AI выпустила первый бенчмарк для оценки качества VLM, работающих на русском языке
Партнерства
MWS AI и DIS Group заключили технологическое партнерство
Исследования
Опрос MWS AI и X5: каждый десятый житель Татарстана использует генеративный ИИ ежедневно
Исследования
Опрос MWS AI: 25% студентов признались, что пользовались нейросетями на экзаменах
Исследования
Исследование MWS AI: Как россияне используют ИИ на работе
ВобъективеИИ
«Клод» с 1 млн токенов контекста и новая ИИ-модель для роботов 
ВобъективеИИ
Новые открытые модели OpenAI и опенсорсный Grok 2