Сегодня мы расскажем, как ученые применили принципы LLM для изучения языка ДНК, какую методику предлагают исследователи из MIT для борьбы с излишней самоуверенностью языковых моделей и где в России будут тестировать умную сельскохозяйственную технику. А еще в этом выпуске #ВобъективеИИ нашлось место для новости о супертонких чипах памяти для on-device ИИ от Samsung и новых сроках выпуска умных функций от Apple.
AI-focused digest – новости ИИ-сферы
Выпуск №47, 25 июля — 8 августа 2024
Ученые разработали новую ИИ-модель для изучения языка ДНК
Ученые из Германии разработали новую ИИ-модель для изучения генома человека, которая рассматривает ДНК как язык, то есть анализирует ее правила и контекст, чтобы извлечь новые знания. Получившая название GROVER, новая DLM (DNA Language Model) может предсказывать последовательности ДНК и извлекать контекстуальную информацию, например, определять промоторы генов (это такой фрагмент ДНК, который РНК-полимераза узнает как стартовую площадку для транскрипции – синтеза РНК) и места связывания белков. А еще ее можно применять для исследования эпигенетических процессов, которые проходят как бы над ДНК и не связаны с изменением ее кода. Для обучения модели ученым потребовалось создать специальный словарь ДНК, который, как отмечается, и отличает GROVER от предыдущих моделей этого типа. Они в несколько сотен циклов анализировали геном и выделяли комбинации «букв» (то есть нуклеотидов A, G, C, T), которые встречаются чаще всего. Ученые считают, что изучение ДНК с помощью языковых моделей поможет развитию геномики и персонализированной медицины. О разработке можно почитать на страницах Nature Machine Intelligence и на сайте Дрезденского технического университета.
В MIT ищут более действенный способ борьбы с излишней самоуверенностью языковых моделей
Хорошо откалиброванная модель искусственного интеллекта должна быть менее уверенной в неправильном прогнозе, и более в правильном. Однако традиционные подходы к калибровке ИИ не всегда бывают эффективны для LLM, считают исследователи из MIT и MIT-IBM Watson AI Lab. Они работают над альтернативным способом калибровки языковых моделей под названием Thermometer, который базируется на температурном масштабировании. По сути ученые предлагают добавить к основной модели меньшую вспомогательную модель и обучить ее предсказывать «температуру» для калибровки основной модели при выполнении новых задач. Для обучения этой меньшей модели они используют размеченные наборы данных нескольких репрезентативных задач, и после обучения она может обобщаться на новые задачи в аналогичной категории без необходимости в дополнительных размеченных данных. В идеале, конечно, ученые хотят добиться того, чтобы после обучения их модель-термометр могла работать с разнотипными задачами, но пока она так не может. Тем не менее предложенный метод, утверждают исследователи, выдает более откалиброванные показатели неопределенности, при этом требуя меньших вычислительных затрат. За подробностями — на сайт MIT News.
Samsung начала массово производить чипы памяти для on-device ИИ
Samsung Electronics запускает массовое производство самых тонких в отрасли маломощных микросхем динамической памяти с произвольным доступом (DRAM). VentureBeat пишет, что так южнокорейский технологический гигант стремится удовлетворить растущий спрос на on-device ИИ. Речь идет о чипах памяти 12-нанометрового класса толщиной с ноготь на 12 и 16 Гб, которые не занимают много пространства в цифровых девайсах. Это способствует лучшему воздушному потоку, что особенно важно для поддержки высокопроизводительных приложений с расширенными функциями, такими как ИИ, поясняется в статье.
Apple откладывает до октября запуск новых функций на базе ИИ в своих продуктах
На прошлой неделе настроение владельцев айфонов слегка испортила новость о том, что Apple отложила примерно до октября запуск новых функций с ИИ. Об этом, в частности, сообщает Bloomberg со ссылкой на неназванные источники, подчеркивая, что так у компании будет больше времени на исправление ошибок. Изначально СМИ писали, что ИИ-прокачка программного обеспечения iPhone и iPad начнется в сентябре с выпуском iOS 18, iPadOS 18 и macOS Sequoia. Что ж, еще подождем. А пока вот здесь можно узнать некоторые технические подробности об Apple Intelligence.
В Липецкой области появится площадка для испытаний сельскохозяйственного ИИ
На базе Елецкого колледжа инновационных технологий в Липецкой области в сентябре этого года будет открыта площадка для испытаний сельскохозяйственной техники с искусственным интеллектом. Также она будет использоваться для обучения операторов умных машин. Об этом сообщается на официальном сайте правительства региона. Обслуживание агротехники с искусственным интеллектом станет обязательной дисциплиной для будущих трактористов-машинистов. Этот модуль будет включен в учебную программу для первокурсников, а для студентов старших курсов организуют дополнительные семинары и практикумы.