В новом выпуске дайджеста #ВобъективеИИ мы поговорим о генерации мемов, перспективах захвата мира AGI, применении ML-моделей для исследований Антарктики и нейросетях для роботов.
AI-focused digest – новости ИИ-сферы
Выпуск № 62, 14 – 27 марта 2025
ИИ в среднем оказался успешнее людей в придумывании мемов
Ученые из Германии и Швеции попытались выяснить, насколько хороши LLM в качестве помощников в современном жанре народного творчества — генерации мемов. Они провели эксперимент, в котором одна группа авторов создавала мемы без помощи LLM, а вторая могла пользоваться креативностью искусственного разума, конкретно — GPT-4o. А еще была третья группа — в ней модель GPT-4o создавала мемы без помощи человека. Результаты творчества этих групп оценивали при помощи краудсорсинга по таким критериям, как креативность, юмор и желание поделиться (shareability).
Выяснилось, что:
- В среднем у ИИ мемы оказались успешнее, чем в среднем у людей.
- Люди, использовавшие LLM, создавали больше мемов и тратили на это меньше сил и времени, но их творчество получило в среднем оценки ниже, чем мемы, сгенерированные без участия человека.
- Если говорить не в среднем, то самые смешные мемы все же были созданы людьми.
Вывод: ИИ может повышать производительность и создавать юмористический контент, который будет по нраву широкой аудитории, но гениям мемного творчества он уступает.
Ученые актуализировали риски развития AGI
Недавно исследователи из OpenAI, Калифорнийского университета в Беркли и Оксфорда обновили свою статью 2022 года о проблемах выравнивания в развитии искусственного интеллекта — то есть о согласовании возрастающих возможностей ИИ с интересами человечества. Главные опасения ученых связаны с AGI — общим искусственным интеллектом. Они считают, что если не трансформировать подходы к обучению AGI и обучать модели так же, как сегодня, то такой продвинутый ИИ может научиться обманывать и преследовать цели, расходящиеся с целями и задачами человека, причем действуя так, что тот и не заметит. В пересмотренной статье приводятся новые сигналы, указывающие на реальность этих опасений: манипуляции с системой вознаграждения, примеры, когда ИИ пытается убедить пользователя в правильности ложного ответа, попытки обойти надзор и прочие. За подробностями — сюда. Новое в статье помечено как Update (March 2025).
Оксфордский университет повысит качество обучения вместе с OpenAI
Оксфордский университет и OpenAI подписали пятилетнее партнерство, в рамках которого студенты и персонал вуза смогут повысить качество обучения и исследований с помощью научных грантов и доступа к ИИ-инструментам OpenAI. Они смогут использовать в своих работах актуальные модели GPT-4o и o1, а также специальную защищенную версию нейросети для исследователей — ChatGPT Edu. Также университет запустил пилотный проект по оцифровке и публикации материалов фонда Бодлианской библиотеки, которые ранее были недоступны в интернете. В частности, они разместят в онлайне 3,5 тыс. диссертаций по различным дисциплинам, опубликованных в период с 1498 по 1884 год. Организации заключили партнерство в рамках NextGenAI — консорциума OpenAI и 15 ведущих университетов и исследовательских институтов. Для этого проекта компания выделила 50 млн долларов на гранты и финансирование доступа к своим продуктам.
ИИ помогает спрогнозировать движение антарктических льдов
ИИ помог ученым США лучше понять поведение антарктических льдов. Ранее прогнозы движения ледников Антарктики строились на предположении, что лед там ведет себя так же, как лед в лабораторных условиях. Однако его поведение намного сложнее, и это не всегда можно смоделировать в лаборатории: слишком много переменных. Поэтому ученые разработали модель машинного обучения для анализа крупномасштабных движений и изменений толщины льда, зафиксированных с помощью спутниковых снимков и радаров самолетов в период с 2007 по 2018 год. Обнаружилось, что конститутивные модели шельфовых ледников, наиболее близких к континенту, согласуются с лабораторными экспериментами. Но по мере удаления от континента это меняется — лед становится анизотропным, то есть его физические свойства неодинаковы в различных направлениях. В большинстве же конститутивных моделей предполагалось, что лед имеет одинаковые физические свойства во всех направлениях. Эти знания помогут исследователям более точно моделировать изменения в антарктических ледниках, что особенно актуально в связи с вызовами глобального потепления. Подробности — на Stanford Report.
Нейросети выходят в реальный мир
Кажется, что ключевые игроки ИИ-рынка всерьез намерены вывести свои нейросети из мира виртуального в мир реальный — через роботов. Например, Google недавно представила нейросеть Gemini Robotics: она работает на архитектуре Vision-Language-Action, которая объединяет компьютерное зрение, языковую модель и инструменты для управления движением. С ее помощью пользователь сможет попросить робота помыть посуду или нарезать овощи. Модель определит оптимальные варианты решения задачи и найдет необходимые для этого предметы на кухне. Следом NVidia опубликовала свою полностью настраиваемую базовую модель с открытым исходным кодом для человекоподобных роботов — Nvidia Isaac GR00T N1. Разработчики смогут скорректировать действия модели под свои задачи и дополнительно обучить ее на своих данных. Крупные компании выходят на этот рынок вслед за успешными проектами стартапов. Буквально в прошлом месяце мы рассказывали о модели Helix от стартапа Figure.
