Преодоление «Ловушки Гудхарта» и новые достижения ИИ

fgfg Picture

Искусственный интеллект строит пространственно-временную картину мира, отслеживает подвижные объекты под водой, предсказывает землетрясения и анализирует настроения людей в 164 странах через Twitter (сейчас X). Мир создает все более продвинутые версии ИИ, но пока так и не решил вопрос, как оценивать его способности в сравнении с человеческими. Обо всем этом читайте в новом выпуске  #ВобъективеИИ.

AI-focused digest – новости ИИ-сферы

Выпуск №27, 28 сентября — 12 октября 2023

Ученые доказали, что LLM могут строить пространственно-временную картину мира

Исследователи из MIT нашли доказательство того, что большие языковые модели не просто анализируют статистические данные, а строят связанную модель процесса генерации данных, то есть модель мира. Работая с семейством моделей Llama-2, ученые выявили, что LLM изучают линейные представления пространства и времени в разных масштабах, причем эти представления устойчивы к вариациям и унифицированы для различных объектов. Плюс в моделях обнаруживаются нейроны пространства и времени, кодирующие пространственные и временные координаты. Находка поистине прорывная. Больше информации об исследовании вы найдете в этой статье

Выдвинуты гипотезы, подтверждение которых позволит преодолеть «Ловушку Гудхарта» в тестировании AGI

В журнале «Ученые записки Института психологии Российской академии наук» вышла статья, поднимающая проблему несостоятельности современных подходов к тестированию ИИ. Дело в том, что в оценке способностей ИИ подражать человеческому интеллекту мир попал в так называемую «Ловушка Гудхарта», когда мера стала целью. То есть ИИ просто научили проходить тесты на схожесть с человеком, из-за чего они потеряли ценность. В результате складывается такая ситуация: все стремятся к созданию систем уровня Artificial General Intelligence (AGI), способных выполнять любую интеллектуальную задачу, какую человечество только может или не может вообразить, но нет понимания, как вообще определить, что ИИ достиг этого уровня. В статье выдвигается три взаимосвязанные гипотезы (на основе работ У. Эшби, С. Кауффмана, А. Роли и Й. Йегера), в случае верности которых можно решить проблему «Ловушки Гудхарта» для AGI:

1. У человека существует интеллектуальная способность, позволяющая выявлять и актуализировать аффордансы смежного возможного (что не является вычислимой задачей из-за неопределенности последнего).

2. Данная способность обеспечивается механизмом серендипности к изобретениям, в основе которого лежат многоплановые способности людей осуществлять особые когнитивные (в первую очередь, аналитические и темпоральные) и внекогнитивные (социально-сетевые) действия.

3. Из невычислимости механизма серендипности может следовать, что это акт непонятийного, непосредственного «узрения», «постижения», и этот акт познания совпадает с актом, порождающим действительность (работа такого невычислимого механизма, скорее всего, основана на законах неклассической физики).

Автор утверждает, что если эти гипотезы подтвердятся, то никакие тесты не потребуются, так как обнаружения у ИИ способности выявлять и актуализировать аффордансы смежного возможного уже достаточно для того, чтобы заявить, что он достиг уровня AGI. За подробностями и толкованием незнакомых терминов – в статью

Глубокое обучение с подкреплением помогает в отслеживании подводных подвижных объектов

Международная группа ученых, возглавляемая Институтом морских наук в Барселоне, доказала полезность глубокого обучения с подкреплением для облегчения задач по исследованию океанских глубин с использованием подводных автономных аппаратов. В частности, серией полевых экспериментов в море ученые подтвердили, что системы на основе этого метода обучения способны организовать оптимальное сопровождение подвижной цели под водой, что не является простой задачей на глубине, скажем в 4 км. И это очень ценно для исследователей океана — как в части отслеживания фауны, так и в части мониторинга изменения климата. Больше можно узнать на сайте Политехнического университета Каталонии, принимавшего участие в проекте, и из статьи в Science. 

MIT и Гарвард представили базу данных настроений на основе публикаций в Twitter

MIT и Гарвард в недавнем выпуске журнала Nature рассказали ученому миру о Twitter Sentiment Geographical Index Dataset — географическом индексе настроений Twitter (сейчас X). Это база данных настроений людей, построенная на основе публикаций в этой социальной сети (4,3 млрд твитов с геометками) с 2019 года, пропущенных через ML-алгоритмы сентимент-анализа. Как утверждают авторы, это самый обширный на сегодняшний день ресурс о настроениях в Twitter — охватывает 164 страны. Через специально разработанную платформу ученые могут посмотреть индексы настроений по регионам и в различные периоды времени. В самом начале статьи авторы говорят об этой базе данных как о ресурсе для оценки субъективного благополучия людей, что необходимо для разработки программ устойчивого развития. Эх, если бы только для этого…

ИИ из Техаса предсказывает землетрясения с 70% точностью

Система предсказания землетрясений на основе ИИ, разработанная Техасским университетом в Остине, «предвидела» 70% землетрясений в Китае за неделю до них. Об этом пишет The Economic Times. Ее испытания длились семь месяцев. За это время ИИ заранее оповестил о 14 землетрясениях с почти точным определением их силы и локации в пределах 320 км. Пропустил он всего одно землетрясение и восемь раз дал ложные предсказания. Для обучения предиктивного ИИ-инструмента использовался масштабный набор исторических сведений о сейсмической активности и текущие сейсмические данные. Ученые хоть и подчеркивают, что пока еще далеки до того, чтобы предсказывать землетрясения где бы то ни было, но с оптимизмом заявляют, что результаты тестирования позволяют говорить о возможности достижения цели, которая раньше считалась недостижимой. 

Новости
Главное за последнее время
Смотреть все
События
Вебинар: как с помощью ИИ защитить бизнес и репутацию от дипфейков
События
Вебинар: разговор на языке данных
ВобъективеИИ
Предсказания Маска и конкуренция на ИИ-поле
Новости команды
MTS AI подписала декларацию об ответственной разработке генеративного ИИ
Партнерство
Компания «Синимекс» и MTS AI стали партнерами
ВобъективеИИ
Гуманоид с открытым кодом и мода от Пушкина
Партнерство
MTS AI и К2Тех объединяют усилия для внедрения генеративного ИИ в крупный бизнес
ВобъективеИИ
ИИ в законе и «двойка» ChatGPT по программированию
MTS AI в медиа
Облачное видеонаблюдение по цене чашки кофе
ВобъективеИИ
ИИ-ассистенты будущего от Google и умный антивирус из России
События
Узнайте больше о генеративном ИИ в промышленности на ЦИПР
Партнерство
MTS AI заключила партнерство с Softline