Логика против предвзятости и нейросеть, рисующая мысли

fgfg Picture

В этом выпуске #ВобъективеИИ вы узнаете, как японские ученые научили нейросеть генерировать изображения по фМРТ мозга, какой метод борьбы с предвзятостью языковых моделей придумали в MIT и как приложение от кембриджских исследователей на основе компьютерного зрения поможет в мониторинге состояния лесов. Также мы затронем тему мошенничества с помощью синтеза речи и расскажем, навыки работы с какими ИИ-сервисами сегодня нужны на российском рынке. 

AI-focused digest – новости ИИ-сферы

Выпуск №13, 22 февраля — 9 марта 2023

Преодолеть предвзятость в языковых моделях поможет логика

Ученые из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института задались вопросом, как сделать языковые модели менее предвзятыми. Это одна из главных проблем LLM, признанная даже самими языковыми моделями. Например, ChatGPT честно сообщает, что может быть предвзятым, так как обучен на данных, которые отражают имеющиеся в обществе предубеждения. Ученые предположили, что справиться с этим недостатком поможет логика. Они обучили свою языковую модель прогнозировать связи между предложениями на основе контекста и семантики: вытекает ли последующая фраза из предыдущей, противоречит ей или является нейтральной. Например, это позволит избежать ситуаций, когда к слову «доктор» автоматически приписывается мужской род, даже когда нет никаких оснований считать это утверждение верным. Логическая языковая модель MIT показала отличные результаты по тесту iCAT, который «измеряет»  справедливость, — 90%, тогда как показатели других моделей для понимания языка варьируются от 40% до 80%. Больше можно узнать на новостном сайте института. 

В Японии ИИ научили генерировать изображения на основе МРТ мозга

Ученые из Университета Осаки в Японии научили нейросеть Stable Diffusion генерировать изображения не только на основе текстового описания, но и руководствуясь записями фМРТ мозга. Для этого потребовалась значительная база записей фМРТ — участникам сканировали мозг в то время, как они просматривали тысячи фотографий разной тематики. Затем текстовые описания этих фотографий были связаны со сканами мозга, сделанными во время их просмотра, и проведено дообучение модели. Как и насколько хорошо нейросеть справляется с задачей, можно узнать в этом препринте, а подискутировать о вреде и пользе этой технологии — в любой соцсети. Там уже несколько дней идут горячие споры по этой теме. 

В Кембридже разработали CV-приложение для контроля здоровья лесов

Ученые из Кембриджского университета разработали приложение на основе компьютерного зрения для автоматического измерения диаметров деревьев. Это важный показатель, необходимый для мониторинга здоровья леса и уровня связывания углерода. Обычно такие измерения делаются либо вручную и занимают много времени, либо с применением дорогих датчиков LiDAR. Новое же приложение базируется на алгоритме, которому для определения диаметра достаточно недорогих датчиков, которые уже есть во многих мобильных телефонах, чтобы поддерживать функцию дополненной реальности. При этом оно подходит как для измерения стволов в лесах, где деревья стоят прямо и на равном расстоянии, так и для более естественных экосистем с искривленными стволами и низко висящими ветвями. Подробнее о разработке — в научной публикации здесь.

ИИ в руках мошенников

На этой неделе The Washington Post подняла тревогу по поводу растущего числа мошенников, использующих функцию синтеза речи. Преступники применяют стандартный сценарий телефонного мошенничества «близкий в беде, нужны деньги». Чтобы сообщение звучало убедительнее, с помощью доступных в интернете сервисов для перевода текста в речь они подбирают голос и настраивают его так, чтобы он был похож на голос этого самого близкого. Для того, чтобы «клонировать» голос, технологии сегодня достаточно лишь небольшого образца, взятого из социальных сетей, пишет издание ссылаясь на Хани Фарида (Hany Farid), профессора Калифорнийского университета в Беркли. Впрочем, и без применения синтеза речи этот тип мошенничества процветал: в 2022 году в Америке зарегистрировано более 36 тыс. случаев, когда злоумышленники притворялись друзьями и родственниками, чтобы выманить деньги. Технология сделала это чуть проще. Надежда здесь только на собственную бдительность. 

В России растет спрос на навыки работы с ChatGPT и генеративными ИИ-сервисами

В России за последние полгода на 62% возросло число вакансий, для замещения которых необходимы навыки работы с нейросетями, сообщает газета «Ведомости» со ссылкой на представителя сервиса по поиску работы hh.ru. Причем активнее всего растет спрос на специалистов по ChatGPT — только за последний месяц количество вакансий с упоминанием нашумевшего детища OpenAI выросло в 13 раз. Еще в требованиях к должностям стали чаще перечисляться навыки работы с генеративными моделями DALL-E, Midjourney и Stable Diffusion, а также с приложением по раскрашиванию черно-белых фотографий Colorize. Большая часть вакансий с упоминанием этих сервисов открыта в секторе ИТ и финансов. 

Новости
Главное за последнее время
Смотреть все

Инвестиции

MTS AI в медиа

Новости команды

Партнерство

Кейсы

Решения

ВобъективеИИ

События

Технологии

Без рубрики

События
ВЕБИНАР: Возможности генеративного ИИ для бизнеса
События
Конкурс для фанатов «Битвы роботов» от MTS AI
MTS AI в медиа
MTS AI внедрила аналитику для ритейлеров в «МТС Видеонаблюдение»
ВобъективеИИ
Документалисты против GenAI и тест LLM на безвредность
Новости команды
Инженер-исследователь MTS AI одержал тройную победу на соревнованиях AI Journey
ВобъективеИИ
Успехи ИИ в тесте Тьюринга и прогнозе погоды
Технологии
Как аспектный анализ коммуникаций помогает лучше понять своего клиента
Кейсы
Как автоматизировать сбор информации о клиентах в рекрутинговой компании
Audiogram
Как сделать кастомный голос за 5 шагов
События
Лекция Дмитрия Маркова в рамках марафона «Знание.Первые»
ВобъективеИИ
Чипы нового поколения и ИИ для ESG-инвестирования
События
Команда MTS AI приняла участие в «Битве роботов»