Регулирование ИИ и альянс конкурентов OpenAI

fgfg Picture

Спешим порадовать вас очередным выпуском дайджеста #ВобъективеИИ. Мы расскажем о недавно сформированном альянсе для продвижения открытого ИИ,  предложениях MIT по регулированию ИИ-сектора и очередной разработке этого института для улучшения взаимодействия человека с искусственным интеллектом. А еще вы узнаете о китайской LLM с фокусом на Юго-Восточную Азию и нейросети, которая будет учить программистов в российских вузах. 

AI-focused digest – новости ИИ-сферы

Выпуск №31, 30 ноября – 14 декабря 2023

MIT выпустил предложения по регулированию ИИ

Массачусетский технологический институт открыл эту неделю выпуском серии аналитических записок по регулированию искусственного интеллекта. Цель — помочь правительству США разработать эффективную систему управления ИИ-сектором, которая будет способствовать его процветанию с минимальными рисками и увеличением пользы для общества. Об этом сообщает MIT News. Серия состоит из четырех записок. Ключевая из них озаглавлена как «Основы управления ИИ в США: создание безопасного и процветающего сектора искусственного интеллекта». В ней ученые показывают, что частично сфера ИИ может регулироваться действующими организациями и законами. Однако требуется четкая фиксация целей тех или иных ИИ-инструментов, что позволит создавать новые и применять уже существующие правила в соответствии с предназначением конкретного ИИ-приложения. Например, если ИИ выдает себя за врача, ставя диагноз и назначая лекарства, то это так же незаконно, как и врачебная практика человека без лицензии. Также ученые призывают к созданию саморегулируемой организации, которая могла бы находиться в постоянном контакте с технологической индустрией, чтобы максимально оперативно реагировать на все изменения и прогресс в ней. Дополнительно в статье рассмотрены вопросы распределения ответственности между создателями инструментов общего назначения (к которым относятся языковые модели), поставщиками ИИ-решений на их основе и потребителями. Другие три записки посвящены генеративному искусственному интеллекту. В них разбираются вопросы маркировки ИИ-контента, риски LLM и технологические инновации для их регулирования, влияние GenAI на рынок труда и меры, которые помогут развивать эту технологию не в ущерб интересам людей. Все материалы выложены здесь

В MIT разработали автоматизированную систему для обучения сотрудничеству с ИИ

Ученые из MIT в содружестве с ИИ-лабораторией Watson MIT-IBM разработали автоматизированную систему, которая учит пользователей более эффективному взаимодействию с искусственным интеллектом, пишет MIT News. Например, если радиолог применяет ИИ для анализа рентгеновских снимков, система может натренировать его определять, в каких случаях на заключения ИИ-помощника можно положиться, а когда лучше его проигнорировать. Если коротко, то это работает так:

1. Система собирает данные и обнаруживает ситуации, когда специалист доверяет совету модели, но не должен этого делать, так как совет ошибочен.

2. Далее она автоматически изучает правила сотрудничества с ИИ и описывает их на естественном языке.

3. На базе этих правил создается программа адаптации с обучающими упражнениями. В процессе их прохождения специалист на основе обратной связи о своей работе и работе ИИ учится лучше распознавать ситуации, когда модели можно доверять, а когда нет.

Отмечается, что система полностью автоматизирована — вплоть до того, что она сама учится создавать обучающие программы на основе данных о взаимодействии ИИ и человека. Еще она крайне адаптивна и может применяться в различных сферах — от модерации контента в соцсетях до программирования и медицины. Больше информации можно почерпнуть из этой научной статьи

Meta Platforms* и IBM организовали альянс для продвижения открытого ИИ

Meta Platforms* (признана экстремистской и запрещена в РФ) и IBM создали альянс из более чем 50 технологических компаний и исследовательских институтов для развития так называемой открытой модели искусственного интеллекта. Об этом пишет The Wall Street Journal. В AI Alliance помимо его инициаторов вошли Intel, Oracle, Корнельский университет, Национальный научный фонд и еще несколько десятков научных организаций и компаний. Они заявляют, что цель их объединения — «поддержать открытые инновации и открытую науку в области ИИ».  Это позволит предоставить заказчикам больше альтернативных вариантов и снизить для них риски попадания в зависимость от одного поставщика ИИ, которые стали более очевидны после «ноябрьского переворота» в OpenAI. Издание пишет, что многие члены нового объединения в значительной степени поддерживают идею открытого исходного кода, у многих из них есть свои наработки и достижения в области ИИ и желание поконкурировать за внимание к ним с OpenAI. «Если вы думаете, что будущее искусственного интеллекта будет определяться двумя, тремя или пятью институтами, то вы ошибаетесь. Я надеюсь, что это даст больше ясности и уверенности в том, что мир открытых инноваций — это мир, на который стоит делать ставки», — приводит WSJ слова старшего вице-президента IBM Дарио Хиля (Darío Gil). 

*Meta Platforms признана экстремистской организацией и запрещена в РФ.

В России нейросеть подключат к обучению программистов

Ученые из МГТУ имени Баумана и Московского физико-технического института создали нейросеть для обучения студентов программированию. Разработка уже проходит тестирование на одной из этих образовательных площадок, сообщает «Коммерсантъ». Поясняется, что ИИ-сервис анализирует код и действия начинающего программиста, выявляет, какие алгоритмы он использовал для решения тех или иных задач, и определяет его уровень знаний и навыков в программировании. На основе этого анализа ИИ составляет для студента индивидуальную образовательную траекторию и предлагает набор закрепляющих упражнений из более 7 тысяч вариантов по 30 темам. После тестирования планируется запустить сервис и в других вузах. 

Alibaba Group запустила большую языковую модель для Юго-Восточной Азии

Исследовательское подразделение Alibaba Group — Damo Academy — запустило LLM, адаптированную под языки Юго-Восточной Азии. Модель получила название SeaLLM (SouthEast Asia LLM). South China Morning Post сообщает, что это первая языковая модель компании с региональным фокусом и что ее запуск подтверждает амбиции Alibaba по развитию на рынках ЮВА. SeaLLM прошла предварительное обучение на вьетнамских, индонезийских, тайских, малайских, кхмерских, лаосских, тагальских и бирманских наборах данных. На ее базе уже реализован чат-ассистент, чтобы помочь предприятиям взаимодействовать с рынками Юго-Восточной Азии. Больше информации можно взять из этой статьи

Новости
Главное за последнее время
Смотреть все
События
ВЕБИНАР: LLM для бизнес: возможности, ограничения и реальные кейсы
События
ВЕБИНАР: Возможности генеративного ИИ для бизнеса
ВобъективеИИ
Жажда скорости и ИИ против подделок
MTS AI в медиа
MTS AI создала LLM для корпоративного сектора
Новости команды
MTS AI провела специальную оценку условий труда
Новости команды
Сотрудник MTS AI вошел в Научный совет Альянса в сфере ИИ
ВобъективеИИ
Защита от биоугроз и LLM под знаком дракона
Решения
Использование LLM в телекоме для суммирования звонков
ВобъективеИИ
Спящие агенты и новые возможности GPT
Решения
По каким критериям оценивать качество голосового бота
ВобъективеИИ
Джейлбрейк LLM и ИИ для обучения роботов