Перейти к основному содержанию
Реклама
Прямой эфир
Общество
Против экс-замглавы Минобороны Иванова могут возбудить еще три дела
Спорт
Сергей Ковалев одержал победу над Артуром Манном и завершил карьеру
Армия
Минобороны сообщило об уничтожении двух БПЛА над Белгородской и Курской областями
Мир
СМИ узнали о разработанном США плане мониторинга прекращения огня
Мир
Госдеп не стал связывать сделку с Украиной по ископаемым с возможным перемирием
Мир
Экс-футболист «Монако» и сборной Хорватии Покривач погиб в ДТП в возрасте 39 лет
Наука и техника
В Китае запустили шесть спутников Shiyan-27 для исследования космоса
Мир
В США заявили о готовности признать Крым российским
Общество
Студенты притворялись иностранками и выманивали деньги на сайтах знакомств
Спорт
РФС пожизненно дисквалифицировал Мерзлюка и Симбаева за договорной матч 2024 года
Мир
В Эквадоре в результате стрельбы на петушиных боях погибло 11 человек
Происшествия
Спасатели извлекли тела мужчины и ребенка из озера в Смоленской области
Общество
РФ денонсировала договор со странами Скандинавии о сотрудничестве в Баренцевом море
Армия
Минобороны показало кадры боевой работы расчетов БПЛА тульских десантников
Общество
Вильфанд предрек Центральной России аномальное тепло до вторника
Общество
В Новосибирске осуждены шесть организаторов незаконных азартных игр
Общество
Патриарх Кирилл обратился к верующим с пасхальным посланием

Российские ученые создали новый метод для понимания решений ИИ

0
EN
Фото: ИЗВЕСТИЯ/Павел Волков
Озвучить текст
Выделить главное
Вкл
Выкл

Ученые из лаборатории исследований искусственного интеллекта (ИИ) T-Bank AI Research разработали метод, который позволяет определить, в какой момент ИИ начинает давать неправильные или нежелательные ответы, и скорректировать их.

Как рассказали в «Т-Технологиях», результаты исследования доступны в открытых источниках. Также их огласят на международной конференции по обучению представлениям (ICRL), которая пройдет в Сингапуре с 24 по 28 апреля.

«Наша задача не только сделать модели лучше, но и понять, как они работают изнутри. Представьте умного голосового помощника, который рекомендует фильмы. И вдруг он начинает выдавать недостоверную или даже грубую информацию. Сейчас изменить его поведение – сложная задача, ведь существующие методы не дают нам четкого понимания, где именно возникла проблема. Наши исследования в области интерпретируемости ИИ направлены на то, чтобы такие сбои можно было заметить и быстро исправить их без дорогостоящего переобучения модели», — рассказал Никита Балаганский, руководитель научной группы LLM Foundations, T-Bank AI Research.

Метод SAE Match направлен на то, чтобы сделать работу ИИ более прозрачной и понятной: человек сможет отслеживать, как модель обрабатывает информацию и почему она принимает те или иные решения. Это позволяет, в частности, контролировать процесс генерации текста, а не просто накладывать внешние ограничения или обучать модель на новых данных, что требует больших вычислительных ресурсов.

Ученые считают, что данное научное открытие сыграет важную роль при внедрении ИИ в критически важные сферы, такие как медицина, финансы и безопасность.

Читайте также
Прямой эфир