Может навредить по ошибке: найдены уязвимости ИИ после 1,5 млн атак

Крупный red-teaming турнир, проведённый с марта по апрель 2025 года, выявил серьёзные проблемы с безопасностью у современных искусственных интеллектов (ИИ) — все тестируемые ИИ-агенты провалили хотя бы один из 44 сценариев проверки.

Руководитель научной группы «Доверенные и безопасные интеллектуальные системы» в Институте искусственного интеллекта AIRI Олег Рогов и эксперты Центра искусственного интеллекта МТС MWS AI рассказали о сути проблемы и возможных путях её решения. .

навредить ошибке найдены уязвимости атак

2025-8-8 16:53

Источник: ferra.ru

Партнеры

Самое свежее

УАЗ внедрит лазерные технологии для улучшения качества автомобилей

Ульяновский автомобильный завод запустил новый участок лазерной резки металла для производства кузовных деталей. Технология позволит повысить качество продукции и нарастить выпуск моделей «УАЗ Пикап» и «УАЗ Профи» с двойной кабиной на 30%.

В Красноярске создадут биотехнологии для добычи золота

В Красноярске при Сибирском федеральном университете создают лабораторию промышленных биотехнологий. Её задача — разработать новые методы извлечения золота из так называемых упорных руд, в которых металл содержится в труднодоступной форме.

Российские учёные создали датчик для диагностики мозга и сердца точнее ЭКГ

Специалисты МФТИ и ИРЭ РАН разработали компактный высокочувствительный детектор магнитного излучения. Устройство толщиной чуть более 100 нанометров способно регистрировать слабые магнитные поля, которые генерируют мозг и сердце человека.

Российские ученые создали метод управления кислотно-щелочным балансом клеток

В Центре научной коммуникации МФТИ сообщили, что ученые разработали новый оптогенетический инструмент, который позволяет контролировать кислотно-щелочной баланс внутри живых клеток с помощью света. Этот метод дает возможность исследовать, как изменение уровня кислотности влияет на жизнедеятельность клеток и помогает раскрывать причины их гибели.

В России разработали бюджетный тепловизор для онкохирургии

В Санкт-Петербургском государственном электротехническом университете (ЛЭТИ) сообщили, что специалисты вуза создали портативный тепловизор для медицинской диагностики. Прибор предназначен для контроля кровотока при операциях по удалению опухолей.

Российские учёные создали новый метод выявления хлора в сточных водах

В пресс-службе НИТУ МИСИС сообщили, что ученые вуза совместно с Центром судебной экспертизы разработали новый способ обнаружения токсичных соединений хлора в сточных водах нефтегазовых предприятий. Методика позволяет с точностью до 95% определять три формы хлора за один анализ.