Ученые выявили уязвимость ИИ при поиске внеземной жизни
AI Изображение создано с помощью ИИ и носит иллюстративный характер
Искусственный интеллект может ошибаться в 100% случаев при идентификации признаков внеземной жизни. К такому выводу пришли исследователи из Университета штата Мичиган. Результаты эксперимента опубликованы 7 июля в журнале Popular Science. Об этом сообщает издание Togliatti24.
Компьютерный инженер Анкит Гупта совместно с Кристофом Адами провели исследование с программой Avida, которая симулирует эволюционные процессы. Нейросеть обучали на десятках тысяч цифровых организмов, чтобы она научилась отличать самовоспроизводящиеся цепочки от остальных.
Высокая точность на этапе обучения не помогла алгоритму при столкновении с новыми примерами. Всего 150 незначительных изменений в программном коде организмов привели к тому, что ИИ начал массово принимать ложные сигналы за признаки жизни.
Авторы исследования отмечают, что проблема шире космических миссий. Ложные срабатывания могут затронуть системы распознавания лиц, беспилотные автомобили и медицинские сканеры. Ученые подчеркивают: результаты не ставят крест на технологиях, но напоминают о необходимости человеческого контроля.
Адами указал на необходимость независимого способа проверки работы алгоритма. При этом он подчеркнул, что в этом цикле обязательно должен участвовать человек.
