В Беларуси растет число секторов экономики, где в разной степени применяются технологии на основе искусственного интеллекта (ИИ). Банковский сектор поэтапно внедряет чат-боты, в машиностроении экспериментируют с беспилотными системами управления, используют ИИ и дроны для анализа состояния почвы и урожая

Как отметил ведущий научный сотрудник лаборатории анализа биомедицинских изображений ОИПИ НАН Беларуси Василий Ковалёв, вопросы безопасности технологий, основанных на искусственном интеллекте, в контексте использования их в медицине могут в скором времени стать крайне актуальными.

— Например, уже сейчас мы видим риск возможности идентификации личности человека в базе данных, где хранятся медицинские показатели. Такие базы данных должны иметь высокий приоритет защиты, поскольку хранят множество персональных данных, которые не должны быть в общем доступе. Допустим, там находятся цифровые снимки легких, и при этом у нас нет изображения лица человека. Мы должны уметь корректно сравнивать снимки легких одного человека, между которыми может быть разница в месяц, год или 10 лет. Мы пропустили эти данные через ИИ, и оказалось, что вероятность идентификации молодых людей гораздо выше, чем вероятность идентификации пожилых. Также мы заметили, что идентифицировать женщин проще, чем идентифицировать мужчин. Таким образом, уже можно выработать практические рекомендации по установке системы безопасности, — отметил ученый. 

Также, по его словам, имеется еще одна заметная проблема по злонамеренной модификации изображений с целью введения в заблуждение искусственного интеллекта. 

— Благодаря экспериментам стало известно, что небольшие модификации исходных изображений, которые человек не может распознать своими глазами, приводят к тому, что нейросеть делает ошибки при принятии решений. Предположим, мы исследуем изображение на наличие онкологических заболеваний. При модификации таких изображений можно обнаружить или пропустить злокачественные образования. Таким образом, может быть совершена критическая ошибка, от которой будет зависеть жизнь человека. Если это проникнет в практику, то люди могут столкнуться с ужасными последствиями, — пояснил Василий Ковалёв.

Читайте подробнее на Беларусь сегодня