В России набирает распространение новый формат мошенничества, в котором злоумышленники объединяют методы социальной инженерии с возможностями искусственного интеллекта. О рисках и способах защиты рассказал руководитель группы исследований технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов.
По словам специалиста, технологии ИИ сегодня применяются практически на всех этапах кибератак — от первого контакта с потенциальной жертвой до создания вредоносного программного обеспечения. Злоумышленники используют нейросети для генерации фишинговых сайтов, разработки программ-вымогателей и проведения сложных целевых атак.
Эксперт отметил, что всё чаще фиксируются случаи применения ИИ для создания дипфейков — поддельных аудио- и видеосообщений, с помощью которых мошенники пытаются получить доступ к персональным данным или финансовым средствам пользователей.
Среди примеров подобных угроз он назвал использование технологий при создании вредоносного ПО, включая FunkSec, а также инструменты, применяемые в атаках уровня группировки Bluenoroff.
Широкое распространение чат-ботов и сервисов на базе искусственного интеллекта также повышает вероятность утечек данных. Даже официальные платформы могут столкнуться с уязвимостями из-за ошибок конфигурации или кибератак, однако особую опасность представляют малоизвестные сервисы и бесплатные версии ИИ-приложений.
По словам эксперта, многие такие платформы не раскрывают политику конфиденциальности, а введённые пользователем данные теоретически могут использоваться для обучения алгоритмов или оказаться в открытом доступе.
Он привёл пример ресурса, предоставлявшего доступ к чат-боту, где переписки пользователей публиковались публично без их ведома. Поэтому перед загрузкой информации важно оценивать её конфиденциальность и возможные последствия.
Специалист рекомендует соблюдать базовые правила цифровой безопасности:
По словам специалиста, технологии ИИ сегодня применяются практически на всех этапах кибератак — от первого контакта с потенциальной жертвой до создания вредоносного программного обеспечения. Злоумышленники используют нейросети для генерации фишинговых сайтов, разработки программ-вымогателей и проведения сложных целевых атак.
Эксперт отметил, что всё чаще фиксируются случаи применения ИИ для создания дипфейков — поддельных аудио- и видеосообщений, с помощью которых мошенники пытаются получить доступ к персональным данным или финансовым средствам пользователей.
Среди примеров подобных угроз он назвал использование технологий при создании вредоносного ПО, включая FunkSec, а также инструменты, применяемые в атаках уровня группировки Bluenoroff.
Риски при использовании ИИ-сервисов
Широкое распространение чат-ботов и сервисов на базе искусственного интеллекта также повышает вероятность утечек данных. Даже официальные платформы могут столкнуться с уязвимостями из-за ошибок конфигурации или кибератак, однако особую опасность представляют малоизвестные сервисы и бесплатные версии ИИ-приложений.
По словам эксперта, многие такие платформы не раскрывают политику конфиденциальности, а введённые пользователем данные теоретически могут использоваться для обучения алгоритмов или оказаться в открытом доступе.
Он привёл пример ресурса, предоставлявшего доступ к чат-боту, где переписки пользователей публиковались публично без их ведома. Поэтому перед загрузкой информации важно оценивать её конфиденциальность и возможные последствия.
Как защититься от мошенников с ИИ
Специалист рекомендует соблюдать базовые правила цифровой безопасности:
- включать двухфакторную аутентификацию на всех сервисах;
- не переходить по подозрительным ссылкам;
- использовать уникальные сложные пароли и менеджеры паролей;
- проверять личность собеседника при получении аудио- или видеосообщений, особенно если речь идёт о переводе денег;
- не передавать чат-ботам корпоративные или личные конфиденциальные данные.