Компании вынуждены проверять кандидатов на дипфейки из-за роста ИИ-мошенничества на работе
Новая угроза кибербезопасности
По мере распространения технологий генеративного искусственного интеллекта растут не только внешние угрозы в сфере кибербезопасности, но и внутренние. Компании, которые исторически полагались на традиционные методы защиты от кибератак изнутри, теперь вынуждены сталкиваться с новыми вызовами, которые возникли благодаря ИИ.
Масштабная кибератака через синтетических сотрудников
Раскрытая в прошлом году деятельность северокорейской группировки хакеров показала, насколько изобретательными могут быть организаторы кибератак на инфраструктуру американских компаний. Злоумышленники внедрились в более чем 100 компаний на территории США под видом более чем 80 американских граждан, чьи персональные данные были похищены. Активность хакеров позволила выручить более $5 млн. По итогам расследования были арестованы 8 граждан США, которые содействовали северокорейским хакерам, размещая в жилых помещениях на американской территории «фермы ноутбуков».
Статистика и риски для бизнеса
По статистике оператора связи Verizon, из 22 000 инцидентов в сфере кибербезопасности в мире примерно 12% имели отношение к атакам на инфрастивную инфраструктуру компаний изнутри. Злонамеренные действия от атакующих внутри компании исторически причиняли самый серьёзный ущерб. Самые серьёзные инциденты в этой сфере могут обходиться бизнесу в сумму от $1 млн до $10 млн.
Системы генеративного ИИ позволяют создавать «синтетических инсайдеров», выдающих себя за реальных сотрудников компании, в случае необходимости похищая их внешность и голос с помощью цифровых технологий. Компании в таких условиях усилили отбор потенциальных соискателей на замещение вакансий, привлекая специалистов по безопасности.
Конкретные случаи обнаружения дипфейков
Кибермошенники начали использовать искусственный интеллект и дипфейки для трудоустройства в компании под видом настоящих сотрудрудников. В польской компании Vidoc Security Lab (VSL) дважды выявляли фальшивых кандидатов, успешно прошедших этапы собеседований.
Одного из кандидатов нашли из-за несоответствия акцента и указанной им страны происхождения. Подозрения подтвердились при видеособеседовании, когда выяснилось, что изображение кандидата выглядело неестественно. Позже похожая ситуация произошла с другим кандидатом, который представился как сербский разработчик с девятилетним опытом и обширной сетью контактов.
Методы противодействия угрозам
Трудоустройство на удаленную работу под личностью другого чаcела, созданной при помощи технологии дипфейка, потенциально дает преступнику возможность получить учетные записи и другую значимую информацию. Эксперты поясняют, что бороться с дипфейками на этапе удалённых собеседований можно довольно простыми методами.
Достаточно попросить соискателя помахать рукой или повернуть голову в сторону, чтобы с высокой вероятностью выявить подлог. Подозрительная активность работающих на удаленке сотрудников должна мониториться специализированным ПО. В 62% случаев инциденты в сфере информационной безопасности имели место в результате человеческой ошибки или утечки учётных данных.
Представители экспертов о рисках
Руководитель отдела привлечения талантов компании F.A.C.C.T. Людмила Гвоздева отмечает, что в будущем использование дипфейков при трудоустройстве возможна для компаний, где процесс оформления сотрудников происходит полностью удаленно. Интернет-аналитик и эксперт компании «Газинформсервис» Марина Пробетс считает, что появление таких угроз в России является вопросом времени.
Представители Google подчёркивают, что так называемое «теневое использование ИИ» сотрудниками также представляет угрозу для защиты информации компаний. Если чувствительная информация загружается в чат-бот, она потом легко может стать достоянием злоумышленников. На корпоративном рынке появляется всё больше ПО, призванного следить за сохранностью конфиденциальных данных в условиях повального внедрения ИИ.
