Дени Вильнев проработал в сфере кибербезопасности 15 лет, но редко когда угрозы, с которыми он сталкивался, ощущались настолько личными, как в наши дни.
Сотрудникам его технологической фирмы Kyndril, работающей на его рабочем месте, были отправлены фальшивые видео с генеральным директором Мартином Шрётером, призванные заставить их передать свои учетные данные мошенникам.
Вильнев также видел, как на приятеля, который руководит небольшой инженерной фирмой, охотились, когда его жене было оставлено голосовое сообщение, в котором он использовал звук, похожий на его голос, чтобы ложно сообщить, что у него проблемы и ему нужно, чтобы она быстро внесла залог.
«Я подумал: «О Боже мой». Это поразило меня очень сильно, потому что это мой хороший друг», — вспоминает Вильнев, руководитель практики кибербезопасности и устойчивости в Kyndril Canada.
Атаки стали возможными благодаря программному обеспечению на основе искусственного интеллекта, которое за последние годы стало еще более доступным, доступным и продвинутым.
Но, несмотря на угрозы кибербезопасности, Вильнев, как и большая часть технологической отрасли, старается не называть ИИ чем-то плохим.
Они считают, что в борьбе с кибератаками ИИ может как помочь, так и навредить.
«Это палка о двух концах», — объяснил Вильнев.
По мере совершенствования ИИ эксперты считают, что всегда будет более масштабный или инновационный способ пробиться через защиту компании, но эта защита также получает импульс от технологии.
«В конечном счете, искусственный интеллект гораздо лучше для защитников, чем для злоумышленников», — сказал Питер Сметни, региональный вице-президент по разработкам компании по кибербезопасности Fortinet Canada.
Его аргументация основана на огромном количестве атак, с которыми сталкиваются некоторые компании, и на ресурсах, необходимых для их предотвращения или отражения.
Исследование 60 канадских организаций, проведенное EY Canada в 2023 году, показало, что в четырех из пяти за последний год произошло как минимум 25 инцидентов кибербезопасности. Indigo Books & Music, London Drugs и Giant Tiger стали жертвами громких инцидентов.
Хотя не все кибератаки оказываются успешными, Сметни отметил, что многие компании ежедневно сталкиваются с тысячами попыток проникновения в их системы.
ИИ делает их обработку более эффективной.
«В вашей команде может быть всего четыре или пять человек, и количество предупреждений, которые они могут просмотреть вручную, ограничено, но это позволяет им сосредоточиться и подсказывает, каким из них следует расставить приоритеты», — сказал Сметни.
Без ИИ аналитику пришлось бы вручную проверять, связана ли каждая атака с адресом интернет-протокола — уникальным идентификатором, присваиваемым каждому устройству, подключенному к Интернету, что может помочь отследить источник атаки.
Аналитик также изучит, был ли уже известен компании человек, стоящий за этим адресом, и масштабы их атаки.
Благодаря искусственному интеллекту аналитик теперь может запрашивать программное обеспечение, используя простой язык, чтобы быстро собрать и представить всю информацию о злоумышленнике и его IP-адресе, в том числе о том, где он смог войти в систему и какие действия он совершил.
«Он действительно может сэкономить вам много времени и указать правильное направление, чтобы вы могли сосредоточиться на важных вещах», — сказал Сметни.
Но в арсенале злоумышленников есть те же инструменты.
Дастин Хейвуд, главный архитектор глобального разведывательного агентства IBM X-Force, сказал, что любой, у кого есть злонамеренные намерения, может обратиться к ИИ, чтобы помочь собрать данные о нескольких взломах и составить профиль цели.
Например, если данные говорят им, что кто-то часто покупает детские товары в Toys «R» Us или Walmart, это может сказать злоумышленнику, что у кого-то недавно родился ребенок.
Иногда злоумышленники прибегают к практике, известной как «забой свиней», чтобы заполнить недостающую информацию.
«У вас будет бот, который начнет с кем-то разговаривать, начнет строить отношения, используя такие вещи, как генеративный искусственный интеллект», — сказал Хейвуд. «Они заставят их почувствовать себя милыми и заслуживающими доверия, а затем они… начнут извлекать информацию».
Когда злоумышленники получают финансовые данные, номер социального страхования или достаточно личной информации для входа в учетную запись, эти данные могут быть использованы для ложной подачи заявки на получение кредитной карты или проданы другим преступникам.
Потенциальный вред возрастает еще сильнее, когда имеется достаточно хорошего материала для создания дипфейка, который представляет собой клип, в котором кто-то делает или говорит что-то, чего он не делал. Пример Вильнева, когда его друг, очевидно, оставил сообщение жене, является примером этой тактики.
Для небольших целей ИИ выполняет большую часть тяжелой работы, освобождая злоумышленникам возможность сосредоточить свое внимание на ценных жертвах.
«Вы можете заставить оператора бота разговаривать с 20 людьми одновременно», — сказал Хейвуд. «Раньше это была ферма людей в третьей стране, печатавших на мобильных телефонах».
Он также слышал о людях, использующих очки дополненной реальности, которые мгновенно извлекают информацию о ком-то, в том числе их личные данные, продаваемые в темной сети, как только вы на них смотрите, и о других, работающих над «взломом из тюрьмы» чат-ботов с искусственным интеллектом, которые извлекают личную информацию людей. ввели.
Эволюция атак убедила его в том, что ИИ «меняет правила игры».
«В 90-е годы подростки, дети и студенты колледжей взламывали веб-сайты, чтобы их разрушить», — сказал он. «А недавно мы перешли к программам-вымогателям, когда компании шифровали свои компьютеры».
Теперь акцент сместился на распознавание чьей-то личности, «действительно большой бизнес», по словам Хейвуда, ИИ получает дальнейшее развитие.
Канадский центр по борьбе с мошенничеством сообщил, что в первой половине года в стране насчитали 15 941 жертву мошенничества, в результате которых было потеряно 284 миллиона долларов. Годом ранее было 41 988 жертв и потеряно 569 миллионов долларов.
Хейвуд, Сметни и Вильнев считают, что борьба с злоумышленниками не бесполезна, и компании относятся к ней серьезно.
Их работодатели проводят учения для таких предприятий, как банки и крупные розничные торговцы, моделируя, что было бы, если бы их компании подверглись атаке, и помогали им готовить персонал к реагированию на угрозы, а также находить и исправлять уязвимости программного обеспечения.
По словам Хейвуда, нетрудно заставить компании принять меры, поскольку нарушение кибербезопасности может стоить компаниям в среднем 6 миллионов долларов и привести к падению акций, снижению продаж и разрыву отношений с клиентами.
Все, что они могут сделать, чтобы остановить нападение, того стоит, добавил он, потому что «доверие приобретается в дюймах, но теряется практически мгновенно».
Этот отчет The Canadian Press был впервые опубликован 20 октября 2024 года.