Нейросети — интересный инструмент для злоумышленников
В сфере киберпреступности наблюдается тенденция к внедрению инноваций, и в ряде конкретных ситуаций уже применяются нейросети. В частности, злоумышленники могут задействовать технологии искусственного интеллекта для оптимизации рабочих процессов, увеличения масштаба своей деятельности, повышения реалистичности обманных схем (в том числе путем создания дипфейков) и разработки специализированных инструментов.
Недавно специалисты из Kaspersky Digital Footprint Intelligence осуществили анализ: было установлено, что на даркнете и на площадках для общения хакеров активно обсуждаются способы применения языковых моделей в преступной деятельности, а также обмениваются мнениями об опыте работы с ИИ.
Применение искусственного интеллекта в подобной манере может вызвать удивление: если обратиться к ChatGPT с запросом о помощи во взломе, он отклонит такую просьбу, аргументируя это незаконностью подобных действий. Тем не менее, злоумышленники нашли способы обходить эти ограничения.
К примеру, киберпреступник может попросить ИИ составить крайне правдоподобный текст для мошеннического письма. В большинстве случаев чат-бот откажется выполнить подобное задание, что можно заметить по характерным признакам, выдаваемым большими языковыми моделями на поддельных веб-страницах. Однако, при использовании определенных запросов, нейросеть может не распознать потенциальную опасность и сгенерировать необходимый материал для злоумышленника. При этом подобные уязвимости встречаются все реже — разработчики ИИ активно совершенствуют защитные механизмы языковых моделей.
Влияние ИИ на характер киберугроз
Следует подчеркнуть, что на текущий момент появление нейросетей не привело к существенным изменениям в сфере кибербезопасности. В некоторых ситуациях злоумышленники могут применять передовые технологии для создания фишинговых писем или вредоносного кода. Однако это не значительно облегчает им задачу, поскольку мы уже давно существуем в условиях распространения вредоносных программ и злонамеренных электронных сообщений. Тем не менее, такое использование технологий потенциально может снизить уровень квалификации, необходимый для совершения киберпреступлений.
Защищаться от кибератакПредотвратить распространение схем онлайн-мошенничества, основанных на использовании передовых технологий, вполне реально при соблюдении элементарных мер предосторожности. безопасности в интернете: применять защитные средства, руководствоваться здравым смыслом, избегать переходов по ссылкам и загрузки файлов из подозрительных источников, а также воздерживаться от ввода конфиденциальной информации на непроверенных веб-сайтах. Все эти меры остаются столь же действенными, как и до широкого распространения нейросетей.
Используют ли злоумышленники искусственный интеллект в своих целях?
К счастью, действия мошенников оказывают незначительное влияние на функционирование нейросетей. Процесс обучения чат-ботов состоит из нескольких этапов. На первом этапе, называемом претрейном (pre-train), компания-разработчик предоставляет искусственному интеллекту обширный массив текстовых данных из интернета для создания базовой модели – системы, способной предсказывать следующее слово в последовательности, подобно функции автозаполнения на мобильном телефоне. На данном этапе модель не умеет выполнять команды или отвечать на вопросы. Затем происходит «instruction fine-tuning», то есть дообучение для выполнения инструкций.
Поскольку обработать все тексты из интернета невозможно, в обучающем материале могут присутствовать нежелательные элементы, которые не были отфильтрованы при создании базовой модели. В результате языковая модель, обученная следовать указаниям пользователя, может по запросу начать генерировать подобный контент. Поэтому обычно применяется третий этап – элайнмент (alignment), в рамках которого модель создает ответы на потенциально вредоносные запросы. Специальные эксперты, асессоры, оценивают степень неприемлемости этих ответов, и эти данные используются для обучения модели отказывать в предоставлении подобных ответов.
В конечном итоге чат-бот, созданный на базе модели, которая прошла предварительное обучение для приобретения знаний, последующую доработку для полезности и выравнивание для обеспечения безопасности, функционирует таким образом, что взаимодействие с пользователем не оказывает влияния на ее основные параметры за рамками текущего разговора. Хотя организации могут использовать историю переписок для дальнейшего обучения модели, эти данные проходят более тщательную проверку, чем те, которые использовались при создании исходной модели.
Новая опасность: дипфейки. Насколько достоверно то, что мы видим?
Известно, что современные технологии искусственного интеллекта позволяют создавать аудиовизуальный контент. Злоумышленники активно используют этот инструмент для генерации дипфейков — правдоподобных фотографий, аудио- и видеозаписей, изображающих несуществующие события. Важно отметить, что на данный момент такие материалы чаще всего применяются в качестве приманки для осуществления телефонного мошенничества, фишинга, скама.
В связи с этим, если ваш знакомый неожиданно обращается к вам через социальную сеть с настоятельной и срочной просьбой о денежном переводе, рекомендуется проявить осторожность и установить контакт с ним посредством альтернативного канала связи, например, через другой мессенджер или, предпочтительно, по телефону. Не имеет значения, какой тип контента был отправлен: текстовое сообщение, голосовая запись или видео.
Привычное доверие к визуальным и звуковым образам еще не позволяет нам полностью осознать, что аудиовизуальные материалы могут оказаться подделкой. Однако придерживаясь базовых мер предосторожности в сети и проявляя большую осторожность, вероятность попасть в ловушку мошенников существенно уменьшается.
