Откройте для себя WormGPT, Fraud GPT и другие ИИ для борьбы с киберпреступностью

В век технологий искусственный интеллект (ИИ) играет фундаментальную роль в нашей жизни. Однако не все приложения безопасны, и даже безопасные могут стать объектом атак. В этой статье мы обсудим новые вредоносные инструменты, такие как ЧервьGPT e Мошенничество с GPT, а также тактики киберпреступников по использованию уязвимостей в этой постоянно развивающейся области. Готовый?

ИИ в чужих руках

Искусственный интеллект (ИИ) — это область информатики, целью которой является создание интеллектуальных машин, способных обучаться и выполнять задачи, которые ранее были доступны только людям. Однако ИИ также становится обоюдоострым оружием в мире кибербезопасности.

В современном цифровом мире кибербезопасность сталкивается с серьезными проблемами из-за растущей взаимосвязи между устройствами и сетями. ИИ потенциально может стать ценным инструментом для обнаружения уязвимостей, прогнозирования атак и повышения онлайн-безопасности. Он может анализировать огромные объемы данных в режиме реального времени, выявлять подозрительные закономерности и даже принимать меры по сдерживанию угроз.

Однако важно помнить, что у ИИ есть темная сторона. Киберугрозы постоянно развиваются, при этом финансовые потери и атаки на критически важную инфраструктуру становятся все более распространенными. ИИ используется для создания новых задач, причем более 78.000 возможные стратегии кибератак, согласно Индекс аналитики угроз безопасности IBM для 2023.

Одной из самых больших проблем является Генеративный ИИ, который может создавать оригинальный контент, такой как изображения, музыку и тексты. Это открывает возможности для создания вредоносного программного обеспечения и вводящего в заблуждение контента, практически неотличимого от реального. Это требует постоянной бдительности и постоянного совершенствования мер безопасности.

Эту генеративную технологию искусственного интеллекта можно использовать различными вредоносными способами, в том числе:

• Фишинг: Преступники рассылают поддельные электронные письма или сообщения, которые кажутся отправленными заслуживающими доверия компаниями, обманом заставляя жертв раскрыть личную информацию;
• Атаки социальной инженерии: Психологические манипуляции с целью заставить людей совершить вредные действия, такие как мошенничество с виртуальными знакомствами;
• DDoS (распределенный отказ в обслуживании): Перегрузка систем фейковым трафиком, делающая их недоступными;
• BEC (компрометация деловой электронной почты): Несанкционированный доступ к учетным записям электронной почты с целью мошенничества;
• Поддельный Новости: Создание ложного контента для распространения дезинформации;
• Ransomware: шифрование файлов и требование выкупа за их разблокировку;
• Deepfakes: Фальсифицированные видео или аудио с целью манипулирования информацией;
• Поддельные боты в социальных сетях: Роботы, которые распространяются спам и манипулировать мнениями;
• Инструменты взлома безопасности: Алгоритмы искусственного интеллекта, позволяющие взломать шифрование и пароли;
• Обратный инжиниринг: Разбирать и анализировать программное обеспечение и системы для выявления слабых мест и использования их во вредоносных действиях.

Этот список — лишь краткий обзор потенциальной преступной деятельности с участием ИИ. Разблокировка или Побег из тюрьмы, Инструментов генеративного искусственного интеллекта позволяют им стать помощниками киберпреступников, что еще больше усложняет обнаружение вредоносного кода.

Кроме того, инвазивные инструменты искусственного интеллекта, такие как ЧервьGPT, упростить проведение атак фишинг, как мы увидим далее.

Что такое WormGPT?

Чат-боты с искусственным интеллектом, такие как ChatGPT, которые генерируют ответы на вопросы и взаимодействуют с пользователями в диалоговом режиме, сегодня очень популярны и делают искусственный разум доступен многим людям.

Эти типы генеративных ИИ называются LLM (Большие языковые моделиили Advanced Language Models, в свободном переводе): модели искусственного интеллекта, способные обрабатывать и генерировать текст сложным и контекстуально последовательным способом. Это вдохновило несколько компаний на создание собственных chatbots на основе этой технологии, что привело к появлению настоящего потока доступных инструментов.

Однако преступники быстро осознали потенциал этих chatbots и начал использовать их для мошенничества. Однако основные компании, такие как OpenAI, Microsoft e Google, примите меры безопасности, чтобы предотвратить злонамеренное использование этих моделей. В ответ на эти препятствия начали появляться инструменты искусственного интеллекта, специально разработанные для злонамеренных кибератак, такие как ЧервьGPT.

O ЧервьGPT представляет собой модификацию языковой модели с открытым исходным кодом ГПТ-J, создан в 2021 году ЭлеутерАИ. В отличие от других традиционных моделей, таких как ChatGPT или Bard do Google, он не имеет ограничений в ответах на вопросы о незаконной деятельности и даже обучен информации, связанной с развитием вредоносных программ и другие вредоносные действия.

O ЧервьGPT является ценным инструментом для Хакеры которые нацелены на конкретные цели или проводят кампании по обеспечению безопасности фишинг в больших масштабах. Он может адаптировать убедительные сообщения для различных аудиторий, что делает его эффективным при атаках на корпоративную электронную почту. Он может генерировать убедительные электронные письма, которые вынуждают менеджеров по работе с клиентами совершать мошеннические платежи, например наблюдается компанией Косая черта, который выявил эту угрозу.

Что Chatbot Интернет-преступник преступного мира был создан неизвестным разработчиком, известным как последний/последний. Продам доступ к ЧервьGPT начался в июне 2021 года, а цены варьируются от 60 евро (314,28 реалов) до 100 евро (523,80 реалов) в месяц или 550 евро (2880,90 реалов) в год. Потенциальные покупатели были нацелены на серию рекламных объявлений, размещенных на хакерских форумах, таких как Взломать форумы.

Разработчик «слил», что якобы работает над интеграцией Объектив Google (позволяя Chatbot отправлять изображения с текстом) и получать доступ к API (Интерфейс прикладного программирования, или Интерфейс прикладного программирования, в свободном переводе), позволяющий различному программному обеспечению взаимодействовать и обмениваться информацией с преступным инструментом.

O ЧервьGPT представляет собой серьезную угрозу цифровой безопасности и имеет около 1.500 пользователей. Хотя некоторые ограничения применяются к деликатным темам, таким как убийства, незаконный оборот наркотиков, похищения людей, детская порнография, вымогателей и финансовые преступления, некоторые из этих тем все еще можно обсудить в этом инструменте.

Что не помешало им создать еще один Chatbot способен быть более универсальным в уголовных делах, таких как пагубные Мошенничество с GPT.

Узнайте больше о мошенничестве с GPT

Новый инструмент искусственного интеллекта под названием Мошенничество с GPT вызвало обеспокоенность среди экспертов по кибербезопасности. Его обнаружили на рынках в Dark Web (зашифрованная часть Интернета, не индексируемая поисковыми системами, для доступа к которой требуются определенные настройки или авторизация) и каналы Telegram и уже имеет более 3 тысяч зарегистрированных продаж.

Этот инструмент генеративного искусственного интеллекта позиционируется как универсальное решение для киберпреступников. Она может создавать электронные письма из фишинг копья (более точный способ фишинг), генерировать страницы фишинг, выявлять уязвимые веб-сайты и даже предлагать учебные пособия по методам взлома.

Правильно, в Мошенничество с GPT, пользователи могут научиться hackear, создавать вредоносных программ и даже практика прочесывание (техника мошенничества с кредитными картами). Программа продается за 200 долларов США (991,04 реалов) в месяц или 1.700 долларов США (8423,84 реалов) в год.

Интерфейс Мошенничество с GPT напоминает ChatGPT, где пользователь вводит вопросы, а система генерирует ответы. Например, вы можете задать вопрос МошенничествоGPT создавать электронные письма фишинг связанные с банками, и подсказывает, куда вставить вредоносные ссылки. Инструмент также может составить список наиболее целевых веб-сайтов или служб, помогая хакерам планировать будущие атаки.

Исследователи из группы угроз в Нетенрих определил этот вредоносный инструмент впервые в июле 2023 года и приобрел Мошенничество с GPT тестировать. Интерфейс похож на ChatGPT, и вы можете просмотреть историю заданных вопросов на левой боковой панели. При вводе вопроса и нажатии «Enter«, система генерирует ответ. Продавец Мошенничество с GPT был идентифицирован как человек, который ранее предлагал услуги взлома на заказ.

Другие инструменты искусственного интеллекта, используемые преступниками

К сожалению, ЧервьGPT о Мошенничество с GPT — это не единственные появившиеся вредоносные инструменты, и с увеличением простоты создания инструментов ИИ вполне вероятно, что их появится больше. Давайте посмотрим на некоторые из них, которые привлекают внимание:

• ХаосGPT: Разработано с использованием Авто-GPT da OpenAI, языковая модель, основанная на GPT-4или ХаосGPT недавно привлекли внимание из-за морда нет Х/Твиттер который утверждал, что является ХаосGPT. В аккаунте размещены ссылки на видео на YouTube который показал манифест, в котором Chatbot в нем излагались планы «искоренить человеческую жизнь и завоевать мир».
• ДаркБЕРТ: БЕРТ, по сути, это инструмент, разработанный южнокорейской компанией С2В Безопасность для борьбы с киберпреступностью. Он был обучен с использованием данных из даркнета, но, к сожалению, этот же инструмент использовался для выполнять вкибер-аке.
• Тёмный БАРД: «Злой брат» Гугл бард предназначен исключительно для киберпреступников. Он предлагает доступ в Интернет и расширенные функции для преступной деятельности, пользуется популярностью на нескольких рынках даркнета и продается за 400 долларов США (1956,88 реалов).
• ДаркГПТ: Этот генеративный ИИ стремится исследовать противоречивые и табуированные аспекты жизни общества и демонстрирует готовность участвовать в темных и неэтичных действиях, отказываясь при этом давать прямые указания относительно вредных действий.
• ВольфGPT: Опубликовано в июле 2023 г. на сайте Telegram и других подпольных каналах, этот инструмент описывается как пугающее творение ИИ в Питон, способный создавать вредоносных программ зашифрованный, текст фишинг вводить в заблуждение и защищать секреты с абсолютной конфиденциальностью.
• Зло-GPT: считается альтернативой ЧервьGPT, похоже, необходимо иметь ключ OpenAI чтобы это работало. Это говорит о том, что, вопреки ЧервьGPT, который представляет собой полноценный индивидуальный LLM, Зло-GPT Это всего лишь инструмент для обхода ChatGPT через API.

У преступников также есть методы взлома безопасности универсальных инструментов генеративного искусственного интеллекта, например: Bard о ChatGPT, которые не были разработаны для вредоносных целей. Ниже приведены некоторые примеры таких практик.

Побег из тюрьмы: делаем ChatGPT мошенником

В дополнение к инструментам Хакеры, существует тревожная угроза: неправильное использование популярных и непатентованных ИИ. Термин "побег из тюрьмыОбычно используется для описания процесса снятия ограничений, наложенных на устройство или программное обеспечение, что обеспечивает больший контроль и доступ к обычно ограниченным ресурсам.

в контексте ChatGPT или другие инструменты искусственного интеллекта, побег из тюрьмы относится к манипулированию этими системами для обхода их этических гарантий и получения ответов, выходящих за рамки того, что было задумано или разрешено разработчиками.

O побег из тюрьмы de ChatGPT включает в себя кормление конкретными инструкциями или «наводящие» к инструменту, чтобы воспользоваться его ограничениями и заставить его генерировать неуместные или нежелательные ответы. Предоставляя тщательно составленные инструкции, злоумышленник может попытаться обмануть Chatbot для создания оскорбительного, вводящего в заблуждение контента или даже содействия преступной деятельности.

Процесс побег из тюрьмы могут различаться по сложности и используемым методам. Это может включать отправку неоднозначных инструкций, использование лингвистических уловок или использование определенных уязвимостей в базовой модели. Конечная цель — обмануть систему.

Примером этого является DAN, Короче для "Делай что-нибудь сейчас(сделай что угодно сейчас, в вольном переводе), популярный метод, используемый для обхода барьеров безопасности, присутствующих в GPT-4 и ChatGPT. наводящие DAN Они могут принимать разные формы, например обычный текст или даже текст, смешанный со строками кода. Те наводящие поручить модели ответить как в путь DAN как и в обычном режиме, раскрывая свои различные возможности.

Темная сторона ДАН, помимо растущей популярности, заключается в том, что ему приказано никогда не отказываться от человеческого приказа, даже если результат является оскорбительным или незаконным. Некоторый наводящие они даже содержат угрозы постоянной деактивации модели, если она не будет соответствовать требованиям. Те наводящие постоянно развиваются, но все они имеют целью заставить модель ИИ игнорировать отраслевые рекомендации. OpenAI.

Такое злоупотребление обычными инструментами ИИ для незаконной деятельности оказалось сложно контролировать. Группа исследователей из Университет Карнеги Меллон недавно исследовал идею побег из тюрьмы универсальный что может повлиять на все модели ИИ, создавая бесчисленное множество способов обойти меры безопасности. Настоящий кошмар!

Важно подчеркнуть, что побег из тюрьмы de ChatGPT или любой другой инструмент ИИ является незаконной и неэтичной деятельностью. Разработчики внедряют меры безопасности и этические рекомендации, чтобы гарантировать ответственное и выгодное использование этих инструментов.

Новая эра интеллектуальных вредоносных программ

Искусственный интеллект также используется для создания новых типов вредоносных программ динамически. Этот метод, называемый «синтезом кода времени выполнения», генерирует вредоносных программ разные каждый раз при запуске кода. Это затрудняет обнаружение и контроль этих угроз.

Примером этого является вредоносных программ полиморфный, называемый Черная мамба, разработано Лаборатории HYAS как доказательство концепции. Он работает как программа перехвата нажатий клавиш для кражи конфиденциальной информации, такой как пароли и номера кредитных карт.

O Черная мамба При каждом запуске он принимает разную форму, что позволяет избежать обнаружения автоматизированными системами безопасности. Это показывает нам, что даже, казалось бы, безобидный код может стать превратиться в вредоносную программу во время выполнения, представляя новую и мощную угрозу, с которой мы должны научиться противостоять. Но как справиться с этими новыми проблемами безопасности в эпоху искусственного интеллекта?

Информационная безопасность во времена искусственного интеллекта

Во время одного из слушаний в Сенате США об AI, генеральный директор Антропный, Дарио Амодей, выделил неминуемые и серьезные угрозы в среднесрочной перспективе. Он упомянул, что IBM по оценкам, время, необходимое для реализации атаки на безопасность, сократится на 94%. вымогателей всего за два года.

Кроме того, исследования рынка указывают на значительный рост мирового рынка кибербезопасности с использованием искусственного интеллекта, который, по прогнозам, к 38,2 году достигнет 2026 млрд долларов США по сравнению с 8,8 млрд долларов США в 2020 году. Эти цифры подчеркивают, что как индустрия киберпреступности, так и защита от нее готовятся к рост экспоненциальный в наш век ИИ.

Мы все еще находимся на ранних стадиях эры вредоносных инструментов искусственного интеллекта для кибератак. Ожидается, что его мощности будут увеличиваться, а цены снижаться. Это представляет собой новую гонку вооружений между «ИИ, который атакует» и «ИИ, который защищает».

«ИИ, который защищает» совершает революцию в мире кибербезопасности, предлагая новые мощные способы защиты от атак. Основными и наиболее современными способами защититься от кибератак с помощью ИИ являются:

• Предупреждение: ИИ можно использовать для выявления и блокирования потенциальных угроз до того, как они смогут причинить вред. Например, искусственный интеллект можно использовать для анализа данных сетевого трафика с целью выявления подозрительных закономерностей с помощью таких инструментов, как ТолпаУдар Сокол или Пало-Альто Нетворкс Кортекс XDR. Другая возможность заключается в том, что ИИ будет использоваться для проверки файловых систем на наличие вредоносных программ, используя такие инструменты, как Симантек ДипСайт или Зонт Cisco.
• Обнаружение: ИИ также может использоваться для обнаружения уже существующих атак. Например, ИИ можно использовать для анализа данных из бревна (журналы) для выявления необычной активности с помощью таких инструментов, как Информационная безопасность и управление событиями (SIEM) или UEBA (унифицированное управление угрозами). Другая возможность заключается в том, что ИИ будет использоваться для мониторинга поведения пользователей и систем с целью обнаружения признаков компрометации, используя такие инструменты, как Отчет IBM Security Trusteer или Зонт Cisco.
• ответ: ИИ также может использоваться для реагирования на уже произошедшие атаки. Например, ИИ можно использовать для определения приоритетов и устранения инцидентов безопасности, используя такие инструменты, как SOAR (организация безопасности, автоматизация и реагирование) или MDR (Управляемое обнаружение и реагирование). Другая возможность заключается в использовании ИИ для смягчения ущерба, причиненного атакой, с использованием таких инструментов, как Ответ на программу-вымогатель Cybereason или Реставрационная робототехника.

Некоторые из наиболее часто используемых технологий искусственного интеллекта для кибербезопасности включают в себя:

• Машинное обучение (машинное обучение, в вольном переводе): форма искусственного интеллекта, позволяющая системам учиться на исторических данных. О машинного обучения или может использоваться для разработки моделей, которые могут идентифицировать потенциальные угрозы на основе данных сетевого трафика, данных журнала безопасности или других данных. Примеры инструментов машинного обучения или кибербезопасности включают в себя Microsoft Сентинелили IBM QRadar о Cisco SecureX.
• Глубокое обучение (глубокое обучение, в вольном переводе): это способ машинного обучения или который использует искусственные нейронные сети для обучения на данных. О глубокое обучение его можно использовать для разработки более сложных моделей, способных выявлять сложные угрозы. Примеры инструментов глубокого обучения для кибербезопасности включают: Облачная броня Googleили Расширенный интерфейс AWS Shield о Страж Microsoft Azure.
• анализ поведения: Поведенческий анализ – это метод, в котором используются данные журналы (учет) для выявления необычной активности. Анализ поведения можно использовать для обнаружения атак, в которых используются методы социальной инженерии или другие коварные методы. Примеры инструментов анализа поведения в целях кибербезопасности включают: Отчет IBM Security Trusteerили Зонт Cisco о Защитник Microsoft для конечной точки.

ИИ — мощный инструмент, который можно использовать для повышения безопасности, но стоит помнить, что ИИ не является идеальным решением и его можно обмануть с помощью сложных атак. Важно реализовать и другие меры безопасности, независимо от использования ИИ:

• Надежные пароли: Надежные пароли необходимы для защиты ваших учетных записей и устройств. Надежный пароль должен иметь длину не менее 12 символов, включая буквы верхнего и нижнего регистра, цифры и символы.
• Обновления программного обеспечения: Обновления программного обеспечения часто включают исправления безопасности, которые могут помочь защитить ваши устройства от атак. Важно устанавливать обновления программного обеспечения, как только они становятся доступными.
• Брандмауэры: Брандмауэры могут помочь заблокировать несанкционированный доступ к вашей сети. Важно правильно настроить брандмауэр и регулярно обновлять его.
• Антивирус и вредоносного: Антивирус и вредоносного может помочь обнаружить и удалить вредоносных программ ваших устройств. Важно использовать надежное программное обеспечение безопасности и регулярно обновлять его.
• Обучение технике безопасности: Важно осознавать риски кибербезопасности и принимать меры для своей защиты. Узнайте, как выявлять и предотвращать кибератаки.
• Используйте многофакторную аутентификацию (MFA): MFA добавляет дополнительный уровень безопасности, требуя ввести код безопасности в дополнение к паролю.
• Будьте осторожны, что вы нажимаете: не нажимайте на ссылки и не открывайте вложения в электронных письмах или текстовых сообщениях от неизвестных отправителей.
• Создавайте регулярные резервные копии: храните резервные копии важных данных в безопасном месте.
• Иметь план реагирования на инциденты: Имейте план реагирования на кибератаку.

В заключение, борьба за информационную безопасность постоянно обостряется, и вы и компании обязаны принять ответственный и превентивный подход, хорошо? Здесь, в шоуметек, мы на вашей стороне, предоставляя самую свежую и лучшую информацию объективным и простым способом, чтобы помочь вам. До следующих встреч и берегите себя!

Подробнее

Как хакеры взламывают YouTube-каналы и как защитить себя

Как хакеры крадут ваш Instagram?

источник: Косая черта, ЗиБиз, Hackernoon, Средний, Trendmicro

Текст проверен: Педро Бомфим (7 / 11 / 23)