ChatGPT – продвинутый чат-бот, которому удалось сместить с пьедестала всеми известных Google Assistant и Siri и оказаться за считанные месяцы наиболее быстрорастущим сервисом в истории.
Хотя многие из нас уже сталкивались с технологиями ИИ, в начале этого года по всему миру стал набирать небывалую популярность именно ChatGPT. Сервис использует модель обработки естественного языка, которая позволяет ему хорошо понимать смысл написанного и писать тексты так, как это делал бы живой человек. И вроде бы это идеальное решение многих проблем, особенно порадовавшее школьников и студентов, однако оно кроет в себе немало подводных камней. Так ли безопасен ChatGPT, как это кажется на первый взгляд?
В отчете по безопасности Meta говорится о крайне широком распространении вредоносного программного обеспечения под видом ChatGPT и аналогичных ему сервисов на базе генеративного искусственного интеллекта¹. Только начиная с марта этого года аналитики по безопасности Meta обнаружили около 10-и семейств программ, выдающих себя за ChatGPT, и аналогичные инструменты для компрометации, то есть для взлома учетных записей пользователей в Интернете.
Как приводится в отчете, были распознаны, например, созданные злоумышленниками вредоносные расширения браузера². Они якобы предлагают пользователям инструменты, схожие по своей специфике с услугами, предоставляемыми чат-ботом ChatGPT. Фактически некоторые из этих расширений включали в себя всю рабочую функциональность ChatGPT наряду с вредоносным ПО³. И, что немаловажно, некоторые из них были представлены в виде браузерных плагинов⁴ и доступны для скачивания в официальных Интернет-магазинах.
Вероятно, именно то, что расширения обладали спектром функций реального ChatGPT и позволило избежать подозрений со стороны магазинов и самих пользователей. В результате этого неприятного открытия было заблокировано более 1000 уникальных вредоносных URL-адресов (ссылок) для совместного использования в приложениях Meta.
Однако подобные махинации не уникальны для генеративного пространства ИИ, ведь отрасль развивается так же быстро, как растут амбиции злоумышленников. В своё время набирало обороты, например, криптомошенничество, подпитываемое интересом к цифровой валюте. Поэтому главное – это оставаться бдительными!
Более того, скорость развития технологий ИИ вынуждает хитрецов стремительно развивать свою тактику в попытках избежать раскрытия и при этом еще обеспечить устойчивость программ.
Один из способов это реализовать – создать и распространить как можно больше платформ с целью защитить себя и свой сервис от давления со стороны какой-либо из служб. Было замечено, к примеру, как вредоносные программы используют для этого такие сервисы, как LinkedIn, браузеры (Chrome, Edge, Brave и Firefox), сокращения ссылок, файловые службы (Dropbox и Mega) и многое другое.
Когда же их ловят, то они добавляют еще больше услуг, в том числе и более мелких, чтобы замаскировать конечный пункт назначения ссылок. Или же в качестве второго примера можно привести некоторые вредоносные программы, также маскирующиеся под приложения ChatGPT, которые в ответ на обнаружение используют новые способы, как приманку для аудитории, которую не хотят потерять. Зачастую в таких случаях выбирают наиболее актуальные направления, в том числе маркетинговую поддержку Google Bard или быстро набравший популярность TikTok. Разработчики вредоносного софта⁵ следят за тенденциями и, опираясь на полученные из статистического анализа данные, используют их себе на благо – в ущерб другим. Поскольку чат-бот ChatGPT вызвал ажиотаж у миллионов Интернет-пользователей, то и не удивительно, что именно эта площадка стала следующей мишенью.
В настоящий момент популярностью пользуются чат-боты на базе ИИ, включая не только ChatGPT, но Bing, Bard и др. Поэтому злоумышленники обманом заставляют пользователей запускать поддельную версию именно этих технологических решений. Однако копированием функционала таких программ дело не кончается: мошенники практикуют в качестве действенных способов распространения информации о своей вредоносной программе также и различные маркетинговые уловки. Рекламу поддельного ChatGPT многократно распознавали и в Facebook, то есть поддельные ссылки распространяли прямо на платформе корпорации.
Компания Meta представила техническую информацию касательно того, как мошенники получают доступ к аккаунтам, включая извлечение паролей, cookie-файлов⁶ и истории браузеров. Узнать об этом подробнее ты сможешь здесь. К тому же Meta запустила программу поддержки для корпоративных пользователей⁷, чьи аккаунты в Facebook взломали.
Более подробную информацию ты сможешь найти здесь!
¹Генеративный ИИ — это тип искусственного интеллекта (ИИ), который отвечает за создание нового, оригинального контента. Он использует алгоритмы для создания контента, такого как изображения, видео, музыка и многое другое, без необходимости вмешательства человека.
²Браузер — программа для поиска и просмотра на экране компьютера информации из компьютерной сети.
³Програ́ммное обеспе́чение (ПО) — программа или множество программ, используемых для управления компьютером.
⁴Браузерное расширение или плагин (browser extension) — это подключаемый модуль, который позволяет добавить какие-либо функции в браузер. Например, с их помощью на отображаемых веб-страницах можно блокировать рекламу, проверять орфографию, делать заметки и многое другое.
⁵По-английски программное обеспечение — software, поэтому на русском языке используется еще и термин «софт».
⁶Файлы-cookie — это небольшие фрагменты текста, передаваемые в браузер с сайта, который ты открываешь. С их помощью сайт запоминает информацию о твоих посещениях.
⁷Корпоративный пользователь — бизнес-пользователь, сотрудник какой-либо компании, организации, использующий вычислительное средство на работе, в служебных целях.
Статья опубликована на молодёжном инфопортале Teeviit в августе 2023 года и посвящена теме безопасности в веб-среде. Подготовленный материал основывается на данных отчета по безопасности корпорации Meta.
Автор: Дариа Дмитриева.
