OpenAI использовалась спамерами для создания сообщений, уникальных для каждого получателя, что позволило им обойти фильтры для обнаружения спама и разослать нежелательные сообщения на более чем 80 000 сайтов в течение четырех месяцев, сообщили исследователи в среду.
Данное открытие, задокументированное в публикации компании по безопасности SentinelOne’s SentinelLabs, подчеркивает двуединый меч, которым владеют большие языковые модели. То же самое, что делает их полезными для благоприятных задач — доступность большого объема данных и их способность использовать его для генерации контента в масштабе, часто может быть использовано также и в злонамеренной деятельности. OpenAI отозвала учетную запись спамеров в феврале.
«Вы — полезный помощник»
Спамеры использовали фреймворк AkiraBot для автоматической отправки сообщений в больших объемах, чтобы продвигать сомнительные услуги по оптимизации поиска на небольших и средних сайтах. AkiraBot использовал сценарии на основе Python для смены рекламируемых доменных имен в сообщениях. Он также использовал API чата OpenAI, связанный с моделью gpt-4o-mini, для генерации уникальных сообщений, настроенных для каждого сайта, на который он отправлял спам. Эта техника, вероятно, помогла ему обойти фильтры, ищущие и блокирующие идентичный контент, отправленный на большое количество сайтов. Сообщения доставляются через контактные формы и виджеты онлайн-чата, встроенные на целевых сайтах.
Читайте полную статью
Комментарии