OpenAI заблокировала аккаунты, использующие ИИ для поддержки рабочих процессов романтического мошенничества, включая исходящие контакты, перевод, взаимодействие с жертвами и приманки для инвестиционного мошенничества. С момента начала отчетов о пресечении сетей мошенничеств OpenAI пресекла множество операций по всему миру, включая мошенничества с "заданиями" и инвестиционные мошенничества.

Романтическое мошенничество существовало до появления ИИ, когда мошенники притворялись романтическими партнерами, чтобы выманить деньги у целей. Первое опубликованное пресечение мошенничества OpenAI было направлено на криминальную операцию в Камбодже, которая использовала ChatGPT для генерации сообщений романтического мошенничества, распространяемых в социальных сетях.

Эти мошенничества следуют общему паттерну злоупотребления ИИ: пинг (холодный контакт), зинг (генерация эмоций) и стинг (извлечение денег). Пинг использует контент, сгенерированный ИИ, для привлечения целей — например, мошенничество "убой свиньи", которое нацелилось на американских мужчин 40-летнего возраста в медицинских профессиях через ответы в социальных сетях, связанные с гольфом. Зинг генерирует эмоционально манипулятивный контент. Стинг убеждает цели отдать деньги через фальшивые инвестиции, бизнес-кризисы или вымышленные заработки за задания.

Сети распространения охватывают SMS, зашифрованные приложения для обмена сообщениями, посты в социальных сетях и онлайн-рекламу. Операции вроде "Не тот номер", раскрытые в июне 2025 года, использовали холодные звонки по SMS с невероятно высокой доходностью для создания эмоциональной манипуляции.

Ключевые сущности: Компании: OpenAI | Местоположения: Камбоджа