Новая опциональная функция запускает на устройстве ML-модель для выявления мошеннических сообщений. Все данные остаются локально, никакого автоотчёта. Если модель находит скам — показывает предупреждение. Пользователь может заблокировать, пожаловаться или отметить чат как доверенный. Бета-версия уже вышла, код открыт для аудита.
Исследователи из четырёх университетов сравнили AI-чатботов и людей в симуляции «убоя свиней» — romance scam с переходом на фейковые криптоинвестиции. Почти 50% жертв выполнили просьбу бота (скачать приложение), тогда как у людей — менее 20%. Уровень доверия к AI был значительно выше. Авторы предлагают сценарий: бот ведёт жертву до последнего шага, где подключается человек, чтобы обойти защиту LLM.
OpenAI сообщила о прерывании работы мошеннической схемы, базировавшейся в Камбодже, которая применяла ChatGPT для поддержки инвестиционных, романтических, игровых и имитационных афер. Детали операции не раскрываются.