Аналитик US Special Operations Command использовал чат-бот для анализа разведданных, и тот «слил» открытые и секретные данные, выдумав, что китайское судно везёт компоненты ядерной программы. США готовились к перехвату с авиаподдержкой, но в последний момент обнаружили ошибку. Один источник назвал это «почти началом войны».
Стивен Ааронс признался в суде, что не проверял факты в сгенерированном ИИ брефе и не сообщил клиенту о выдуманных свидетелях и неточных прецедентах. Он заявил, что «не знал, что ИИ может галлюцинировать факты», и предположил, что инструмент создаст «пуленепробиваемое резюме». Верховный суд штата отметил, что адвокаты обязаны проверять информацию независимо от источника.
Исследователи JFrog обнаружили, что несколько reported уязвимостей SQLite, попавших в базы данных CVE, полностью сфабрикованы LLM. Такие «slop CVE» заставляют команды тратить время на несуществующие проблемы, а AI-агенты для триажа могут генерировать патчи для кода, которого не существует.