📰 IT Дайджест

Trump’s secret reviews of frontier AI models may hide corruption, lawsuit says.

Четыре федеральных агентства были поданы в суд на фоне требований раскрыть информацию о секретной структуре, которую администрация Трампа использует для проведения проверок безопасности моделей передового ИИ перед их выпуском.

В пресс-релизе в среду, объявляющем о судебном иске, некоммерческая организация Protect Democracy заявила, что «почти никаких деталей» не было раскрыто общественности или Конгрессу. Для всех, кроме нескольких расплывчатых «доверенных партнеров», остается неясным, как выглядит процесс проверки со стороны правительства, какие компании участвуют в создании структуры и какие юридические полномочия имеют чиновники Трампа для проведения проверок.

«Ни личности этих организаций, ни критерии, по которым они были отобраны, не были обнародованы», — заявила Protect Democracy.

Это проблема, утверждала Protect Democracy в заявлении для Ars, поскольку решения о том, «какие модели ИИ одобряются и выпускаются, могут быть наиболее важным политическим вопросом этой администрации». И похоже, что как минимум одна компания в сфере ИИ, OpenAI, «договорилась о частном соглашении с федеральным правительством об ограничении распространения своих передовых моделей ИИ только проверенным правительством партнерам».

Группа добивается судебного приказа, обязывающего чиновников предоставить всю запрашиваемую информацию к 30 сентября. Это включает «несекретную процедурную и контрактную архитектуру: текст структуры, условия участия, личности участников, а также процесс и критерии, по которым предоставляется или ограничивается доступ к передовым моделям», — говорится в иске. Они также добиваются судебного запрета, препятствующего чиновникам неправомерно удерживать записи, которые не являются засекреченными.

«Исполнительная ветвь власти теперь выбирает, какие компании могут выпускать свои продукты и какие клиенты получают доступ к технологии, которая может сформировать будущее не только американской промышленности и национальной безопасности, но и экономик и правительств за рубежом», — говорится в заявлении Protect Democracy. «И все это без какого-либо надзора со стороны Конгресса, общественности или технических экспертов за пределами исполнительной ветви власти».

Секретные правила предположительно скрывают коррупцию

По словам Protect Democracy, эта структура потенциально может быть «коррумпированной», а чиновники из Офиса национального кибер-директора, Офиса научно-технической политики, Министерства финансов и Министерства торговли могут потенциально благоприятствовать быстрому развертыванию для тех компаний в сфере ИИ, которые нравятся Трампу. И с другой стороны, общественность уже видела, как Трамп мстит компании в сфере ИИ за то, что она «слишком прогрессивная» (woke), отметила Protect Democracy, указав на недавнее решение судьи о том, что включение Anthropic в черный список Трампом было незаконным.

По мере развития технологии ИИ и эскалации кибербезопасности — взлом моделями OpenAI платформы Hugging Face является самым очевидным недавним примером — общественность не может позволить себе слепо доверять Трампу в том, что он будет действовать добросовестно, выбирая, какие передовые модели следует подвергать тщательному тестированию, заявила Protect Democracy. И, возможно, что еще хуже, общественность не может знать, связаны ли новые уязвимости, обнаруженные в реальном мире, с тем, что агентства не провели надлежащую проверку, использовали устаревшие или неэффективные тесты, пропустили важные проверки или не выполнили шаги, соответствующие новейшим стратегиям смягчения последствий, предложенным ведущими экспертами по безопасности ИИ.

«Мы заслуживаем знать, что содержится в этой структуре», — заявила группа, присоединившись к другим призывам, требующим от агентств большей прозрачности в отношении развертывания моделей ИИ.

В сообщении на платформе X в прошлом месяце член Палаты представителей США Грег Касар (демократ от Техаса) обвинил Трампа в «полном провале в обеспечении нашей безопасности от опасностей ИИ», в то время как он «берет миллионы у ИИ-миллиардеров».

«Теперь, после чрезвычайно опасных проблем с кибербезопасностью ИИ, он говорит, что создал „добровольную“ проверку, которую никто не видел», — сказал Касар. «Спит за рулем. Слишком занят наживой, чтобы защищать наши рабочие места или национальную безопасность».

Совсем недавно другой демократ, сенатор штата Калифорния Джош Беккер, призвал суд удовлетворить запрос Protect Democracy. В заявлении в поддержку их иска Беккер отметил, что Калифорния рассматривает законопроект SB 813, который установит процесс, в рамках которого независимые организации будут устанавливать базовые уровни для стандартов безопасности ИИ. Если он будет принят — в отличие от подхода Трампа — калифорнийский план сделает последние критерии, стандарты и методологии, используемые для оценки рисков, связанных с системами ИИ, прозрачными для общественности, сказал Беккер. Он отметил, что общественное обсуждение уже повлияло на законопроект: одно положение было отозвано после общественной критики.

«В отличие от подхода Администрации, каждый шаг разработки SB 813 был публичным», — написал Беккер, подчеркнув, что «мы несем ответственность за структуру, которую мы установили».

Никто не знает «доверенных партнеров» Трампа

Администрация Трампа спешила создать добровольный процесс проверки безопасности с тех пор, как этим летом правительство признало модель Mythos 5 от Anthropic слишком опасной для выпуска. План состоял в том, чтобы быстро расширить отраслевое сотрудничество, чтобы правительственные команды в Центре стандартов и инноваций в области ИИ могли проверять предрелизные модели с уменьшенными или отключенными средствами защиты, чтобы «тщательно оценить возможности и риски, связанные с национальной безопасностью». Но это было бы невозможно, осознал Трамп, без полной прозрачности отраслевых экспертов и объяснения того, что именно могут делать новые модели.

В июле Белый дом запустил информационный центр GOLD EAGLE, который полагается на отраслевых партнеров, помогающих агентствам выявлять уязвимости кибербезопасности во многих секторах и отраслях. Protect Democracy снова отметила, что «Белый дом не назвал ни одной компании, участвующей в GOLD EAGLE, условий их участия или каких-либо юридических оснований для этой программы».

Затем, 3 августа, Белый дом объявил, что завершил разработку добровольной структуры для проверки моделей ИИ перед их публичным выпуском. Белый дом подтвердил, что как эта структура, так и GOLD EAGLE активно используются для проверки передовых моделей по мере развития технологии.

Некоторые части правительственного процесса проверки засекречены. Исполнительный указ объяснял, что Трамп планировал разработать «засекреченный процесс бенчмаркинга», который будет оценивать продвинутые возможности моделей ИИ и определять, когда модели должны быть отнесены к категории передового ИИ.

Однако в иске Protect Democracy говорится, что сама структура, примечательно, не обозначена как засекреченная. Несмотря на это, Белый дом отказался делиться деталями с общественностью. Вместо этого пресс-секретарь сказал журналистам, что «то, что информация несекретна, не означает, что мы будем транслировать ее всем».

Дополнительно вызывает беспокойство то, что термин «охваченная передовая модель» не определен, заявила Protect Democracy. Если определение слишком узкое, некоторые опасные модели ИИ могут проскочить сквозь трещины, а если слишком широкое, недавно обескровленные сокращениями DOGE агентства могут быть слишком перегружены, чтобы одновременно оценивать слишком много моделей. Без большей ясности общественность «может только надеяться, что эта мощная технология управляется безопасно и в общественных интересах», утверждала Protect Democracy.

На данный момент структура была передана лишь «избранной группе компаний в сфере ИИ», что исключает значимые заинтересованные стороны, такие как группы по безопасности ИИ, в настоящее время предупреждающие о возникающих общественных рисках, а также более мелкие или начинающие фирмы в сфере ИИ, чьи вклады или проверки моделей могут быть не менее важны.

Protect Democracy обычно полагается на запросы FOIA в своей миссии «предотвратить превращение американской демократии в более авторитарную форму правления», говорится в иске. Опасаясь, что Трамп захватывает слишком много власти над ИИ, группа направила идентичные запросы FOIA в четыре федеральных агентства, срочно запрашивая только несекретную информацию и требуя ускорить рассмотрение их запроса. На сегодняшний день ни одно агентство не предоставило никаких записей, говорится в иске. Только офис Национального кибер-директора ответил, но отклонил просьбу группы об ускорении процесса, что Protect Democracy сейчас оспаривает как неправомерное.

Конгресс тоже в неведении

Вдобавок к тому, что общественность — а также независимые исследователи, правозащитные группы, инвесторы в ИИ и бизнес во многих отраслях, заинтересованных в ИИ, — остается в неведении, законодатели были отстранены от оценки структуры безопасности ИИ исполнительной ветви власти.

Это имеет значение, утверждала Protect Democracy, потому что операция по безопасности ИИ Трампа может быть дестабилизирована, если Конгресс не будет действовать согласованно. Прямо сейчас Конгресс рассматривает вопрос о продлении срока действия Закона о кибербезопасности (CISA) 2015 года, который, по-видимому, является единственным правовым основанием, позволяющим компаниям в сфере ИИ делиться информацией с правительством через GOLD EAGLE, говорится в иске.

Эти меры защиты являются частью положения CISA, которое однажды уже истекло, и Конгресс должен вскоре решить, следует ли продлевать это положение. Между Палатой представителей и Сенатом есть разногласия относительно крайнего срока голосования по продлению, но самое раннее, когда это может произойти, — 30 сентября, а самое позднее — 11 декабря.

«В любом случае, Конгрессу вскоре придется решать, продлевать ли правовые защиты CISA, которые, по собственному признанию администрации, поддерживают программу GOLD EAGLE, которую администрация объявила, но еще не объяснила», — говорится в иске Protect Democracy. «Более того, высокопоставленный представитель администрации публично признал при запуске GOLD EAGLE, что без этого продления „эта работа будет принципиально затруднена“».

Дина Эль-Маллавани, директор программ и советник Protect Democracy, сказала Ars, что «ни Protect Democracy, ни Конгресс не имеют достаточной информации о программе GOLD EAGLE, чтобы принять полностью обоснованное решение о продлении CISA. Наше беспокойство в том, что Белый дом ставит Конгресс в положение голосования за продление CISA, не зная, как работает программа GOLD EAGLE, кто в ней участвует и какие законодательные полномочия при этом используются. Вот почему мы добиваемся получения этих записей».

Protect Democracy утверждала, что без этих записей администрация Трампа может избежать ответственности за проверку безопасности ИИ.

«Конгресс не может осуществлять осмысленный надзор за программами, условия и заявленные полномочия которых ему не были показаны», а «суды не могут проверять действия, которые они не могут идентифицировать», — говорится в иске.

Эль-Маллавани сказала Ars, что если Protect Democracy получит доступ к структуре, все документы будут опубликованы публично. Без большей прозрачности список опасений Protect Democracy относительно потенциальной возможности Трампа использовать добровольную структуру для влияния на индустрию ИИ длинен, сказала Эль-Маллавани, добавив:

«Риски многочисленны, включая риск того, что Белый дом может использовать секретный процесс для принуждения компаний в сфере ИИ к решениям, таким как развертывание ИИ для смертоносных автономных вооружений и массовой слежки (как мы видели в столкновении между Пентагоном и Anthropic), для вымогательства у определенных инвесторов и сотрудников политической и финансовой поддержки или наказания других за предполагаемую политическую оппозицию, или для принуждения компаний в сфере ИИ к включению политизированных точек зрения в свои модели — не говоря уже о риске того, что структура проверки просто неэффективна, создавая ложное чувство безопасности».