Американская Anthropic, создающая ИИ-модели, недавно столкнулась с неожиданным приказом от администрации США. Власти потребовали немедленно отключить доступ к двум новейшим моделям ИИ — Fable 5 и Mythos 5 — для всех иностранных граждан. Даже тех, кто находится внутри США. При этом под запрет к использованию должны были попасть и собственные сотрудники компании, которые не являются американцами. Anthropic в ответ пришлось заблокировать эти модели для всех пользователей. И никто не знает, что стало причиной такого требования.
Это первый случай, когда правила «экспортного контроля» использовали для ограничения доступа к ИИ подобным образом. Обычно такие правила Штатов касаются товаров, которые можно перевезти через границу: оружия, оборудования, деталей. Да, позже их распространили на программы, исходные коды и технические данные. Но.
Здесь речь идёт о чат-боте, который работает на серверах компании — пользователи не получают копию модели или её внутренние настройки. Они получают только ответы на свои вопросы.
Anthropic
Правительство не объяснило публично, на каком именно законе основан приказ. В Anthropic заявили, что власти сослались на «полномочия в сфере национальной безопасности» и без деталей. Компания даже отметила, что опасения по поводу «возможного взлома защитных механизмов со стороны групп, связанных с Китаем», не подтвердились — обойти все барьеры безопасности не удалось.
Эксперты, на которых ссылаются СМИ, в замешательстве. Одни говорят, что действующие законы «просто не рассчитаны на такие случаи». Другие отмечают, что власти США пытаются «одновременно и не мешать развитию ИИ, и жёстко контролировать его», но делают это неумело.
Теперь другие компании не знают, как готовиться к подобным требованиям.