Компания Anthropic закрыла доступ к своим самым мощным моделям искусственного интеллекта Fable 5 и Mythos 5 после требования властей США. Ограничения коснулись иностранных пользователей, а также сотрудников американских офисов компании, которые не имеют гражданства США, передаёт Ulysmedia.kz.
В Anthropic сообщили, что получили соответствующее распоряжение от правительства и были вынуждены сразу же отключить доступ к новым моделям.
При этом в компании отметили, что в документе не объясняется, какие именно угрозы национальной безопасности стали причиной такого решения.
По данным американских СМИ, новые ИИ-модели способны самостоятельно находить уязвимости в программном обеспечении и теоретически могут использоваться для проведения сложных кибератак. Речь идет о возможных атаках на банки, больницы, системы водоснабжения и другую важную инфраструктуру.
Сообщается, что вокруг новых разработок ИИ уже начались обсуждения в американской администрации. Власти рассматривают возможность усилить контроль над наиболее мощными нейросетями и создать отдельную систему их проверки.
По информации СМИ, Anthropic также рекомендовали пока не расширять доступ к своим новым моделям для организаций, связанных с критически важной инфраструктурой.
Fable 5 и Mythos 5 компания показала 9 июня. Разработчики заявляли, что новые системы демонстрируют высокие результаты в программировании, анализе данных, компьютерном зрении и научных исследованиях.
При этом в Anthropic подчеркивают, что модели прошли многочасовое тестирование, в том числе с участием американских властей, и получили высокие оценки по уровню защиты.