Anthropic призвала крупные лаборатории искусственного интеллекта (ИИ) согласовать проверяемую паузу в развитии технологий, предупреждая, что быстрый прогресс может вывести системы за пределы человеческого контроля и опередить меры безопасности.
Компания отмечает, что автономность выполнения задач в ИИ удваивается примерно каждые четыре месяца, а отрасль приближается к этапу рекурсивного самоулучшения, когда системы начинают совершенствовать себя без участия человека.
В организации считают, что пауза возможна только при договоренности ведущих лабораторий и наличии правил ее запуска и отмены, тогда как одностороннее замедление не решит проблему. Регулирование в США остается ограниченным, а недавний указ предполагает добровольное тестирование моделей на кибербезопасность перед выпуском.
Anthropic позиционирует себя как разработчика с акцентом на безопасность, но продолжает выпуск более мощных моделей.
