Anthropic призывает к глобальной паузе в разработке Frontier AI, 5 июня

В четверг в блоге компании Anthropic фирма, занимающаяся AI-исследованиями, призвала к глобальной паузе в разработке передовых моделей ИИ 5 июня, сославшись на риски рекурсивного самосовершенствования в ИИ-системах. Anthropic раскрыла внутренние данные, согласно которым ее самые продвинутые модели добиваются быстрых приростов производительности, и предупредила, что ИИ-системы могут в ближайшее время обеспечить автономную оптимизацию без вмешательства человека, что создаст серьезные риски для общества.

Компания предложила заключить глобальное соглашение, чтобы замедлить развитие исследований в области ИИ, и создать механизмы верификации, чтобы обеспечить соблюдение условий конкурентами. Anthropic заявила: «Если мир сможет выбрать замедлить или временно приостановить разработку передового ИИ так, чтобы общество и исследования могли догнать технологический прогресс, это будет полезно».