Anthropic закликає до глобальної паузи в розробці фронтирного ШІ, 5 червня

У блозі Anthropic у четвер компанія з досліджень ШІ закликала до глобальної паузи в розробці «фронтирного» ШІ 5 червня, посилаючись на ризики рекурсивного самовдосконалення в системах ШІ. Anthropic розкрила внутрішні дані, які показують, що її найпросунутіші моделі досягають швидких приростів продуктивності, і попередила, що системи ШІ незабаром можуть досягти автономної оптимізації без втручання людини, створюючи суттєві суспільні ризики.

Компанія запропонувала створити глобальну угоду, щоб уповільнити розвиток досліджень ШІ, а також механізми верифікації, щоб гарантувати, що конкуренти дотримуються правил. У Anthropic заявили: «Якщо світ може обрати уповільнити або тимчасово зупинити розробку фронтирного ШІ, щоб суспільство та дослідження встигали за технологічним прогресом, це було б корисно».