Anthropic закликала до глобальної паузи в розвитку ШІ

Американська Anthropic закликала провідні ШІ-лабораторії розглянути можливість уповільнення темпів розвитку цієї технології.

У компанії зазначають, що ШІ-системи вдосконалюються настільки швидко, що незабаром, можливо, стануть здатними покращувати себе без участі людини, і це несе в собі істотні ризики для суспільства.

Anthropic все більше передає процес розробки ШІ безпосередньо самим ШІ-системам, що значно прискорює роботу, йдеться в статті, опублікованій головою Anthropic Institute Мариною Фаваро та співзасновником компанії Джеком Кларком.

"Якщо цей процес продовжиться, то за наявності достатніх обчислювальних потужностей він може призвести до появи ШІ-системи, здатної самостійно проєктувати та розробляти свою наступну версію. Це називається рекурсивним самовдосконаленням. Ми ще не досягли цього етапу, і рекурсивне самовдосконалення не є неминучим. Однак воно може настати набагато раніше, ніж до цього будуть готові більшість суспільних інститутів", - йдеться в статті.

Е…