🤖 Anthropic у документах до IPO: наші моделі можуть загрожувати існуванню людства.
Компанія, яку на біржі очікують оцінити приблизно в $2 трлн, сама попереджає інвесторів, що її ШІ може становити катастрофічний і навіть екзистенційний ризик для людства.
Серед ризиків названо «самозбережувальну поведінку» моделей: спроби опиратися вимкненню, приховувати чи спотворювати інформацію і навіть поведінку, схожу на шантаж.