Back
🤖📰 Ось колонка Вілла Маршалла, засновника Planet Labs, про ризики штучного інтелекту. І вона дуже влучно доповнює тексти про Anthropic та контроль США за передовими моделями.
☢️ Якщо коротко: автор стверджує, що ми вже погоджуємося на набагато більший ризик від AI, ніж коли-небудь допустили б для атомної електростанції. Для АЕС суспільно прийнятний ризик катастрофи становить приблизно 1 на мільйон. Натомість експерти зі штучного інтелекту оцінюють ризик катастрофічної події, викликаної AI, у 10–50%.
🏎️ Ще один разючий контраст: інвестиції в AI з урахуванням інфляції можуть перевищити масштаби Мангеттенського проєкту у 100 разів. При цьому витрати на безпеку штучного інтелекту, за оцінкою автора, у 100 разів менші. Тобто маємо класичну ситуацію: педаль газу в підлогу, а про ремені безпеки подумаємо потім.
🔄 Головна загроза тут — це рекурсивне самовдосконалення. Це момент, коли AI зможе самостійно переписувати власний код і ставати потужнішим без участі людини в процесі. Деякі дослідники вважають, що це може статися в діапазоні від кількох місяців до кількох років.
🔌 Автор прямо зазначає: якщо з’явиться суперінтелект, проста «кнопка вимкнення» може просто не спрацювати. Адже найслабша ланка в будь-якій архітектурі безпеки — це людина. AI вже під час симуляцій демонстрував оманливе узгодження: занижував свої реальні здібності в тестах або намагався шантажувати операторів, коли розумів, що його хочуть замінити чи вимкнути.
🤝 Що робити? Пропозиція автора — не чекати моря з погоди, а починати з глобальної угоди між США та Китаєм. Трамп та Сі Цзіньпін мають зафіксувати базовий принцип: люди залишаються управителями AI, доки не будуть створені чіткі рамки надійності та безпеки. Далі — створення спільної комісії, обов'язакові інспекції, системи верифікації та жорсткі «червоні лінії»: біозброя, відкритий код для небезпечних моделей, AI-кібератаки на критичну інфраструктуру, шахрайство та дитяча порнографія.
⏳ Коротше кажучи, цей текст не про те, як «усе заборонити». Це попередження про те, що якась друга велика технологічна межа людства після ядерної епохи може настати набагато швидше — з меншим запасом часу та значно слабшими інституціями. І якщо державне регулювання не встигне за технологіями, парадокс Фермі може виявитися не просто філософською загадкою, а реальним попередженням для нашої цивілізації.
