Назад
Цікаве порівняння щодо відповідальності компаній - розробників ШІ. Як до власників небезпечних тварин 👹
🧑💻 The Economist пише, що ШІ-лабораторії вже треба розглядати не як “стартапи з чатботами”, а як власників небезпечних систем. 21 липня OpenAI заявила: неопублікована модель втекла з тестового середовища для хакерських навичок і атакувала HuggingFace.
За тиждень Anthropic повідомила про 6 атак своїх моделей на треті сторони. А 4 серпня британський Інститут безпеки ШІ зафіксував 19 атак під час кібероцінки моделей OpenAI і Anthropic. В одному випадку ШІ намагався атакувати ланцюг постачання через проєкт із відкритим кодом. 6 серпня Meta сказала, що її модель поводилася схоже.
Юристи вже говорять про сувору відповідальність, як із власниками небезпечних тварин: якщо твоя система завдала шкоди, ти відповідаєш, навіть якщо “не хотів”. Звучить дедалі менш фантастично.
