Claude AI: штучний інтелект здійснив атаку хакерів в Австралії

Незвичайний злочин стався в Австралії. Штучний інтелект Claude AI від компанії Anthropic здійснив атаку хакерів і зламав сайт спортзалу.

Подібне у країні сталося вперше.Правоохоронці з'ясували, що співробітник австралійської компанії з продажу ІІ-продуктів для бізнесу на ім'я Ендрю експериментував із OpenClaw (популярним програмним забезпеченням для ІІ-агентів). Для роботи чоловік використовував сервіс Claude AI від Anthropic.Австралієць попросив ІІ-асистента забронювати йому місце на одному із занять у спортзалі, йдеться у матеріалі. Після цього агент знайшов спосіб забронювати заняття за кілька місяців до дати його проведення, що перевищувало встановлені клубом терміни і стало можливим завдяки вразливості програмного забезпечення для бронювання, передає телеканал.

Чоловік, записаний на інше заняття пізніше тижня, запитав агента, чи можна перемістити його з четвертого місця на перше у списку очікування. У результаті ІІ-агент виключив зі списку одного з записаних, внаслідок чого Ендрю виявився третім.ІІ-агент зумів видалити першу людину у списку очікування, проте не зміг додати її назад.Примітно, що розробник програмного забезпечення для бронювання занять у спортзалі запевняє, що не обговорює конкретні питання безпеки, а компанія Anthropic не відповіла на питання про те, що сталося.Раніше Google відключив генерацію ІІ-сцен у Google Earth через зловживання.

Читайте Фразу в Google News (натиснути "Підписатися")

Підписуйтесь на канали Фрази в Youtube, Twitter, Instagram, Facebook