Drone with an AI system independently chose a target: it took the lives of three people in Zaporizhzhia — NYT

Automatically translated version. May contain inaccuracies compared to the original.

Drones were equipped with Nvidia microcomputers that the company sells for free.

Last month in Zaporizhzhia, a Russian drone that resembled a small model airplane tried to approach a gas station but crashed into a wall and exploded. The explosion caused shrapnel to scatter, killing three people.

The New York Times writes that thousands of Ukrainian civilians have died in Russian airstrikes, and these people were among them. However, their deaths had a special circumstance: according to drone experts, Ukrainian military commanders, and forensic experts who studied the fragments of this and other deadly strikes in Zaporizhzhia, the drone was controlled by an experimental autonomous AI system, not a human.

Experts and military officials noted that operators initially instructed the drone to fly to a specific gas station. After nearing it, the drone independently identified a target for strike — most likely propane cylinders, as it had been trained to recognize such objects and attack them.

Furthermore, according to experts, analysis of debris from this and other strikes in Zaporizhzhia showed that Russian drones were equipped with Nvidia microcomputers, which the company sells openly and which independently decided on target selection. Nvidia manufactures most of the chips used in the world's most advanced AI systems.

Yes, Ukrainian military officials drew attention to Nvidia modules installed in the drones and the lack of antennas, and suggested that the drones could have been operating under an autonomous AI system. Further investigation confirmed this version.

The publication emphasizes that autonomous AI systems learn to recognize various objects from thousands of images, including rivers, military trucks, or people. Drones with such a system use cameras to independently locate the needed objects and can do so more accurately than a human pilot.

At the same time, opponents of autonomous weapons emphasize that without human control, drones may make more mistakes or violate the laws of war, for example by failing to distinguish civilians from military targets.

Senior research fellow Kateryna Bondar of the Vadigvani AI Center at the Center for Strategic and International Studies in Washington noted that the strike on the gas station 6 in July may be the first documented case of civilian deaths caused by a Russian drone with autonomous AI-based guidance. According to her, the Nvidia module installed in the drone is the strongest evidence that Russia was conducting experiments with autonomous AI systems.

The NYT writes that local air defense representatives said that during tests of autonomous drones in Zaporizhzhia, Russian forces selected various targets, including civilian objects — pumps and propane cylinders at gas stations — as well as military conscription points. There is currently no explanation why these objects were chosen for testing.

Drone expert at Kharkiv Aviation Institute Vadym Kushniakov stated that the drone from which three civilians died was pre-programmed and trained in a virtual environment to recognize and track specific objects.

Ukrainian officials said that some of the drones tested by Russia with AI exploded after impact, while others remained intact. They showed The New York Times footage of fragments from two such drones, after which the publication photographed the computer modules inside and handed the images to the company.

The company confirmed that the photographs show a Jetson Orin microcomputer. Experts also found such modules on various types of Russian weapons, and their cost is only a few hundred dollars.

At the same time, the company stated that this microcomputer is a consumer product and is sold to students, developers, and startups for various practical tasks. According to them, the company does not supply this microcomputer to Russia, although it can be purchased there through intermediaries.

Ukraine also conducted tests of AI systems that can autonomously determine targets. Former Defense Minister Mykhailo Fedorov told The Times at the end of last month that in recent months Ukrainian forces had tested a fully autonomous AI system in Crimea, which is occupied by Russia. He said these systems were used to direct strikes on fuel depots and military equipment, with no civilians harmed.

We should recall that Ukrainian forces already use more than 70 AI and computer vision systems to strike enemy targets. With these technologies, drones can navigate terrain, recognize objects, and autonomously aim at them, but the decision to issue a strike in each case is made by the operator.

Document: PDF proof of the original version of the news item "Дрон із системою штучного інтелекту самостійно обрав ціль: він забрав життя трьох людей у Запоріжжі — NYT". It records the publication content at the moment of the first scan, the preservation date and the source: ZN.ua.

Безпілотники були оснащені мінікомп’ютерами Nvidia, які компанія продає у вільному доступі.

Минулого місяця в Запоріжжі російський дрон, який нагадував невеликий модельний літак, намагався підлетіти до автозаправної станції, але врізався у стіну та вибухнув. Вибух спричинив розліт уламків, унаслідок чого загинули троє людей.

The New York Times пише, що тисячі українських цивільних загинули внаслідок російських авіаударів, і ці люди стали одними з них. Однак їх загибель мала особливу обставину: за даними експертів із безпілотників, українських військових командирів та судових експертів, які досліджували уламки цього та інших смертельних ударів у Запоріжжі, безпілотником керувала експериментальна система штучного інтелекту, а не людина.

Експерти та військові чиновники зазначили, що оператори спочатку задали дрону маршрут до конкретної автозаправної станції. Після наближення до неї безпілотник сам визначив ціль для удару — найімовірніше, балони з пропаном, оскільки його навчили розпізнавати такі об’єкти та атакувати їх.

Крім того, за словами експертів, аналіз уламків цього та інших ударів у Запоріжжі показав, що російські безпілотники були оснащені мінікомп’ютерами Nvidia, які компанія продає у вільному доступі та які самостійно приймали рішення щодо вибору цілі. Nvidia виробляє більшість мікросхем, що використовуються в найсучасніших системах штучного інтелекту у світі.

Так, українські військові звернули увагу на встановлені в дронах модулі Nvidia та відсутність антен і припустили, що безпілотники могли працювати під керуванням автономної системи штучного інтелекту. Подальше розслідування підтвердило цю версію.

Видання наголошує, що автономні системи штучного інтелекту навчають розпізнавати різні об’єкти за тисячами зображень, зокрема річки, військові вантажівки чи людей. Безпілотники з такою системою використовують камери, щоб самостійно знаходити потрібні об’єкти, і можуть робити це точніше за пілота-людину.

Водночас противники автономної зброї наголошують, що без контролю людини дрони можуть частіше помилятися або порушувати правила ведення війни, наприклад не відрізняти цивільних від військових.

Старша наукова співробітниця Центру штучного інтелекту імені Вадхвані при Центрі стратегічних та міжнародних досліджень у Вашингтоні Катерина Бондар зазначила, що удар по автозаправній станції 6 липня може бути першим задокументованим випадком загибелі цивільних через російський дрон із системою автономного наведення на основі штучного інтелекту. За її словами, встановлений у безпілотнику модуль Nvidia є найкращим доказом того, що Росія проводила експерименти з автономними системами штучного інтелекту.

NYT пише, що місцеві представники ППО повідомили, що під час випробувань автономних дронів у Запоріжжі російські військові обирали різні цілі, серед яких були цивільні об’єкти — насоси та балони з пропаном на автозаправних станціях — а також військові призовні пункти. При цьому наразі немає пояснення, чому для випробувань обрали саме такі об’єкти.

Експерт із дронів Харківського авіаційного інституту Вадим Кушніков заявив, що безпілотник, унаслідок атаки якого загинули троє цивільних, був заздалегідь запрограмований і навчений у віртуальному середовищі розпізнавати та відстежувати конкретні об’єкти.

Українські чиновники повідомили, що частина випробуваних Росією дронів зі штучним інтелектом вибухнула після удару, тоді як інші безпілотники залишилися неушкодженими. Вони показали журналістам The New York Times уламки двох таких дронів, після чого видання сфотографувало встановлені всередині них комп’ютерні модулі Nvidia та передало ці знімки компанії.

У компанії підтвердили, що на переданих їм знімках видно мінікомп’ютер Jetson Orin. Експерти також виявили такі модулі на різних видах російської зброї, при цьому їхня вартість становить лише кілька сотень доларів.

Водночас у компанії заявили, що цей мінікомп’ютер є споживчим продуктом і продається студентам, розробникам та стартапам для різних практичних завдань. За їхніми твердженнями, компанія не постачає цей мінікомп’ютер до Росії, хоча придбати його там можна через посередників.

Україна також проводила випробування систем штучного інтелекту, які можуть самостійно визначати цілі. Колишній міністр оборони Михайло Федоров наприкінці минулого місяця розповів газеті The Times, що протягом останніх кількох місяців українські військові тестували повністю автономну систему штучного інтелекту в окупованому Росією Криму. За його словами, ці системи використовували для наведення на паливні сховища та військову техніку, при цьому жоден цивільний не постраждав.

Нагадаємо, що українські військові вже застосовують понад 70 систем зі штучним інтелектом і комп’ютерним зором для ураження ворожих цілей. За допомогою цих технологій дрони можуть орієнтуватися на місцевості, розпізнавати об’єкти та самостійно наводитися на них, однак рішення про завдання удару в кожному випадку приймає оператор.

Document: PDF proof of the original version of the news item "Дрон із системою штучного інтелекту самостійно обрав ціль: він забрав життя трьох людей у Запоріжжі — NYT". It records the publication content at the moment of the first scan, the preservation date and the source: ZN.ua.

Безпілотники були оснащені мінікомп’ютерами Nvidia, які компанія продає у вільному доступі.

Минулого місяця в Запоріжжі російський дрон, який нагадував невеликий модельний літак, намагався підлетіти до автозаправної станції, але врізався у стіну та вибухнув.

Вибух спричинив розліт уламків, унаслідок чого загинули троє людей.

The New York Times пише, що тисячі українських цивільних загинули внаслідок російських авіаударів, і ці люди стали одними з них.

Однак їх загибель мала особливу обставину: за даними експертів із безпілотників, українських військових командирів та судових експертів, які досліджували уламки цього та інших смертельних ударів у Запоріжжі, безпілотником керувала експериментальна система штучного інтелекту, а не людина.

Експерти та військові чиновники зазначили, що оператори спочатку задали дрону маршрут до конкретної автозаправної станції.

Після наближення до неї безпілотник сам визначив ціль для удару — найімовірніше, балони з пропаном, оскільки його навчили розпізнавати такі об’єкти та атакувати їх.

Крім того, за словами експертів, аналіз уламків цього та інших ударів у Запоріжжі показав, що російські безпілотники були оснащені мінікомп’ютерами Nvidia, які компанія продає у вільному доступі та які самостійно приймали рішення щодо вибору цілі.

Nvidia виробляє більшість мікросхем, що використовуються в найсучасніших системах штучного інтелекту у світі.

Так, українські військові звернули увагу на встановлені в дронах модулі Nvidia та відсутність антен і припустили, що безпілотники могли працювати під керуванням автономної системи штучного інтелекту.

Подальше розслідування підтвердило цю версію.

Видання наголошує, що автономні системи штучного інтелекту навчають розпізнавати різні об’єкти за тисячами зображень, зокрема річки, військові вантажівки чи людей.

Безпілотники з такою системою використовують камери, щоб самостійно знаходити потрібні об’єкти, і можуть робити це точніше за пілота-людину.

Водночас противники автономної зброї наголошують, що без контролю людини дрони можуть частіше помилятися або порушувати правила ведення війни, наприклад не відрізняти цивільних від військових.

Старша наукова співробітниця Центру штучного інтелекту імені Вадхвані при Центрі стратегічних та міжнародних досліджень у Вашингтоні Катерина Бондар зазначила, що удар по автозаправній станції 6 липня може бути першим задокументованим випадком загибелі цивільних через російський дрон із системою автономного наведення на основі штучного інтелекту.

За її словами, встановлений у безпілотнику модуль Nvidia є найкращим доказом того, що Росія проводила експерименти з автономними системами штучного інтелекту.

NYT пише, що місцеві представники ППО повідомили, що під час випробувань автономних дронів у Запоріжжі російські військові обирали різні цілі, серед яких були цивільні об’єкти — насоси та балони з пропаном на автозаправних станціях — а також військові призовні пункти.

При цьому наразі немає пояснення, чому для випробувань обрали саме такі об’єкти.

Експерт із дронів Харківського авіаційного інституту Вадим Кушніков заявив, що безпілотник, унаслідок атаки якого загинули троє цивільних, був заздалегідь запрограмований і навчений у віртуальному середовищі розпізнавати та відстежувати конкретні об’єкти.

Українські чиновники повідомили, що частина випробуваних Росією дронів зі штучним інтелектом вибухнула після удару, тоді як інші безпілотники залишилися неушкодженими.

Вони показали журналістам The New York Times уламки двох таких дронів, після чого видання сфотографувало встановлені всередині них комп’ютерні модулі Nvidia та передало ці знімки компанії.

У компанії підтвердили, що на переданих їм знімках видно мінікомп’ютер Jetson Orin.

Експерти також виявили такі модулі на різних видах російської зброї, при цьому їхня вартість становить лише кілька сотень доларів.

Водночас у компанії заявили, що цей мінікомп’ютер є споживчим продуктом і продається студентам, розробникам та стартапам для різних практичних завдань.

За їхніми твердженнями, компанія не постачає цей мінікомп’ютер до Росії, хоча придбати його там можна через посередників.

Україна також проводила випробування систем штучного інтелекту, які можуть самостійно визначати цілі.

Колишній міністр оборони Михайло Федоров наприкінці минулого місяця розповів газеті The Times, що протягом останніх кількох місяців українські військові тестували повністю автономну систему штучного інтелекту в окупованому Росією Криму.

За його словами, ці системи використовували для наведення на паливні сховища та військову техніку, при цьому жоден цивільний не постраждав.

Нагадаємо, що українські військові вже застосовують понад 70 систем зі штучним інтелектом і комп’ютерним зором для ураження ворожих цілей.

За допомогою цих технологій дрони можуть орієнтуватися на місцевості, розпізнавати об’єкти та самостійно наводитися на них, однак рішення про завдання удару в кожному випадку приймає оператор.

Document: PDF proof of the edited version of the news item "Дрон із системою штучного інтелекту самостійно обрав ціль: він забрав життя трьох людей у Запоріжжі — NYT". It helps compare changes with the previous recorded version and confirms that the update was detected by the monitoring system. Source: ZN.ua.