Штучний інтелект на війні: чому автономна зброя може бути загрозою
Хоча прийнято вважати, що зброя із застосуванням технологій штучного інтелекту дозволяє з високою точністю вражати цілі, знижуючи таким чином непотрібні збитки та втрати серед мирного населення, існують занепокоєння щодо застосування ШІ та машинного навчання у збройних конфліктах
У Львові відбулася лекція на тему «Етика війни і штучний інтелект». Спікером виступив Андрій Гриниха, координатор програми «Комп’ютерні науки» Факультету прикладних наук УКУ. ІА Дивись.info розповідає про головне з лекції.
Штучний інтелект використовують для ведення війни: є загроза
Спостерігаючи за новинами, розпочав Андрій Гриниха, ми можемо спостерігати за появою новітніх технологій під час ведення воєн. Йдеться не тільки про Україну.
«В контекті подій, які зараз відбуваються в Секторі Гази, можна помітити таку тенденцію: ізраїльська армія активно використовує системи штучного інтелекту».
Деякі дослідники, зокрема Пол Шаре, вбачають у поширенні використання ШІ загрозу:
«Пол Шаре є доволі песимістичним щодо ситуації, яка в нас зараз є. Його основна теза полягає в тому, що автономні технології настільки стрімко розвиваються, що у нас є все менше регуляторних практик, аби їх контролювати. Він каже, що оскільки спершу Західний світ використовували ШІ, то зараз дуже багато цих систем переходить до терористичних організацій. Це одна з найбільших загроз майбутнього».
Що таке автономна зброя та чому люди проти розробок
Андрій пояснив, що автономна зброя (автономні технології) — зброя, яка може вражати цілі без втручання людини. На сучасному етапі розвитку для управління цією зброєю використовують штучний інтелект — програмне забезпечення.
«До прикладу, у США періодично відбуваються протести проти використання автономної зброї. Люди вимагають зупинити розробки», - поділився Андрій.
Автономна зброя створює низку труднощів та проблем, пов'язаних із ймовірністю помилки та відсутністю відповідальності. Багато хто побоюється, що повністю автономна зброя не здатна дотримуватись норм Закону про збройні конфлікти, оскільки ШІ не здатний напевно відрізнити воєнного від цивільної особи. Водночас такі технології можуть значно посилити бойові можливості армії, адже діятимуть навіть за відсутності зв'язку.
Причин для занепокоєння досить багато. Серед них, наприклад, те, що як і будь-яку комп’ютерну систему, «роботів-убивць» можна буде «зламати» за допомогою кібератак.
По-друге, що такі роботи можуть просто вийти з ладу й призвести до масштабної катастрофи.
По-третє, в разі порушення гуманітарного права питання полягатиме в тому, хто саме нестиме за це відповідальність, адже робот діятиме самостійно. Більше того, така зброя може потрапити до рук недержавних акторів, включаючи терористичні угруповання.
«Загалом технології виникають швидше, ніж закони, які регулють використання цієї зброї», - зазначив Андрій.
Використання автономної зброї у Секторі Газа
Армія оборони Ізраїлю вважається однією з найпередовіших армій світу. Ще 2022 року у звіті про її розвиток йшлося про те, що військові у співпраці з оборонною промисловістю розробили «широкий спектр революційних технологій». Тепер ці технології застосовуються на війні у секторі Газа. Зокрема, за словами представників ЦАХАЛ, значну роль як у системах озброєнь, так і в цілі визначають тепер технології штучного інтелекту, хоча остаточне рішення про завдання ударів залишається за людиною.
«Вони користовують ці технології для виявлення високопосадовців Хамасу і їхнього подального знищення. Зараз же, після 7 жовтня 2023 року, коли Хамас зробив атаку на Ізраїль, і розпочалася сухопутна атака, Ізраїль цю систему використовує активніше. Тепер вони виявляють не тільки посадовців, але й прихильників Хамасу — комбатантів, офіцерів тощо», - розповів фахівець.
Що важливо, під час використання автономної зброї для атак на прихильників Хамасу, ізраїльська сторона не надто зважає на присутність інших людей в об'єктах ураження.
«Були випадки, що ті, хто приймав рішення в ізраїльскому штабі, не сильно перевіряли, а хто ж іще є у конкретному будинку перед знищенням. Ізраїль часто за це критикують: його військова машина повністю зносить цілі квартали разом з цивільними».
Матеріали у рубриці «Погляди» є відображенням виключно точки зору автора, яка може бути як об'єктивною, так і суб'єктивною. Редакція може не поділяти думок і поглядів, викладених тут та не несе відповідальності за достовірність й тлумачення викладеної інформації, натомість виступає виключно платформою для розміщення матеріалу.
