Використання штучного інтелекту у військових цілях: науковці проти

Використання штучного інтелекту у військових цілях: науковці проти

Ілон Маск закликає ООН заборонити використання ШІ у розробці систем озброєння

У відкритому листі, опублікованому на сайті організації Future of Life Institute (FLI), Ілон Маск, Стівен Гокінг та інші провідні винахідники нашого часу висловили побоювання щодо розробки автономних систем озброєння. На їхню думку, “розумна зброя” здатна самотужки обирати та атакувати цілі без контролю з боку людини, а це може спровокувати розв’язання нових війн та етнічних чисток та посилити позиції терористів, що призведе до глобального хаосу.  

Підписанти листа звертають увагу на те, як швидко автономні системи озброєння можуть потрапити на чорний ринок або до рук диктаторів. «На відміну від атомної зброї, автономне озброєння не потребує використання дорогої сировини й особливої ручної збірки. Отже, така зброя стане доступною для масового використання у будь-якій великій країні світу», сказано в листі.

Сьогодні технологія ШІ досягла такого рівня розвитку, що розгортання і застосування автономних систем озброєння є питанням вже не десятиліть, а років. До 2030 року можливості високоточних військових машин збільшаться настільки, що їхнє функціонування взагалі не потребуватиме людського контролю. З’являться і юридичні перепони до врегулювання наслідків використання, адже прихильники та супротивники впровадження “розумної зброї” не можуть домовитися, що саме і за якими параметрами вважати автономними системами озброєння. 

Стів Возняк співзасновник компанії Apple, Ян Таллінн співзасновник Skype, Деміс Хаббіс виконавчий директор компанії DeepMind, що займається розробками та дослідження ШІ для Google та інші експерти вважають помилковою ідею того, що технологія автономної зброї зменшить людські втрати на війні. Натомість, «розумна зброя» сама по собі може стати причиною нових війн.

«Автономне озброєння ідеально підійде для вбивств з політичних мотивів. Воно може використовуватися в операціях по дестабілізації країн, для поневолення населення та вибіркового знищення конкретних етнічних груп».

Наприкінці листа підписанти вказують на те, що впровадження автономного озброєння може загальмувати дослідження ШІ в тих аспектах життя, які могли б принести велику користь суспільству. Автори листа говорять про необхідність офіційної заборони розробки зброї, яка не контролюється людиною, і закликають ООН втрутитися у цей процес.