США та РФ прибрали з проєкту правил ООН вимогу щодо перевірки цілей, визначених ШІ

США та Росія вилучили з проєкту документа ООН щодо автономної зброї вимоги, щоб системи працювали «передбачувано» й «надійно» та обов’язкову перевірку людиною цілей, визначених ШІ, перед ударом.

Про це повідомило видання The Washington Post з посиланням на власні джерела та отримані документи.

На початку вересня сотні дипломатів зібралися у великому конференц-залі ООН у Швейцарії, де працювали над угодою, яка мала регулювати застосування летальної автономної зброї та стати першою домовленістю щодо бойових систем зі штучним інтелектом.

В останній день переговорів дипломати США та Росії домоглися вилучення з документа низки положень, покликаних забезпечити безпечне застосування штучного інтелекту в озброєнні.

За словами співрозмовників видання, із тексту вилучили вимоги, щоб системи працювали «передбачувано» й «надійно», а під час застосування зброї зі ШІ враховували етичні міркування.

Делегації США та Росії також прибрали положення, яке вимагало перевірки людиною цілей, визначених ШІ, перед ударом.

На закритому засіданні, після того як вимкнули камери ООН і вивели спостерігачів громадських організацій, США та РФ залучили приблизно по десять юристів. Це майже вдвічі більше за чисельність інших делегацій. За словами трьох співрозмовників, зміни вносили так швидко, що менші делегації не встигали за процесом.

Переговори відбуваються на тлі гострої публічної дискусії про загрози, які розвиток ШІ може становити для існування людства. Керівники технологічних компаній закликають світових лідерів спільно встановити обмеження для цієї технології. ООН уже кілька років намагається врегулювати застосування зброї зі ШІ, але досі досягла лише обмеженого поступу.

Водночас спроби запровадити правила всередині США зайшли в глухий кут: адміністрація Трампа стверджує, що будь-яке регулювання ШІ стримуватиме інновації.

«Сполучені Штати також цілковито відкидають будь-які спроби створити глобалістську схему контролю над штучним інтелектом, про який зараз так багато говорять, — надалі його офіційно називатимуть „надінтелектом“», — заявив президент США Дональд Трамп.

Нагадаємо, що нещодавно стало відомо: під час активної фази бойових дій проти Ірану США ледь не атакували китайське судно, яке нібито перевозило компоненти для програми створення ядерної зброї. Причиною став помилковий розвідувальний звіт, підготовлений за допомогою ШІ.

Лише незадовго до запланованої операції посадовці ретельніше перевірили звіт, який підготував аналітик Командування сил спеціальних операцій. Вони з’ясували, що за запитом аналітика чат-бот поєднав розвідувальну інформацію з відкритих джерел із таємними даними радіоелектронної розвідки, що перебували в розпорядженні уряду, і зробив помилковий висновок щодо вантажу судна. Після цього аналітик знову скористався ШІ, щоб оформити висновки у вигляді стандартного розвідувального звіту, та поширив його.

За словами одного із джерел CNN, звіт був «цілковито неправдивим». Водночас він «ледь не розпочав війну», — наголосив співрозмовник. Будь-яка американська операція проти китайського судна могла перерости у збройний конфлікт між двома країнами.