США ледь не атакували китайське судно через помилковий звіт, згенерований ШІ

Під час активної фази бойових дій проти Ірану США ледь не атакували китайське судно, яке нібито перевозило компоненти для програми створення ядерної зброї, через помилковий розвідувальний звіт, згенерований ШІ.

Про це повідомило видання CNN.

Американські військові розпочали підготовку до перехоплення судна, повідомили чотири джерела видання, обізнані з перебігом подій.

За словами двох співрозмовників, озброєні американські військовослужбовці готувалися висадитися на його борт. Одне із цих джерел та ще один співрозмовник, обізнаний з інцидентом, заявили, що військові літаки вже перебували в повітрі.

Лише незадовго до запланованої операції посадовці ретельніше перевірили звіт, який підготував аналітик Командування сил спеціальних операцій. Вони з’ясували, що документ створили за допомогою штучного інтелекту, а використаний аналітиком чатбот неправильно визначив матеріал, який перевозило судно.

Аналітик звернувся до чатбота із запитом щодо розвідувальних даних про вантажний маніфест судна, які надійшли від розташованого на Гаваях Тихоокеанського командування Сил спеціальних операцій США.

Чатбот поєднав розвідувальну інформацію з відкритих джерел із таємними даними радіоелектронної розвідки, що перебували в розпорядженні уряду, і зробив фатальний висновок щодо матеріалу, який перевозило судно. Після цього аналітик знову скористався ШІ, щоб оформити висновки у вигляді стандартного розвідувального звіту, та поширив його.

За словами одного із джерел, звіт був «цілковито неправдивим». Водночас він «ледь не розпочав війну», наголосив співрозмовник. Будь-яка американська операція проти китайського судна могла перерости у збройний конфлікт між двома країнами.

«Застосування ШІ для вибору цілей безумовно набирає обертів, але чітких рекомендацій щодо того, як участь людини в процесі допоможе запобігти жертвам серед цивільного населення або ураженню власних сил, немає», — пояснив один зі співрозмовників видання, обізнаний із чинною політикою військових.

За словами одного зі співрозмовників, «галюцинація», яку в цьому випадку створив використаний аналітиком інструмент, не була поодиноким інцидентом у розвідувальній спільноті відтоді, як такі системи почали поширюватися в державних установах.

На початку 2026 року міністр оборони США Піт Гегсет оприлюднив «Стратегію прискорення розвитку штучного інтелекту», що передбачає широке застосування ШІ у військах. Міністерство планує зробити ці технології доступними через кілька програм, щоб «демократизувати експерименти зі штучним інтелектом і трансформацію в усьому міністерстві».

«Ми дамо простір для експериментів, усунемо бюрократичні перешкоди, зосередимо інвестиції та продемонструємо підхід до реалізації, необхідний для збереження нашого лідерства у сфері військового ШІ», — заявив Гегсет під час оголошення стратегії.

Наприкінці вересня президент США Дональд Трамп заявив про створення нового роду військ у структурі Збройних сил США під назвою «AI Force». Новий рід військ має займатися розвитком штучного інтелекту у війську та обробляти великі масиви інформації.