Китай обеспокоен, что гонка вооружений ИИ может привести к случайной войне

Ведущие аналитики Китая выразили обеспокоенность желанием интегрировать искусственный интеллект в оружие, а также военную технику. По их мнению, данные действия могут привести к развязыванию случайной войны между странами.
Согласно опубликованному отчету “Центра новой американской безопасности”, власти Поднебесной вносят “гонку вооружений” с использованием ИИ в число глобальных угроз для всего мира. Многие страны стараются использовать ИИ во все больших сферах жизнедеятельности, в том числе и военной, поэтому стоит опасаться того, что в какой-то момент актуальные нормы права устареют и тем самым не смогут регулировать взаимоотношения стран, что в свою очередь приведет к конфликтам.


“Конкретный сценарий, описанный мне одним анонимным китайским чиновником — это непреднамеренная эскалация, связанная с использованием беспилотника,” — рассказал Грегори Аллен, старший научный сотрудник CNAS и автор нового отчета.
Согласно его объяснениям, управление разного рода беспилотниками становиться возможным без вмешательства человека. Американские разработчики уже научили дроны выполнять самостоятельно ряд простых задач. Но Китай уже продвинулся дальше в плане введения более высоких уровней автономии. Одним из примеров является дрон Blowfish A2, который Китай экспортирует на международном уровне и который, по словам Аллена, рекламируется как способный к “полной автономии вплоть до целевых ударов”.
Военные зачастую используют беспилотники в спорных воздушных пространствах не рискуя человеческими жертвами. Происходящее уже похоже на сюжет фильма о кибервойне, где страны будут вторгаться на территории других государств вовсе не рискуя своими солдатами.


Пока неясно, как любая из сторон будет интерпретировать определенное поведение [включая автономное оборудование]. Сторона, отправляющая автономный беспилотник, будет думать, что это не имеет большого значения, потому как дрон не несет существенных рисков для другого государства. В то время как другая сторона может сбить его и расценить это как вторжение.
Риски при таком сценарии становятся больше, если учитывать расширенную автономию устройств. Например, если беспилотник или робот стреляют предупредительным выстрелом по вражеским войскам, как это действие будет интерпретировано? Будут ли войска понимать, что это решение робота или они будут думать, что это приказ командующего человека?