Размер шрифта

A
A

Межстрочный интервал

A
A

Цвет

A
A

Профессор ЮФУ выступил с докладом на конференции ООН

02.05.18

В Женеве 9-13 апреля прошло очередное заседание Организации Объединённых Наций, на котором обсудили вопросы разработки и применения смертоносных автономных систем.

 

Внимание теме разработки и применения смертоносных автономных систем привлекло открытое письмо 89 руководителей компаний по производству робототехники, экспертов и учёных, опубликованное на сайте Института Будущего Жизни (Future of Life Institute). Обращаясь к ООН, авторы письма отметили, что «автономные системы летального вооружения угрожают стать третьей революцией в военном деле. По мере их разработки, они позволят вести боевые действия в гораздо более широких масштабах, чем когда-либо, и гораздо быстрее, чем люди смогут осознать. Они могут стать оружием террора, которое может быть использовано против мирного населения, которое будучи взломано хакерами поведёт себя нежелательным образом».

В состав группы экспертов по вопросам смертоносных автономных систем вооружения (САС), от Российской Федерации был включен директор НИИ робототехники и процессов управления ЮФУ Вячеслав Пшихопов.

12 апреля в рамках Конференции состоялась панельная дискуссия.  В заседании приняли участие делегации более 100 государств, более 20-ти из них возглавлялись послами. Председательствовал на заседании Его Превосходительство, Посол и Постоянный представитель Индии на Конференции по разоружению, г-н Амандип Гилл. В дискуссии также приняли участие еще четыре эксперта: профессор Университета Дюка (США) М. Камингс, профессор Университета наук и технологий (Гонконг) П. Фанг, профессор Университета “Колледж Лондона” (Великобритания) Т. Гиллиспи, профессор Университета Намура (Бельгия) Д. Ламбер.

Дискуссия состояла из двух раундов. В первом из них эксперты высказались о состоянии и перспективах применения интеллектуальных технологий в военной области, обсудили плюсы и минусы различных подходов к описанию и оценке уровня технологий, ответили на вопросы делегаций. Во втором раунде в том же формате обсуждались вопросы человеко-машинного взаимодействия.

В начале своего выступления профессор Вячеслав Пшихопов поприветствовал делегатов конференции и поблагодарил Его Превосходительство, Посла Амандипа Гилла за предоставленную возможность выступить с изложением своего взгляда на развитие интеллектуальных технологий управления движением автономных систем и поделиться некоторыми соображениями по  негуманному оружию.

В своей презентации профессор отразил те основные проблемы, вопросы и решения, которые волнуют научно-техническое сообщество и не только в России. Говоря о средствах военной наземной робототехники, Вячеслав Пшихопов отметил, что по большей части сегодня эти системы являются дистанционно-управляемыми, т.е. предполагают участие человека-оператора в контуре обратной связи. Реализация подобных систем имеет ряд несомненное преимущество- наличие контроля оператором на все стадиях управления. С этим же преимуществом связаны и недостатки подобных систем – дальность функционирования определяется дальностью канала связи, эффективность функционирования такой системы зависит от психо-физиологического состояния оператора, неспособность оператора оперативно реагировать на неопределенность и динамичность изменения среды функционирования и т.д. Как пример – до 10% потерь боевых беспилотников, по данным американских источников, связаны с ошибками оператора. Я думаю, что подобные цифры характерны и для других, а не только американских, беспилотников.

Очевидно, что разработчики средств гражданской и военной робототехники заинтересованы в повышении эффективности ее функционирования. Тогда возникает вопрос: как повысить эту эффективность? Иными словами, как повысить способность технической системы более эффективно решать поставленные перед ней задачи в сложных, динамических или неопределенных средах? При управлении движением технической системы ответ очевиден – ее трансформация в автономную систему, т.е. исключение оператора из контура управления.  Как это сделать, чтобы оператор мог сосредоточиться на управлении специальной нагрузкой технической системы, в том числе летальным оружием? Ответ очевиден – использовать искусственный интеллект. “Но, пожалуй, я тут соглашусь с экспертами IEEE, - отметил Вячеслав Пшихопов. - Я соглашусь также с мнением профессора Джоном Маккарти – автором этого термина. Искусственный интеллект как эмуляция творческой деятельности человека – это перспектива ближайших десятилетий. А вот под “интеллектуальными технологиями управления движением” технических систем мы понимаем математические  методы  и реализующие их программно-аппаратные средства, предназначенные для парирования неопределенностей среды функционирования технической системы при организации ее движения при решении задачи по назначению “ .

Таким образом, если говорить о структуре автономной системы, то она состоит из системы управления движением (автономной и интеллектуальной) и системы управления летальным оружием. Если последняя является также автономной, то можно говорить о смертоносной автономной системе.

НИИ робототехники и процессов управления ЮФУ как раз и занимается разработкой интеллектуальных систем управления движением транспортных устройств. Профессор Вячеслав Пшихопов продемонстрировал разработки с примитивным интеллектом - наземной транспортной тележки и надводного мини-корабля, которые парируют неизмеряемые внешние возмущения, с высоким качеством отрабатывая заданные траектории.

- Мы также рассмотрели ряд известных подходов к реализации интеллектуальных систем управления движения, включая нейросетевые, геометрические, биоинспирированные и другие. Взяли ряд типовых динамических сред, о которых автономный квадракоптер не имел никакой информации, т. е. для него среда была полностью неопределенной. И поставили перед ним задачу пролететь через типовые сцены. Затем мы получили важные значения критериев таких как быстродействие, безопасность, длина траектории, успешность решения поставленной задачи. Были получены очень интересные качественные результаты, которые для двумерного случая были опубликованы в известном издании Эльзивир, - рассказал Вячеслав Пшихопов.

Но до сих пор в основном говорят об автономности одиночных устройств и систем. Управление движения ими в неопределенных средах сегодня может быть успешно решено с использованием интеллектуальных технологий.

Но как быть с управлением группой автономных систем? Одним из первых реализаций была организация поведения “волчьей стаи” противокорабельных крылатых ракет, реализованная в Советском Союзе еще в 80-х годах. Более поздние и интересные примеры получены  американскими коллегами по управлению группами беспилотников, которые сбрасываются с транспортного самолета и в автономном режиме определяют поиск расположения средств ПВО противника. И второй пример – защита надводного корабля группой безэкипажных катеров. Очевидно, что групповое применение является более эффективным и в обороне, и в нападении.  Естественно, на вопросы управления движением подобных групп сегодня обращают внимание различные исследовательские организации во всем мире.

Как управлять такой группой? Понятно, что группа, состоящая из N устройств, не может эффективно управляться группой из N операторов. Невозможно будет координировать их действия.

Этой проблеме – автономному управлению движением групп технических устройств, уделяется в мире пристальное внимание. В частности, были представлены некоторые результаты моделирования управления движением групп коптеров в неопределенных средах, полученные НИИ РиПУ для случая супервизорного управления и аналогичные результаты известной школы университета Бостона.

Эти наработки актуальны для самых различных гражданских отраслей, связанных с мониторингом сельхозугодий и лесных массивов, транспортировкой неделимых грузов и т.д.

Теперь несколько слов об автономизации систем управления летальным оружием. В 2016 году использование интеллектуальных технологий в системах технического зрения позволило превзойти способности человека по вероятности распознавания объектов и лиц. И если теперь из технической сферы перейти в гуманитарную, то хотелось бы задать вопрос: что является более гуманным, ошибочное, в силу его состояния, поражение мирного жителя оператором или более точное поражение террориста техническими средствами с использованием интеллектуальных технологий? Этот вопрос был адресован специалистам, представленным на конференции по негуманному оружию.

Во ходе дискуссии профессор Вячеслав Пшихопов ответил на вопросы делегаций Китая, Кубы, Сьера-Леоне, Сальвадора, Венесуэлы.

Следующая сессия Конференции по негуманному оружию, посвященная САС, состоится в Женеве в августе 2018 года.