Запретить Терминаторов?

Готов ли мир к появлению роботов-убийц?

Более 100 специалистов из 26 стран мира обратились к ООН с призывом запретить разработку и использование автономных систем летального оружия. По их мнению, мир стоит на грани новой гонки вооружений.

https://www.theguardian.com/technology/2017/aug/20/elon-musk-killer-robots-experts-outright-ban-lethal-autonomous-weapons-war

Авторы послания указывают, что новые типы высокотехнологичных военных систем могут стать оружием диктаторов и террористов, а также использоваться хакерами в недопустимых целях.

Идея автономного оружия и искусственного интеллекта, им управляющего, великолепно отыграна Голливудом - достаточно вспомнить фильм 'Робокоп' Пола Верхувена и знаменитую киносагу 'Терминатор'. Сегодня на телеэкраны и в интернет-пространство попадает в основном информация о мирных проектах в этой сфере. Но военные разработки уже зашли довольно далеко, рассказал также подписавший письмо в ООН гендиректор компании NaviRobot Игорь Кузнецов: 'Уже, если проводить аналогии, то мышцы, скелет и спинной мозг военных роботов практически уже готовы по технологиям, не хватает пока еще только искусственного интеллекта, который принимал бы решения. Если этот искусственный интеллект разрабатывать бесконтрольно, то, конечно, может это привести к печальным последствиям. Там будет отсутствие такого барьера, как мораль. Это будет стопроцентно чистый робот-убийца'.

Появление смертоносных систем вооружения, управляемых искусственным интеллектом без участия человека - будущее уже ближайшее. Это и понятно: одна из главных проблем в современном бою - несовершенство каналов связи, которые могут быть повреждены либо блокированы. При этом очевидно, что сбои в работе боевых роботов или их попадание 'не в те руки' действительно ничего хорошего не сулят. Появление таких боевых систем - дело нескольких лет, поскольку остановить процесс их создания вряд ли удастся, считает директор по науке и технологии проекта 'Джейн' Роман Душкин: 'Технологии уже шагнули в такую сторону, что письма в ООН писать, в общем-то, поздно.

Кто когда слушал запреты ООН из крупных игроков, которые действовали всегда с позиции силы и себе на уме? Все это будет продолжаться явно или тайно, в конце концов. Я думаю, что ближнесрочная перспектива в пять лет - это вполне обосновано. Нам надо всем готовиться и как-то учиться жить в новом мире'.

При этом сейчас невозможно сказать, кто именно окажется лидером в сфере военной робототехники. Во всяком случае, это совсем не обязательно будет Америка, считает аналитик группы компаний 'Финам' Леонид Делицын: 'Шанс, что именно Соединенные Штаты выиграют эту гонку, сейчас кажется не очень высоким. Например, Китай может вполне успешно принять в ней участие. И тревога по этому поводу открыто звучит в американской прессе, что китайские инвесторы проникают в американские стартапы со своими деньгами'.

Практика показывает, что до сих пор новые технологии в любом случае пробивали себе дорогу, в том числе в военной области. Но, может быть, человечество уже успело накопить в этом плане критическую массу негативного опыта?

Илон Маск, кстати, и раньше не раз заявлял, что, по его мнению, искусственный интеллект является одной из самых опасных угроз человечеству и что в этой области необходим строгий контроль.

Как сообщают зарубежные СМИ, военные роботы разрабатываются в том числе и в России.

Ничего нового. Мёртвую руку когда ещё придумали. Суицидальные извращенцы...

РФ не присоединялась к этой коллективной просьбе.

Гонка автономных вооружений началась.

Ну то что ООН сейчас это профанация это все понимают.Поэтому пока есть противоборствующие страны всё что связано с разработкой и производством новых систем вооружений будет процветать,до их первого применения конечно же в тайне.

Более 100 специалистов из 26 стран мира

Некоторые сторонники автономных систем вооружения утверждают, что эти системы можно программировать так, чтобы они действовали более 'осторожно' и точно, чем люди, и, следовательно, применять их с целью сокращения случайных потерь среди гражданского населения.
С другой стороны, их оппоненты утверждают, что у автономных систем вооружения никогда не будет присущего человеку здравого смысла, который необходим для законного применения силы, и что их применение скорее приведет к усугублению гуманитарных последствий.

Эти системы вооружения заставляют также задуматься над серьезными вопросами нравственного порядка, и их широкое распространение изменило бы коренным образом существующие взгляды на ведение военных действий. Главный вопрос для всех нас состоит в том, могут ли принципы гуманности и требования общественной совести разрешить машинам принимать решения о том, кому из людей жить, а кому умереть.

Автономная система вооружения - это машина, и она не может понести ответственность за нарушение международного гуманитарного права.

Возникает вопрос, выходящий за рамки ответственности тех, кто разворачивает эти системы: кто понесет юридическую ответственность, если в результате функционирования автономной системы вооружения будет совершено военное преступление - инженер, программист, изготовитель или командир, который привел оружие в действие?

Если ответственность не может быть определена как того требует международное гуманитарное право, можно ли признать развертывание таких систем законным или этически оправданным?

"убить всех человеков" (С) !!!

в частные руки будут продавать? я бы купил пару (если не слишком дорого).

Бонк
понесет юридическую ответственность, если в результате функционирования автономной системы

у автономных систем вооружения никогда не будет присущего человеку здравого смысла, который необходим для законного применения силы

Там будет отсутствие такого барьера, как мораль.

Шанс, что именно Соединенные Штаты выиграют эту гонку, сейчас кажется не очень высоким

Готов ли мир к появлению роботов-убийц?

teppo
потому и завошкались, мораль тут сразу приплетать начали.
Атомную бонбу сбросить на япошек никакая мораль не мешала, а тут надо же, роботы-убийцы их волнуют

Япошки до сих пор опомниться не могут! 😀

драго

Какой странный вопрос.Роботы-убийцы уже давно применяются.Смотри минное оружие.

Ну к минам если не походить,ничего не станет,а эти сами придут

pakon
Ну к минам если не походить,ничего не станет

.Все одно,кнопку оставят, да или нет.Как при удалении файлов.

Ну так не может быть. Не исключены случайные заходы в тч и дрейфующих судов с поломкой силовой установки. В том то и проблема, как машина будет различать цели.

Ну так не может быть.

Станислав Лем "Мир на Земле" 1984

"Гонка вооружений на Земле становится обременительной для всех её участников: оружие дорожает, а всё больше людей отказываются от участия в войнах. Это приводит к подписанию новой Женевской конвенции: все разработки вооружения переводятся на Луну и продолжаются без вмешательства людей. Каждая страна имеет свой сектор, в котором в течение некоторого времени искусственный интеллект моделирует вооружение, а затем производит и испытывает его. Таким образом, применение оружия и начало военных действий становится невозможным без предварительного уведомления Лунного Агентства. Становится реальностью глобальный мир"
https://ru.wikipedia.org/wiki/%D0%9C%D0%B8%D1%80_%D0%BD%D0%B0_%D0%97%D0%B5%D0%BC%D0%BB%D0%B5

Не исключены случайные заходы в тч и дрейфующих судов с поломкой силовой установки. В том то и проблема, как машина будет различать цели.

Alexandr13
Тесла пока бесплатно убивает!!

ЛЕНЭНЕРГО

Не думаю.