"Создание роботов-убийц — очень и очень плохая идея". Создание роботов-убийц — очень и очень плохая идея Дмитрий, идейный вдохновитель и мастер на все руки

У Дмитрия Мелькина и Павла и Бориса Лонкиных вопросов о том, кого взять в команду для участия в боях роботов, не было. Ребята знали друг друга еще по «Бауманке», потом вместе собирали и устанавливали электростанции на солнечных батареях. Однажды Дмитрий увидел объявление о соревнованиях по робототехнике и подал заявку. Друзья поддержали инициативу, и через месяц в гараже стоял первый боевой робот команды Solarbot — Бронтозавр.

Первый робот комом

Весил Бронтозавр целый центнер и, как сейчас признаются его создатели, не отличался ни надежностью, ни гениальными конструктивными решениями. Неудивительно: собирали его отчасти по наитию, отчасти по нечетким скриншотам с видео с английских соревнований Robot Wars.

После Бронтозавра, по несколько раз пересчитав и переделав основные узлы, Дмитрий, Борис и Павел собрали своего второго робота. За внешнее сходство с ракушкой его назвали Shelby, от английского shell — «ракушка». Shelby, сын ошибок трудных, сначала победил всех на «Битве роботов — 2016» в Перми, организованной Московским технологическим институтом (МТИ) и компанией Promobot, а потом вместе с машинами двух других российских команд стал участником международных соревнований в Китае. Как устроен робот-победитель и чего стоило его сделать, рассказывают его создатели.

Дмитрий, идейный вдохновитель и мастер на все руки:

«Наша большая гордость — это ходовая часть Shelby. С ходовой его предшественника мы возились буквально после каждого боя. Когда мы делали Shelby, ходовую вытачивали, перебирали и собирали заново много раз, зато теперь про нее можно вообще забыть. В будущих проектах нам останется работать только над сохранением надежности и увеличением мощности. Было бы неплохо, например, чтобы наш новый робот мог сдвинуть с места не одного, а сразу двух роботов противника».

Цепи у Shelby от мопедов, колеса — от гоночного карта, а электромоторы — от радиоуправляемых моделей машин. Для боевых роботов детали не производят, поэтому искать их приходится на блошиных рынках и в интернете. Хорошие детали очень дороги, и конструкторы, как правило, делают их самостоятельно.

Борис, конструктор, прочнист:

«Shelby относится к типу флиппер, «переворачиватель». Он оснащен пневмосистемой, которая с силой выталкивает крышку наверх. Это главное оружие робота и его способ стабилизации: опрокинувшись, он может одним рывком перевернуться и встать на колеса. Но создать высокое давление в пневмоцилиндре, чтобы сделать удар крышки мощным, мы не могли — не было нужных клапанов. Оставалось одно: заставить систему срабатывать как можно быстрее. Решение оказалось простым: мы избавились от лишнего гидравлического сопротивления и доработали заводские клапаны. В будущем, конечно, понадобится клапан высокого давления. Готовый стоит дорого, около 200 тысяч рублей, поэтому сейчас мы думаем над собственной конструкцией».

Боевые роботы — хобби не из дешевых: нужно минимум 200−300 тысяч рублей плюс расходные материалы, запасные колеса и все, что ломается и заменяется в бою. И это без учета затраченного времени и труда. «Чтобы собрать робота, команде из трех человек нужно месяца на два перестать ходить на работу», — смеются инженеры Solarbot. Сэкономить не удастся даже на электронной начинке.

Павел, программист:

«Главное достоинство электроники Shelby в том, что ее очень мало. Чтобы не брать в руки паяльник после каждого боя, нужно обеспечить роботу необходимый минимум «мозгов». У Shelby простые заводские контроллеры, и только клапанами управляет маленькая плата. Вывести его из строя очень сложно. Даже когда в Китае вместо привычных свинцовых аккумуляторов нам выдали мощные литиевые и провода через пару минут не выдержали, электроника робота не пострадала».

Боевой робот Shelby

Скорость до 25 км/ч Усилие на штоке пневмоцилиндра 2 т Мощность двигателя 2,2 кВт Запас пневмоударов без смены баллона 30−35 Управление дистанционное Правилами «Битвы роботов» запрещены любые отделяемые части и листовое железо, поэтому Shelby ничем не стреляет и не размахивает, а его корпус сделан только из металлического профиля.

Команда Solarbot построила выносливого железного солдата, но и у него есть предел прочности. В Китае он пострадал от вращающихся ножей китайских спиннеров, в Перми — от клешней робота-матанги, который восьмитонным усилием режет металлический профиль, как масло. На его железных ребрах — рваные раны. Создатели готовят ему судьбу экспоната: он будет участвовать в фестивалях (в ближайших планах — летний Geek Picnic), а на арене на смену ему придет новый боец — тоже флиппер, только быстрее, мощнее и еще надежнее. Усилие подъема крышки станет вдвое больше, чем у Shelby, мощность мотора увеличится с 2,2 до 2,8 кВт, вырастет скорость. С новым роботом российская команда мечтает попасть на Robot Wars в Англию.

Но будущий флиппер не предел мечтаний Solarbot. Сейчас Дмитрий ведет переговоры с другими командами и ищет спонсоров: если все сложится, то в России появится первый «мегабот» — такой же большой и грозный, как японские, американские и китайские многотонные монстры.

Благодаря поддержке Московского технологического института россияне впервые попали на международный турнир боевых роботов FMB Championship 2017 в Китае. Бой приняли Shelby, казанский Деструктор и петербургский Energy, который прошел в полуфинал.

WikiHow работает по принципу вики, а это значит, что многие наши статьи написаны несколькими авторами. При создании этой статьи над ее редактированием и улучшением работали, в том числе анонимно, 14 человек(а).

Хотели ли вы когда-нибудь построить боевого робота? Вы вероятно думали, что это слишком дорого и опасно. Тем не менее, большинство соревнований боевых роботов имеют весовую категорию 150 грамм, включая RobotWars. Этот класс в большинстве стран называется "Antweight" (англ. – муравьиный вес) и "FairyWeight" (англ. – вес как у феи) – в США. Они намного дешевле больших боевых роботов и не такие опасные. Поэтому они идеально подходят для новичков в деле боевых роботов. Эта статья расскажет вам как спроектировать и построить боевого робота класса Antweight.

ПРИМЕЧАНИЕ : Эта статья подразумевает, что вы уже читали и строили простого радиоуправляемого робота. Если нет, вернитесь исначала сделайте его. Следует отметить, что эта статья не является рекомендацией использования определенной части вашего робота. Это необходимо для поощрения творчества и разнообразия среди роботов.

Шаги

Разберитесь в правилах. До того, как проектировать робота для соревнований, вы должны понимать все правила. Их можно найти Наиболее важное правило сборки, за которым нужно следить, это требования к размеру/весу (4"X4"X4" 150 грамм), и правило металлической брони, в котором говорится, что нельзя иметь броню больше 1 мм толщиной.

Какое оружие вы будете использовать? Важной частью боевого робота является оружие. Придумайте идею оружия, но удостоверьтесь, что не выйдете за рамки правил. Для вашего первого бота класса antweight настоятельно рекомендуется использовать "flipper" (англ. – переворачиватель) или даже "pusher" (англ. – тот, кто толкает). Переворачивающее оружие, если правильно разработано, может быть наиболее эффективным оружием в классе Antweight. Толкающее оружие – самое простое, так как не является двигающимся оружием. Весь робот действует, как оружие, и сталкивает роботов вокруг. Это эффективно, так как правила гласят, что половина арены должна быть без стен. Вы сможете вытолкнуть другого робота из арены.

Выберите ваши детали. Да, вам нужно выбрать ваши детали до проектирования. Тем не менее, не покупайте их. Пока. Просто выберите детали и соответствующий проект. Если что-нибудь не подойдет или не будет работать, пока вы проектируете, вы сохраните деньги, так как ещё сможете заменить детали. И снова, не покупайте пока что детали!

• Выберите сервопривод. Обычно для начинающих классаAntweight рекомендуется использовать сервопривод вместо мотора, так как с помощью сервопривода вам не потребуется контроллер скорости, который сохранит вам деньги и немного веса для вашего робота. Вам стоит искать "микро" сервоприводы, так как они сохранят вам много веса. Удостоверьтесь, что сервопривод "является" 360-модифицируемым. Для боевых роботов рекомендуется брать сервопривод с высоким моментом вращения вместо высокой скорости, чтобы было легче сталкивать других роботов, даже если у вас другое оружие. Сервопривод можно купить
  • Если вы не можете найти сервопривод, идеально подходящий вашим требованиям, просмотрите другой раздел сайта, в котором продаются сервоприводы "Futaba". Futaba – это другая торговая марка, выпускающая сервоприводы. Иногда они имеют другие размеры, чем сервоприводы торговой марки HiTec.
• Выберите мотор для оружия. Если у вас активное оружие (к примеру, не "pusher"), тогда вам, вероятно, понадобится мотор, чтобы оружие двигалось. Если у вас есть оружие, которое должно двигаться действительно быстро (к примеру, вращающееся оружие), тогда вам стоит экипироваться мотором DC (бесщеточный обычно работает лучше, но со щетками тоже будет работать) с контроллером скорости. Не рекомендуется использовать вращающееся оружие для вашего первого робота класса antweight, так как его сложно построить и правильно сбалансировать. Тем не менее, если вы хотите сделать переворачивающее оружие, то вам понадобится сервопривод. Рекомендуется приобрести микросервопривод с особенно высоким моментом вращения, чтобы он мог с легкостью перевернуть другого робота. Ещё она вещь, на которую стоит обратить внимание при выборе сервопривода для оружия – это тип шестеренок. Если вы используете нейлоновые шестерни, а мотор испытывает большие нагрузки, шестерни могут растянуться со временем. Потарайтесь выбрать более выносливые шестерни из металла.
• Выберите колеса. Кода выбираете колеса, помните правило, что робот должен вмещаться в куб 4"X4"X4". Это значит, что у вашего робота должны быть колеса меньшего диаметра. Рекомендуется использовать колеса диаметром 2". Удостоверьтесь, что колеса могут быть легко установлены к сервоприводу и защищены. Ещё одна отличная техника, используемая у боевых роботов любого размера, возможность ездить вверх ногами. Да, управление будет немного обратным, но вы можете предотвратить проигрыш в соревновании за обездвиживание. Для этого сделайте вашего робота ниже ваших колес, чтобы он мог ездить вверх ногами. Вы можете приобрести колеса
• Выберите приемник/передатчик. При покупке приемника, убедитесь в том, что он "отказоустойчив". Это обязательное правило в большинстве соревнований и безопасности. Приемник AR500не имеет этой черты. Вам нужно будет купить приемник для бота BR6000, или другой приемник с отказоустойчивостью. В качестве передатчика рекомендуется использовать SpektrumDX5e. Если вы построили робота на дистанционном управлении из предыдущей статьи на wikiHow, вы можете снова использовать этот передатчик, но вам придется купить новый приемник.
• Выберите батарею. Настоятельно рекомендуется приобрести LiPo-батарею вместо NiHM-батареи. LiPo-батареи легче. Тем не менее, они более опасны, дороги и требуют особое зарядное устройство. Вложите деньги в LiPo-батарею и зарядное устройство, чтобы сэкономить в весе.
• Выберите материал. Материал, из которого сделаны шасси и броня боевого робота, очень важен, так как он укрывает от проколов вражеским оружием ваши электрические компоненты. Существует три варианта выбора: (заметка: вариантов больше, но эти три наиболее подходят для этой весовой категории) алюминий, титан и поликарбонат. Алюминий легкий и прочный, но может быть дорогим и тяжелым в резке. Плюс, он может быть совсем не 1 мм в толщину. Титан легкий и очень прочный, но его тяжело разрезать, и он очень дорог. И к нему также относится правило 1 мм толщины. Поликарбонат, или лексан, легкий, недорогой, легко режущийся, безосколочный, прочный пластик, который иногда используют в защите от пуль. Поликарбонат ещё и пластик, поэтому может быть любой толщины, но рекомендуется использовать толщиной в 1 мм. Настоятельно рекомендуется использовать поликарбонат. Он настолько же прочен, как и пластик, из которого изготовлены стены на арене соревнований класса antweight. Во время покупки удостоверьтесь, что взяли чуть больше, на случай, если вы промахнулись с расчетами. Все эти материалы можно купить

1. Соберите характеристики. Теперь, когда вы выбрали все детали, вам нужно снять размеры и вес. Они должны быть указаны на вебсайте, на котором вы их покупали. Переведите все значения в дюймах в миллиметры, используя конвертер. Запишите характеристики (в мм) всех ваших деталей на лист бумаги. Теперь, переведите значения веса (унции, фунты) в граммы, используя конвертер. Запишите весовые характеристики на бумаге.

   Запроектируйте . Вы хотите, чтобы проект был точным, насколько это возможно. Это значит, что вам стоит попробовать сделать 3D-проект на компьютере, чем 2D-проект на бумаге. Тем не менее, 3D-проект не должен выглядеть сложно. Простой проект из призм и цилиндров подойдет.

   1. Суммируйте вес всех деталей (в граммах) и убедитесь, что сумма будет меньше 150 грамм.
   2. Если у вас нет САПР, скачайте бесплатную версию Sketchup.
   3. Изучите основы Sketchup с помощью бесплатных уроков.
   4. Создайте все детали, которые будете использовать, в Sketchup с записанными ранее размерами.
   5. Разработайте ваш шасси и броню. Удостоверьтесь, что сделали её меньше 4X4X4 дюймов.
   6. Поместите все компоненты в 3D-модельшасси/брони, чтобы увидеть, подходят ли они. Это поможет вам решить, где будут расположены компоненты.

2. Закажите ваши детали. Если все ваши компоненты безупречно подошли к вашему дизайну, заказывайте детали. Если нет, выберите новые детали.

   Соберите его. Теперь вам нужно собрать ваши шасси/броню. Поставьте все ваши компоненты на места, предусмотренные в вашем проекте. Подсоедините все и протестируйте. Вы должны попробовать собрать все так, чтобы можно было легко вынуть компоненты, если им потребуется замена. А компонентам будет требоваться замена чаще, чем у обычного робота, так как этот робот будет сражаться. Атакующие роботы могут повредить вашего. Рекомендуется использовать липучую ленту (Velcro), чтобы хранить детали.

   Практикуйтесь в управлении. Неважно, насколько хорош ваш робот, если вы упадете, вы проиграли. Прежде чем даже думать о соревнованиях, вам нужно попрактиковаться в управлении. Используйте перевернутые чашки как конусы и объезжайте их.Используйте пенопласт в качестве целей и атакуйте его (попробуйте сделать это на маленьком столе, чтобы попрактиковаться в сталкивании, и попытаться не упасть самому). Можете даже купить дешевую радиоуправляемую машину (на другой частоте с вашим роботом), попросить другого человека управлять ей, и попытаться столкнуть или уничтожить машину, не свалившись. Если вы знаете другого человека с роботом класса Antweight, устройте дружественные поединки вместе с ним (если возможно, замените вращающееся оружие на менее деструктивное пластиковое).

3. Соревнуйтесь. Найдите соревнования в вашей зоне и развлекайтесь, разрушая других роботов! Помните, что если вы собираетесь соревноваться в США, вам стоит искать соревнования класса Fairyweight, а не Antweight.

   • Если вы хотите, чтобы ваш робот мог бить, желательно присоединить сервопривод к сферическому "плечу", и иметь руку, установленную под углом 90 градусов, чтобы делать апперкоты.
   • Ваш робот будет более оборонительным или нападающим? Так как вес ограничен, вы можете захотеть использовать большую его часть на оружие или броню. Постарайтесь сбалансировать эти характеристики на вашем первом роботе.
   • Любого робота можно улучшить. Просто потому, что ваша первая модель робота не работает, не стоит её полностью выбрасывать. Возможно вам просто нужно заменить мотор. Даже если у вас полностью функционирующий робот, вы все ещё можете его улучшить. Посмотрите на моторы, которые больше подходят вашим целям, если новый мотор не используется в проекте, просто оставьте его и у вас будет возможность собрать другого робота. Постарайтесь улучшить некоторые части (обычно перед, зад и оружие) брони в алюминий, или даже титан, для большей "защиты от вертушек".
   • Помните, что вы можете поместить вашего робота в куб по диагонали.
   • Закажите запасные детали для вашего робота. Так как это боевой робот, ваши детали могут повредится в сражении. Если у вас есть запасные на руках, вы сможете быстрее заменить детали.

   В правилах говорится, что робот должен поместится в куб 4X4X4 дюйма, тем не менее он может расширятся с помощью дистанционного управления. Вы можете извлечь из этого выгоду. К примеру, ваше переворачивающее оружие слишком выпирает. Постарайтесь разработать его так, чтобы flipper мог подняться прямо вверх и быть меньше четырех дюймов в высоту. Но когда flipper опускается (после того как куб поднят), длина станет больше четырех дюймов.

   • После постройки своего первого робота и четкого понимания боевых роботов, постарайтесь построить ещё одного. Но, на этот раз, будьте уникальным . Постарайтесь сделать его не таким, как роботы у других людей в этой весовой категории. Если вы действительно амбициозны, вы можете попробовать сделать летающего робота! Летающие роботы допускаются правилами, но их редко строят.
   • Если вы используете SketchUp, вы можете найти идеальные модели сервоприводов и других компонентов на Warehouse. Просто ищите название сервопривода (или компонента, который хотите) и смотрите, если что-то подойдет. Там есть не все, но то что вы найдете, обычно выглядит лучше и даст вам более аккуратную модель. Удостоверьтесь, что модель, которую вы нашли, того же размера, что и настоящая деталь
   • Если вы опытны в механике и боевых роботах, вы можете попробовать построить шагающего робота. Если вы сделаете боевого робота, который ходит, вы получите дополнительный вес для работы.

   Предупреждения

   • LiPo-батареиочень опасны. Не заряжайте их, используя зарядное устройство для NiHM или Nicad батарей.
   • Даже микропневматика опасна. Если вы используете пневматику, следуйте технике безопасности.
   • Боевые роботы даже такой величин могут быть опасными. Если вы используете вращающееся оружие, отходите, когда оперируете с ним. Выключайте его, когда работаете над оружием.
   • Всегда носите защитные очки, когда режете материал или оперируете с роботом.
   • Некоторые арены считаются небезопасными для вращающегося оружия. Не пытайтесь использовать вращающееся оружие на таких аренах.
   • LiPo-батареи могут воспламенится, если будут пробиты. Когда проектируете робота, постарайтесь расположить батарею в то место, которое не проткнут. Если батарея загорелась, правила гласят, что вы не можете касаться робота, пока он горит. У вас не будет возможности достать его, что значит все другие компоненты могут быть разрушены. Защищайте батарею, как будто это сердце робота!

Большое собрание ученых, лидеров отрасли и НПО начали кампанию, чтобы остановить роботов-убийц, посвященную предотвращению развития боевых автономных систем вооружения. Среди тех, кто подписался были: Стивен Хокинг, Ноам Хомский, Элон Маск и Стив Возняк.

Эти громкие имена вызывают много внимания и придают законность тому, что роботы-убийцы, когда-то считавшиеся научной фантастикой, на самом деле быстро приближаются к реальности.

Интересное исследование, опубликованное в Международном журнале исследований культуры используют другой подход к идее «роботов-убийц» как культурного концепта. Исследователи утверждают, что даже самые продвинутые роботы — это просто машины, как и все остальное когда либо сдеаланное человечеством.

«Дело в том, что убийца робот’ как идея возникла не из воздуха», — сказал соавтор Теро Karppi, доцент кафедры теории СМИ в университете Буффало. «Этому предшествовали методы и технологии, позволяющие сделать мышление и развитие этих систем возможными».

Другими словами, мы беспокоимся о роботах-убийцах. Авторы раскрывают тему роботов — убийц в таких фильмах, как «Терминатор» или «Я, робот», в котором они предположили, что далеко в будущем роботы будут в конечном итоге порабощать человеческую расу.

«За последние десятилетия, расширенное использование беспилотных вооружений резко изменило войны, принося новые гуманитарные и правовые проблемы. Сейчас возрос стремительный прогресс в технологии, в результате усилий по разработке полностью автономного оружия. Эти роботизированные оружия будут иметь возможность выбирать огонь по цели самостоятельно, без какого-либо вмешательства человека.»

Исследователи отвечают, что эти алармистские сценарии антиутопии отражают «технико-детерминистское» мировоззрение, где технологическим системам дают слишком много автономии, что может стать разрушительными не только для общества, но и для всей человеческой расы.

Но что, если мы закодируем машинный интеллект таким образом, что роботы даже не смогут найти различия между человеком и машиной? Это интригующая идея: если нет никаких «нас» и «них» не может быть никакого «мы против них».

Действительно, Karppi предположил, что мы можем быть в состоянии управлять, как будущие машины будут думать о людях на фундаментальном уровне.

Если мы хотим внести изменения в разработки этих систем, сейчас самое время. Просто запретить смертельное автономное оружие и устранить коренные причины этой дилеммы. Чтобы действительно избежать развития автономных машин для убийства.

Катались на беспилотном «Яндекс. Такси» по «Сколково», военные инженеры придумывали, как адаптировать технологии беспилотного транспорта для создания нового оружия.

На самом деле, технологии - не совсем то, чем они кажутся. Проблема всей технологической эволюции в том, что грань между коммерческими роботами «для жизни» и военными роботами-убийцами невероятно тонкая, и перейти ее ничего не стоит. Пока что они выбирают маршрут движения, а завтра смогут сами выбирать, какую цель уничтожить.

Это не первый раз в истории, когда технологический прогресс ставит под вопрос само существование человечества: сначала ученые создали химическое, биологическое и ядерное оружие, теперь - «автономное оружие», то есть роботов. Разница лишь в том, что до сего дня бесчеловечным считалось оружие «массового поражения» - то есть не выбирающее, кого ему убивать. Сегодня перспектива изменилась: куда более безнравственным кажется оружие, которое будет убивать с особой разборчивостью, выбирая жертв на собственный вкус. И если какую-нибудь воинственную державу останавливало то, что, примени она биологическое оружие, пострадают все вокруг, то с роботами все сложнее - их можно запрограммировать на уничтожение конкретной группы объектов.

В 1942 году, когда американский писатель Айзек Азимов сформулировал три закона робототехники, все это казалось захватывающим, но совершенно нереалистичным. Эти законы гласили, что робот не может и не должен причинять вред или убивать человека. А еще они должны беспрекословно подчиняться воле человека, кроме тех случаев, когда его приказы будут противоречить вышеизложенному императиву. Теперь, когда автономное оружие стало реальностью и вполне может попасть в руки террористов, оказалось, что программисты как-то забыли заложить в его ПО законы Азимова. А значит, роботы могут представляьт опасность, и никакие гуманные законы или принципы не смогут их остановить.

Разработанная Пентагоном ракета сама обнаруживает цели благодаря программному обеспечению, искусственный интеллект (ИИ) идентифицирует мишени для британских военных, а Россия демонстрирует беспилотные танки. На разработку роботизированной и автономной военной техники в различных странах тратятся колоссальные средства, хотя увидеть ее в действии мало кому хочется. Как большинство химиков и биологов не заинтересованы в том, чтобы их открытия в итоге были использованы для создания химического или биологического оружия, так и большинство исследователей ИИ не заинтересованы в создании оружия на его основе, потому что тогда серьезный общественный резонанс повредит их исследовательским программам.

В своем выступлении в начале Генеральной Ассамблеи Организации Объединенных Наций в Нью-Йорке 25 сентября Генеральный секретарь Антониу Гутерреш назвал технологию ИИ «глобальным риском» наряду с изменением климата и растущим неравенством доходов: «Давайте называть вещи своими именами, - сказал он. - Перспектива, что машины будут определять, кому жить - отвратительна». Вероятно, Гутерреш - единственный, кто может призвать военные ведомства одуматься: ранее он разбирался с конфликтами в Ливии, Йемене и Сирии и занимал должность Верховного комиссара по делам беженцев.

Проблема в том, что при дальнейшем развитии технологий роботы сами смогут решать, кого убивать. И если у одних стран такие технологии будут, а у других нет, то бескомпромиссные андроиды и дроны предрешат исход потенциальной битвы. Все это противоречит всем законам Азимова одновременно. Алармисты могут всерьез тревожиться о том, что самообучаемая нейросеть выйдет из-под контроля и перебьет не только врага, но и всех людей вообще. Однако перспектива даже вполне послушных машин-убийц совсем не радужна.

Наиболее активная работа в области искусственного интеллекта и машинного обучения на сегодняшний день ведется не в военной, а в гражданской сфере - в университетах и компаниях вроде Google и Facebook. Но большая часть этих технологий может быть адаптирована к военному использованию. Это значит, что потенциальный запрет на исследования в этой области, коснется и гражданских разработок.

В начале октября неправительственная американская организация «Кампания „Остановить роботов-убийц“ отправила письмо в Организацию Объединенных Наций с требованием ограничить разработку автономного оружия на международном законодательном уровне. ООН дала понять, что поддерживает эту инициативу, а в августе 2017 года к ней присоединились Илон Маск и участники Международной конференции ООН по вопросам использования искусственного интеллекта (IJCAI). Но фактически США и Россия выступают против таких ограничений.

Последняя встреча 70 стран-участниц Конвенции о конкретных видах обычного оружия (о „негуманном“ оружии) состоялась в Женеве в августе. Дипломаты не смогли достичь консенсуса относительно того, как глобальная политика в отношении ИИ может быть реализована. Некоторые страны (Аргентина, Австрия, Бразилия, Чили, Китай, Египет и Мексика) высказались в поддержку законодательного запрета разработок роботизированного оружия, Франция и Германия предложили ввести добровольную систему таких ограничений, однако Россия, США, Южная Корея и Израиль заявили, что не собираются ограничивать исследования и разработки, которые ведутся в этой области. В сентябре Федерика Могерини , высокопоставленный представитель Европейского союза по вопросам внешней политики и политики безопасности, заявила, что оружие „влияет на нашу коллективную безопасность“, поэтому решение вопроса жизни и смерти должно в любом случае оставаться в руках человека.

Холодная война-2018

Должностные лица американских обороны считают, что автономное оружие необходимо Соединенным Штатам, чтобы сохранить свое военное преимущество перед Китаем и Россией, которые также вкладывают деньги в аналогичные исследования. В феврале 2018 года Дональд Трамп потребовал выделить $686 млрд на оборону страны в следующем финансовом году. Эти расходы всегда были довольно высокими и снижались разве что при предыдущем президенте Бараке Обаме . Однако Трамп - неоригинально - аргументировал необходимость их увеличения технологической конкуренцией с Россией и Китаем. В 2016 году в бюджете Пентагона было заложено $18 млрд на разработку автономного оружия в течение трех лет. Это немного, но тут нужно учесть один очень важный фактор.

Большинство разработок в области ИИ в США ведутся коммерческими компаниями, поэтому они оказываются в широком доступе и могут быть проданы в коммерческих целях другим странам. У Пентагона нет монополии на передовые технологии машинного обучения. Американская оборонная промышленность больше не ведет собственные исследования так, как это делалось во время „холодной войны“, а использует наработки стартапов из Кремниевой долины, а также Европы и Азии. В то же время в России и Китае такие исследования находятся под строгим контролем оборонных ведомств, что, с одной стороны, ограничивает приток новых идей и развитие технологий, но, с другой, гарантирует госфинансирование и защиту.

По оценке экспертов The New York Times, военные расходы на автономные военные машины и беспилотные летательные аппараты превысит $120 млрд в течение следующего десятилетия. Это означает, что дискуссия в конечном счете сводится не к тому, стоит ли создавать автономное оружие, а к тому, какую степень независимости ему дать.

Сегодня полностью автономного оружия не существует, но заместитель председателя Объединенного комитета начальников штабов генерал Пол Дж. Сельва из ВВС еще в 2016 году заявил, что через 10 лет Соединенные Штаты получат технологию создания такого оружия, которое сможет самостоятельно решить, кого и когда убивать. И пока страны спорят о том, стоит ли ограничивать ИИ или нет, может стать слишком поздно.

Clearpath Robotics была основана шесть лет назад тремя друзьями по колледжу, которых объединила страсть делать всякие штуки. 80 специалистов компании испытывают роботов для движения по пересеченной местности вроде Husky, четырехколесного робота, используемого минобороны США. Также они делают дронов и даже построили роботизированную лодку Kingfisher. Однако одного они точно никогда не построят: робота, который может убивать.

Clearpath является первой и пока единственной компанией по производству роботов, которая пообещала не создавать роботов-убийц. Решение было принято в прошлом году соучредителем и CTO компании Райаном Гарипаем и по факту даже привлекло в компанию экспертов, которым понравилась уникальная этическая позиция Clearpath. Этика компаний, производящих роботов, в последнее время выходит на передние позиции. Видите ли, мы одной ногой в будущем, в котором будут существовать роботы-убийцы. И мы пока совершенно не готовы к ним.

Конечно, впереди еще длинный путь. Корейская Dodam systems, например, строит автономную роботизированную турель под названием Super aEgis II. Она использует тепловизионные камеры и лазерные дальномеры для выявления и атаки целей на расстоянии до 3 километров. США, судя по сообщениям, тоже экспериментируют с автономными ракетными системами.

В двух шагах от «терминаторов»

Военные беспилотники вроде Predator в настоящее время управляются людьми, но Гарипай говорит, что очень скоро они станут полностью автоматическими и автономными. И это беспокоит его. Очень. «Смертоносные автономные системы оружия могут сойти с конвейера уже сейчас. Но смертоносные оружейные системы, которые будут делаться в соответствии с этическими нормами, — их нет даже в планах».

Для Гарипая проблема заключается в международных правах. На войне всегда бывают ситуации, в которых применение силы кажется необходимым, но оно также может подвергнуть опасности невинных прохожих. Как создать роботов-убийц, которые будут принимать правильные решения в любой ситуации? Как нам определить самостоятельно, каким должно быть правильное решение?

Подобные проблемы мы уже наблюдаем на примере автономного транспорта. Допустим, собака перебегает дорогу. Должен ли робот-автомобиль свернуть, чтобы не сбить собаку, но подвергнуть риску своих пассажиров? А если это не собака, а ребенок? Или автобус? Теперь представьте зону боевых действий.

«Мы не можем договориться о том, как написать руководство по эксплуатации такого автомобиля, - говорит Гарипай. - А теперь мы еще и хотим перейти к системе, которая должна самостоятельно решать, применять ей смертоносную силу или нет».

Делайте крутые штуки, а не оружие

Питер Асаро провел последние несколько лет, лоббируя запрет на роботов-убийц в международном сообществе, будучи основателем Международного комитета по контролю роботизированных армий. Он считает, что пришло время для «четкого международного запрета на их развитие и использование». По его словам, это позволит компаниям вроде Clearpath продолжать делать классные штуки, «не переживая, что их продукты могут быть использованы для нарушения прав людей и угроз мирным жителям».

Автономные ракеты интересны военным, потому что они решают тактическую задачу. Когда беспилотники с дистанционным управлением, например, работают в боевых условиях, противник нередко заглушает датчики или сетевое соединение, чтобы человек-оператор не мог видеть, что происходит, или управлять дроном.

Гарипай говорит, что вместо разработки ракет или дронов, которые могут самостоятельно решать, какую цель атаковать, военным нужно тратить деньги на улучшение датчиков и защиты от заглушения технологий.

«Почему бы нам не взять инвестиции, которые люди хотели бы вложить для постройки автономных роботов-убийц, и не вложить их в повышение эффективности существующих технологий? - говорит он. - Если мы поставим задачу и преодолеем этот барьер, мы сможем заставить эту технологию работать на благо людей, не только военных».

В последнее время также участились разговоры об опасности искусственного интеллекта. беспокоится, что вышедший из-под контроля ИИ может уничтожить жизнь, какой мы ее знаем. В прошлом месяце Маск пожертвовал 10 миллионов долларов на исследования в области искусственного интеллекта. Один из важных вопросов о том, как ИИ , заключается в том, как он сольется с робототехникой. Некоторые вроде исследователя из Baidu Эндрю Нг беспокоятся, что грядущая революция ИИ отнимет у людей работы. Другие вроде Гарипая опасаются, что может отнять и жизни.

Гарипай надеется, что его коллеги, ученые и строители машин задумаются о том, что делают. Потому и Clearpath Robotics приняла сторону людей. «Хотя мы, как компания, не можем поставить на это 10 миллионов долларов, но мы можем поставить нашу репутацию».