Створення роботів-вбивць — дуже і дуже погана ідея

0
533
Створення роботів-вбивць — дуже і дуже погана ідея

Компанія Clearpath Robotics була започаткована шість років тому трьома друзями по коледжу, яких поєднала пристрасть робити всякі штуки. 80 фахівців компанії відчувають роботів для руху по пересіченій місцевості начебто Husky, чотириколісного робота, використовуваного міноборони США.

Також вони роблять дронов і навіть побудували роботизовану човен Kingfisher. Проте вони точно ніколи не збудують: робота, який може вбивати.

Clearpath є першою і поки єдиною компанією з виробництва роботів, яка пообіцяла не створювати роботів-вбивць. Рішення було прийнято в минулому році співзасновником і CTO компанії Райаном Гарипаем і за фактом навіть привернуло в компанію експертів, яким сподобалася унікальна етична позиція Clearpath.

Етика компаній, що виробляють роботів, останнім часом виходить на передні позиції. Бачите, ми однією ногою в майбутньому, в якому будуть існувати роботи-вбивці. І ми поки не готові до них.

Звичайно, попереду ще довгий шлях. Корейська Dodam systems, наприклад, будує автономну роботизовану турель під назвою Super aEgis II. Вона використовує тепловізійні камери і лазерні далекоміри для виявлення і атаки цілей на відстані до 3 кілометрів. США, судячи за повідомленнями, теж експериментують з автономними ракетними системами.

У двох кроках від «термінаторів»

Військові літаки на кшталт Predator в даний час управляються людьми, але Гарипай каже, що дуже скоро вони стануть повністю автоматичними і автономними. І це турбує його. Дуже. «Смертоносні автономні системи зброї можуть зійти з конвеєра вже зараз. Але смертоносні збройові системи, які будуть робитися у відповідності з етичними нормами, — їх немає навіть у планах».

Для Гарипая проблема полягає в міжнародних правах. На війні завжди бувають ситуації, в яких застосування сили здається необхідним, але воно також може наразити на небезпеку невинних перехожих. Як створити роботів-вбивць, які будуть приймати правильні рішення в будь-якій ситуації? Як нам самостійно визначити, яким має бути правильне рішення?

Подібні проблеми ми вже спостерігаємо на прикладі автономного транспорту. Припустимо, собака перебігає дорогу. Повинен робот-автомобіль згорнути, щоб не збити собаку, але піддати ризику своїх пасажирів? А якщо це не собака, а дитина? Чи автобус? Тепер уявіть зону бойових дій.

«Ми не можемо домовитися про те, як написати посібник з експлуатації такого автомобіля, — говорить Гарипай. — А тепер ми ще й хочемо перейти до системи, яка повинна самостійно вирішувати, застосовувати їй смертоносну силу чи ні».

Робіть круті штуки, а не зброю

Пітер Асаро провів останні кілька років, лобіюючи заборона на роботів-вбивць в міжнародному співтоваристві, будучи засновником Міжнародного комітету з контролю роботизованих армій. Він вважає, що настав час для чіткого міжнародного заборони на їх розвиток і використання». За його словами, це дозволить компаніям на зразок Clearpath продовжувати робити класні штуки, «не переживаючи, що їх продукти можуть бути використані для порушення прав людей і загроз мирним жителям».

Автономні ракети цікаві військовим, тому що вони вирішують тактичне завдання. Коли безпілотники з дистанційним управлінням, наприклад, працюють в бойових умовах, противник нерідко заглушає датчики або мережне з’єднання, щоб людина-оператор не міг бачити, що відбувається, або керувати дроном.

Гарипай каже, що замість розробки ракет або дронов, які можуть самостійно вирішувати, яку мету атакувати, військовим потрібно витрачати гроші на поліпшення датчиків і захисту від заглушення технологій.

«Чому б нам не взяти інвестиції, які люди хотіли б вкласти для побудови автономних роботів-вбивць, і не вкласти їх у підвищення ефективності існуючих технологій? — говорить він. — Якщо ми поставимо завдання і подолаємо цей бар’єр, ми зможемо змусити цю технологію працювати на благо людей, не тільки військових».

Останнім часом також почастішали розмови про небезпеку штучного інтелекту. Елон Маск турбується, що вийшов з-під контролю ИИ може знищити життя, якою ми її знаємо. Минулого місяця Маск пожертвував 10 мільйонів доларів на дослідження в області штучного інтелекту.

Один з важливих питань про те, як ІІ вплине на наш світ, полягає в тому, як він зіллється з робототехнікою. Деякі начебто дослідника з Baidu Ендрю Нг турбуються, що прийдешня революція ІІ забере у людей роботи. Інші начебто Гарипая побоюються, що може відняти і життя.

Гарипай сподівається, що його колеги, вчені і будівельники машин задумаються про те, що роблять. Тому і Clearpath Robotics прийняла сторону людей. «Хоча ми, як компанія, не можемо поставити на це 10 мільйонів доларів, але ми можемо поставити нашу репутацію».

Оцініть статтю

НАПИСАТИ ВІДПОВІДЬ

Please enter your comment!
Please enter your name here