Оновлений принцип робототехніки запобіжить повстанню машин

0
308
Оновлений принцип робототехніки запобіжить повстанню машин

Широке поширення розумних речей, проникнення роботів і автоматичних механізмів практично в усі галузі діяльності людини викликає у багатьох людей тривожне почуття і страх перед можливим повстанням роботів, не раз описаного в науковій фантастиці і показаним в кіно. Лідери у розробці штучного інтелекту, компанії Google DeepMind і Open AI (засновник — Ілон Маск), представили новий погляд на навчання роботів для забезпечення більшої безпеки людини та збільшення контролю над машинами з інтелектом.

Нове бачення, представлене компаніями у спільній науково-дослідній статті, вказує на необхідність зобов’язати ШІ при рішенні принципово нової задачі в обов’язковому порядку консультуватися з людиною. Такий підхід зможе обмежити самостійність діяльності роботів, чь` раціональне рішення може яким-небудь чином принести дискомфорт або навіть шкоду людині. Основною проблемою при цьому є визначення балансу між раціональними та ефективними діями і передача вказівок машині. Наприклад, найбільш ефективним способом прибирання приміщення, з точки зору робота, може бути повне видалення з кімнати речей, меблів і предметів обходу, що не влаштовує самого господаря приміщення і речей.

Вперше принцип «Робот не може заподіяти шкоду людині» був сформульований геніальним фантастом Айзеком Азімовим ще в 1942 році. У творі «Хоровод» були визначені три закони робототехніки, запобігають загрозу для людини з боку роботів. Однак великий фантаст показав, що буквальне прийняття цих законів може призвести до непередбачених наслідків. Нещодавно знятий за мотивами творів Азімова фільм «Я робот» показує ситуацію, коли роботи сприйняли заборона на заподіяння шкоди людині як команду до повного обмеження свободи дій і пересування людей.

Для розширення можливості контролю прийнятих ШІ рішень було запропоновано надання стимулу машині при знаходженні відповідного для людини відповіді на вирішення проблеми. Таким чином, ИИ навіть навчили грати в елементарні комп’ютерні ігри. Незважаючи на збільшення витрат часу на навчання машин з використанням консультаційного методу, зростає безпека використання роботів і підвищується контроль над штучним інтелектом.

Оцініть статтю

НАПИСАТИ ВІДПОВІДЬ

Please enter your comment!
Please enter your name here