Як штучний інтелект знищить світ (апокаліпсис від Ілона Маска)

Апокаліптичні сценарії, як штучний інтелект знищить людство, — не рідкість. Але прогноз Ілона Маска — засновника і керівника SpaceX і Tesla — виглядає правдоподібно. Підприємець розповів, як запобігти катастрофі.

На літній зустрічі Національної асоціації губернаторів Маск зізнався, що розвиток штучного інтелекту (ШІ) його «лякає найбільше».

— Я маю справу з самими передовими розробками в сфері ШІ і не втомлюся закликати до обережності, — сказав підприємець. — Але люди, поки не побачать, що по вулиці йдуть роботи-вбивці, не зрозуміють, як реагувати на загрозу, — вона їм здається ефемерною.

Маск переконаний: випадкове знищення цивілізації з-за ШІ — цілком можливий сценарій, і роль держави у його запобіганні дуже важлива.

— Одна з функцій уряду — забезпечення суспільного блага. Влада повинна звертати пильну увагу на потенційні загрози для суспільства, — нагадав підприємець. — ІІ несе фундаментальний ризик для існування цивілізації, чого не можна сказати про автомобільних аваріях, авіакатастрофах, наркотики або неякісної їжі.

Зміст

Досить розумний, щоб вбивати

Маск навів кілька прикладів — вони здаються нешкідливими зараз, але можуть перетворитися на серйозну загрозу. Підприємець нагадав про Alpha Go — штучний інтелект, який може одночасно вести гру в го з 50 кращими гравцями світу» й перемогти всіх, та про роботів, які без будь-яких вступних даних можуть навчитися ходити лише за кілька годин — швидше, ніж будь-біологічна істота».

Останній, особливо страшний приклад Маска — що «розумний» чат-бот може почати війну, лише створивши фальшиві новини та підроблену електронну пошту. Глава Tesla нагадав про катастрофу малайзійського авіалайнера на українському кордоні і намалював таку перспективу.

— Уявіть, що у вас є ШІ, який прагне максимізувати цінність портфеля акцій, — сказав Мак. — Є дуже хороший спосіб цього досягти: зробити ставку на зростання в оборонній промисловості і падіння в сфері споживчих товарів, а потім почати війну. Взломайте малайзійський сервер, що відповідає за побудову авіаційних маршрутів, змусьте один з літаків пролетіти над зоною військових дій, а потім надіслати анонімне повідомлення про те, що літак противника прямо зараз знаходиться у військових над головою.

Цукерберг не згоден

В суперечку з Илоном Маском, який назвав штучний інтелект загрозою людству, вступив Марк Цукерберг. На думку глави Facebook, заявляти про кінець світу через розвиток нових технологій — вкрай безвідповідально. Він переконаний, що покупець зробить життя кращим. У відповідь глава Tesla заявив, що у його опонента — обмежене розуміння штучного інтелекту.

Як знизити загрозу

Маск наполягає: уряду пора взяти ситуацію в свої руки. Він запропонував простий план, який дозволить владі знизити загрозу, витікаючу від ШІ. У ньому всього три пункти:

1. Дізнатися про ШІ як можна більше

— Для початку важливо якомога краще розібратися у питанні, зрозуміти, в чому проблема і тверезо оцінити досягнення ШІ, — вважає Маск.

2. Як можна швидше почати регулювання

— Штучний інтелект — та рідкісна область, де потрібно почати регулювання, не чекаючи прецедентів, — переконаний глава Tesla. — Якщо справа дійде до прецедентів — буде пізно.

Маск порівняв передбачуваний регулюючий орган в області ШІ з Федеральним управлінням цивільної авіації США. За його словами, суворі норми регулювання польотів часом здаються зайвими і дратують, але дуже важливі для безпеки пасажирів: конкуренція змушує компанії випускати на ринок технології, не забезпечивши їх безпеки.

3. Запровадити стандарти безпеки для ШІ

Маск зазначив, що успішні компанії активно беруть участь у створенні ШІ — заради конкурентоспроможності, — і закликав учасників ринку і уряд стежити, щоб ШІ виходив на ринок після перевірки на відповідність стандартам безпеки.

Маск визнає, що деяким компаніям це доведеться не до вподоби — як і регулювання у сфері авіаперевезень, транспорту і харчових продуктів. Але безпека того варто, переконаний глава Tesla.