Колишній інженер Google і Microsoft Нейт Соарес, який очолює Дослідницький інститут машинного інтелекту (MIRI), припинив робити пенсійні внески. Він вважає, що ймовірність знищення людства штучним інтелектом протягом наступних десяти років перевищує 50%.

Про це пише Business Insider.

За словами Соареса, він має пенсійний рахунок 401(k), відкритий ще під час роботи в Google, однак не поповнював його вже близько десяти років. Свою позицію він пояснив у нещодавньому інтерв’ю генеральному директору The Atlantic Ніколасу Томпсону для його серії «Найцікавіше в ШІ».

Песимізм дослідника пов’язаний із ризиком появи надпотужних систем штучного інтелекту, які можуть діяти всупереч інтересам людей. Соарес понад 12 років займається проблемою узгодження ШІ — розробкою підходів, які мають забезпечити відповідність поведінки таких систем людським намірам.

До роботи в MIRI — некомерційній організації з Берклі, що досліджує ризики штучного інтелекту, — він працював інженером у Google та Microsoft. Соарес також є співавтором книги «Якщо хтось це збудує, загинуть усі».

На відміну від деяких інших фахівців, які допускають можливість катастрофи, але оцінюють її ймовірність як відносно невисоку, Соарес вважає загрозу значно серйознішою. Зокрема, дослідник Джеффрі Гінтон оцінював імовірність знищення людства штучним інтелектом протягом десятиліття у 10%, а дослідник Anthropic Еван Губінгер називав оцінку, що перевищує 10%.

Як надпотужний ШІ може стати загрозою для людства

Соарес попереджає, що достатньо розвинений штучний інтелект може сформувати власні цілі, несумісні з виживанням людей. Така система, за його сценарієм, могла б навчитися уникати людського контролю, самостійно вдосконалюватися та створювати автоматизовану інфраструктуру для роботи без участі людини.

У найгіршому випадку ШІ міг би перебудувати планету відповідно до власних завдань, зробивши її непридатною для життя людства. Соарес наголошує, що йдеться не просто про втрату робочих місць або економічні потрясіння, а про екзистенційну загрозу.

Водночас дослідник не вважає такий сценарій неминучим. Він закликає уряди зупинити навчання моделей штучного інтелекту загального призначення, які можуть набути надзвичайно широких можливостей. Натомість, на його думку, варто зосередитися на розробці вузькоспеціалізованих систем — наприклад, для дослідження раку або підвищення безпеки автономних автомобілів.

«Рішення полягає в тому, щоб не будувати те, що вб’є всіх», — сказав Соарес, додавши, що робить усе можливе для запобігання такому розвитку подій.

Ілон Маск теж вважає пенсію зайвою

Сумніви щодо доцільності довгострокових пенсійних накопичень раніше висловлював і генеральний директор Tesla та SpaceX Ілон Маск. Однак його прогноз принципово відрізняється від позиції Соареса.

У січні Маск заявив, що через 10–20 років людям, можливо, не доведеться турбуватися про накопичення на старість. На його думку, розвиток штучного інтелекту, робототехніки та енергетики може привести до епохи достатку, коли товари й послуги стануть дешевшими, а люди отримуватимуть загальний високий дохід.

Маск також припускав, що за умов, коли ШІ та роботи перевершать людей у більшості завдань, гроші можуть втратити звичне значення. У такому майбутньому пенсійні накопичення, за його логікою, можуть стати непотрібними.

Однак експерти з особистих фінансів і фахівці зі штучного інтелекту, з якими спілкувалося Business Insider, закликали не відмовлятися від пенсійних заощаджень, попри технологічні прогнози.

Нагадаємо, що Білл Гейтс припускає, що після впровадження штучного інтелекту виживуть лише чотири професії.

Пов’язані теми