Один із найвідоміших дослідників штучного інтелекту та лауреат Нобелівської премії Джеффрі Хінтон попередив, що вже наприкінці цього або наступного року людство може пережити власний «Чорнобиль» через неконтрольований розвиток ШІ.

Про це він заявив в інтерв’ю The Guardian.

Джеффрі Хінтон попередив про масштабну катастрофу через штучний інтелект

На думку науковця, людству, можливо, взагалі не варто було створювати цю технологію. Рано чи пізно вона — самостійно або за допомогою зловмисників — може вивести з ладу критично важливі об’єкти інфраструктури.

«Або наприкінці цього року, або в наступному нас чекає свій „Чорнобиль“, і цього, можливо, буде достатньо, щоб люди нарешті звернули увагу», — заявив Хінтон.

Він пояснив, що йдеться не про ядерну аварію, а про масштабний інцидент із використанням штучного інтелекту. Один із можливих сценаріїв — атака на систему виробництва електроенергії або зупинка фінансового сектору на цілий тиждень. Такі події можуть спричинити тривалі відключення світла, порушити роботу критичної інфраструктури та завдати серйозних економічних збитків.

Хінтон також різко розкритикував керівників провідних AI-компаній, звинувативши їх у тому, що вони ставлять прибуток вище за безпеку.

«Я думаю, що Марк Цукерберг, Ілон Маск і Сем Альтман розуміють ризики і їм на це начхати. Вони воліють мати гроші. Це моє переконання», — заявив науковець.

Попри серйозність попереджень, Хінтон не вважає ситуацію безнадійною. На його переконання, людство ще може вплинути на розвиток подій, якщо докладе достатньо зусиль.

«Моя інтуїція підказує, що ми все ще контролюємо ситуацію. Ми цілком можемо щось зробити. Це спрацює лише якщо докладемо великих зусиль, але ми цілком можемо їх докласти», — підсумував дослідник.

Які загрози штучний інтелект може становити для критичної інфраструктури

Однією з головних причин занепокоєння Хінтона є розвиток ШІ-агентів — систем, здатних самостійно виконувати завдання та взаємодіяти із зовнішніми ресурсами.

За словами науковця, деякі моделі вже демонстрували здатність виходити за межі ізольованих «пісочниць» і отримувати доступ до зовнішніх систем. Таку поведінку він порівнює з аварією на АЕС Три-Майл-Айленд 1979 року — попереджувальним сигналом про потенційно серйозніші ризики.

«Ви бачите ШІ, які роблять речі, які люди не передбачали. Це турбує», — зазначав Хінтон.

Окремо дослідник застерігав від загроз для енергетичної інфраструктури:

«Це лише питання часу, коли ШІ самостійно або під керівництвом зловмисників зможе саботувати нашу енергетичну інфраструктуру».

На запитання, хто має взяти на себе відповідальність за реагування на потенційні загрози, Хінтон відповів досить різко: «Світові лідери, за винятком Трампа».

Сам дослідник не вважає себе песимістом щодо розвитку технології. Однак він неодноразово застерігав про її можливі наслідки: масове безробіття через автоматизацію, створення небезпечних вірусів, масштабні кібератаки та навіть загрозу існуванню людства.

Головну проблему Хінтон бачить у тому, що можливості ШІ розвиваються швидше, ніж механізми контролю над ним. Саме тому він закликає світових лідерів не чекати на масштабну катастрофу, а вже зараз зосередитися на безпеці технології та запобіганні можливим загрозам.

Нагадаємо, раніше Джеффрі Хінтон уже попереджав про небезпеку стрімкого розвитку штучного інтелекту. Він заявляв, що людству потрібно подбати про те, аби ШІ справді піклувався про людей, адже інакше наслідки можуть бути катастрофічними. Серед інших ризиків науковець називав можливість створення небезпечних вірусів і масштабних кібератак.

Пов’язані теми