Найближчим часом ШІ почне знищувати людство

В мережі дедалі більше говорять про те, що еволюція штучного інтелекту може призвести до знищення людства нейромережею.

Нещодавно Білл Гейтс, співзасновник Microsoft, поділився думками з цього приводу. Він також є прихильником припущення про нищівну силу штучного інтелекту, яка згодом може призвести до настання невтішних наслідків – загибелі значної частини людства.

«ШІ, безумовно, достатньо потужний, щоб спричинити події, які, знаєте, призведуть до мільярда смертей, — сказав Гейтс у фрагменті інтерв’ю NBC Meet the Press, яке вийде в ефір цими вихідними. — Ніколи раніше не існувало зброї настільки потужної, як поєднання людей зі злими намірами та найновіших інструментів ШІ».

Гейтс не стверджує, що штучний інтелект безпосередньо може призвести до загибелі мільярда людей. За його словами, йдеться радше про потенційний масштаб наслідків у разі, якщо дедалі потужніші системи ШІ опиняться в руках людей, які мають намір використати їх для завдання шкоди. Він підкреслив, що сценарій повного знищення людства залишається малоймовірним, однак поєднання зловмисників із сучасними можливостями технологій назвав безпрецедентно потужною загрозою.

У Кремнієвій долині дедалі частіше звучать попередження про потенційно катастрофічні наслідки розвитку ШІ на тлі стрімкого вдосконалення технології. На початку цього місяця співробітник Anthropic Джейкоб Коксон звільнився з компанії та звинуватив своїх колишніх роботодавців (Anthropic і OpenAI) у тому, що вони «грають нашими життями», намагаючись якомога швидше досягти надрозумного ШІ.

Ще один співробітник Anthropic заявив, що оцінює ймовірність знищення людства штучним інтелектом протягом наступного десятиліття більш ніж у 10%. 

В інтерв’ю Гейтс також заявив, що саморегулювання технологічної індустрії саме по собі не є достатнім для контролю потенційних ризиків, пов’язаних із розвитком ШІ.

«До дискусії про те, якими мають бути запобіжники та моніторинг, повинні долучитися правоохоронні органи й політики, — сказав він. — І це має бути обов’язковою вимогою».

Раніше, у своєму серпневому есе, Гейтс зазначав, що зловмисники можуть використовувати інструменти ШІ для кібератак, шахрайства, поширення дезінформації тощо.

За його словами, такі технології потенційно можуть бути застосовані проти лікарень, фінансових установ, енергетичних мереж і державних систем.

На цьому тлі дискусій про небезпечні наслідки розвитку ШІ побільшало. Багато людей виступають за те, щоб у світі було запроваджене регулювання ШІ-технологій, їх розвитку та застосування на законодавчому рівні. Наразі в Європі вже існує акт, що певним чином регулює роботу ШІ – EU Artificial Intelligence Act. Але в глобальному контексті цього недостатньо й людство наполягає на законодавчих вдосконалення й поширенні їх дії на ширше територіальне коло.