В ближайшее время ИИ начнёт уничтожать человечество

В сети всё чаще говорят о том, что развитие искусственного интеллекта может привести к уничтожению человечества нейронной сетью.

Недавно Билл Гейтс, соучредитель Microsoft, поделился своими мыслями по этому поводу. Он также является сторонником предположения о разрушительной силе искусственного интеллекта, которая впоследствии может привести к наступлению плачевных последствий — гибели значительной части человечества.

«ИИ, безусловно, достаточно мощный, чтобы вызвать события, которые, знаете, приведут к миллиарду смертей, — сказал Гейтс в отрывке из интервью NBC Meet the Press, которое выйдет в эфир в эти выходные. — Никогда раньше не существовало оружия столь мощного, как сочетание людей со злыми намерениями и новейших инструментов ИИ».

Гейтс не утверждает, что искусственный интеллект напрямую может привести к гибели миллиарда людей. По его словам, речь идет скорее о потенциальном масштабе последствий в случае, если все более мощные системы ИИ окажутся в руках людей, намеревающихся использовать их для нанесения вреда. Он подчеркнул, что сценарий полного уничтожения человечества остается маловероятным, однако сочетание злоумышленников с современными возможностями технологий назвал беспрецедентно мощной угрозой.

В Кремниевой долине всё чаще звучат предупреждения о потенциально катастрофических последствиях развития ИИ на фоне стремительного совершенствования технологии. В начале этого месяца сотрудник Anthropic Джейкоб Коксон уволился из компании и обвинил своих бывших работодателей (Anthropic и OpenAI) в том, что они «играют нашими жизнями», пытаясь как можно быстрее создать сверхразумный ИИ.

Еще один сотрудник Anthropic заявил, что оценивает вероятность уничтожения человечества искусственным интеллектом в течение следующего десятилетия более чем в 10%.

В интервью Гейтс также заявил, что саморегулирование технологической индустрии само по себе не является достаточным для контроля потенциальных рисков, связанных с развитием ИИ.

«К дискуссии о том, какими должны быть меры предосторожности и мониторинг, должны присоединиться правоохранительные органы и политики, — сказал он. — И это должно быть обязательным требованием».

Ранее, в своём августовском эссе, Гейтс отмечал, что злоумышленники могут использовать инструменты ИИ для кибератак, мошенничества, распространения дезинформации и т. д.

По его словам, такие технологии потенциально могут быть применены против больниц, финансовых учреждений, энергетических сетей и государственных систем.

На этом фоне дискуссий об опасных последствиях развития ИИ стало больше. Многие люди выступают за то, чтобы в мире было введено регулирование ИИ-технологий, их развития и применения на законодательном уровне. В настоящее время в Европе уже существует акт, который определенным образом регулирует работу ИИ — EU Artificial Intelligence Act. Но в глобальном контексте этого недостаточно, и человечество настаивает на законодательных усовершенствованиях и расширении их действия на более широкий территориальный круг.