Ученые предупредили об опасности сверхразумного ИИ

Команда ученых, в том числе из Центра людей и машин Института развития человека Макса Планка, пришла к выводу, что человечество не сможет держать под контролем искусственный суперинтеллект, даже если примет для этого все возможные меры. Статья с соответствующими выводами была опубликована в Journal of Artificial Intelligence Research.

"Сверхразумная машина, которая управляет миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?" – подчеркнул один из авторов исследования Мануэль Себриан.

Пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что полностью контролировать сверхразумный ИИ невозможно.

Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Ранее об опасности ИИ предупреждали американский бизнесмен Илон Маск и физик Стивен Хокинг.

InternetUA

https://internetua.com/

Новости по теме
Видеоконференции приводят к ухудшению самочувствия и развитию тревоги.

Видеоконференции приводят к ухудшению самочувствия и развитию тревоги.

Переход на удалённую работу привёл к всплеску популярности видеоконференций. Как оказалось, многие пользователи испытывают тревогу и неудобство во время беседы с коллегами через объектив веб-камеры, что негативно влияет на самочувствие.

InternetUA

Xiaomi Mi Note 10 Lite уже получает MIUI 12 на базе Android 11.

Xiaomi Mi Note 10 Lite уже получает MIUI 12 на базе Android 11.

Владельцы достаточно популярного смартфона Xiaomi Mi Note 10 Lite в Украине и России дождались обновления MIUI 12 на базе актуальной версии операционной системы от Google — Android 11.

InternetUA

COVID-вакцинация: почему приходится утилизировать неиспользованные дозы препарата, объяснили врачи.

COVID-вакцинация: почему приходится утилизировать неиспользованные дозы препарата, объяснили врачи.

Минздрав теперь публикует две статистики: традиционную – по количеству заболевших COVID-19, и со среды – число вакцинированных. Врачи говорят: из-за жёстких правил и особенностей упаковки препарата, в некоторых областях приходится утилизировать не...

Пожар в черновицкой больнице: один пациент погиб, ещё один – в реанимации с ожогами.

Пожар в черновицкой больнице: один пациент погиб, ещё один – в реанимации с ожогами.

Пожар в больнице в Черновцах: один пациент погиб, ещё один с серьёзными ожогами – в реанимации. Как сообщили в Госслужбе по чрезвычайным ситуациям, возгорание произошло в одной из палат городской клинической больницы номер один. __________________...

Новости 22:00 за 27 февраля 2021 года

Новости 22:00 за 27 февраля 2021 года

00:00 Смотрите в этом выпуске: 00:20 НВФ пытаются искусственно усложнить обстановку на линии соприкосновения. 01:24 Российские спецслужбы вербуют наёмников в частные военные компании на неподконтрольной Украине территории Донбасса. 02:20 Пожар в б...

«Семь лет сопротивления» : фотовыставка о борьбе с оккупацией Крыма открылась в Киеве.

«Семь лет сопротивления» : фотовыставка о борьбе с оккупацией Крыма открылась в Киеве.

"Семь лет сопротивления": в Крымском доме проходит мероприятие, посвященное Дню сопротивления оккупации Крыма. Здесь представлены архивные снимки очевидцев и участников переломных для Крыма событий февраля-марта 2014-го. __________________________...

Работают круглосуточно: как продолжается строительство трассы  «Днипро – Решетиловка».

Работают круглосуточно: как продолжается строительство трассы «Днипро – Решетиловка».

Дорогу, которую ждали более 30-ти лет, активно прокладывают в Днепропетровской области. Она в объезд населённых пунктов должна соединить Днипро с Решетиловкой, а дальше и с Киевом. Это даст возможность водителям транзитного транспорта быстро и без...

2 2

«Оккупанты пусть идут домой»: на Армянск сбросили украинские листовки.

«Оккупанты пусть идут домой»: на Армянск сбросили украинские листовки.

Ко Дню сопротивления Крыма и Севастополя российской оккупации украинские волонтеры разбросали над полуостровом, в частности над Армянском, около трех тысяч патриотических листовок. Их доставили в пункт назначения с помощью беспилотного летательног...