«Сверхразумная машина, которая управляет миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» – подчеркнул один из авторов исследования Мануэль Себриан.
Пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что полностью контролировать сверхразумный ИИ невозможно.
Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Новости от Корреспондент.net в Telegram. Подписывайтесь на наш канал https://t.me/korrespondentnet
Президент Ицхак Герцог поручил формировать новое правительство Израиля Гади Айзенкоту. В нынешнем политическом раскладе бывший…
Российские владения японской группы Japan Tobacco International (JTI) продолжают переходить в надёжные руки компании «Промышленные…
Европейский союз намерен превратить Средний коридор через Центральную Азию и Кавказ в полноценную альтернативу транспортным…
Промежуточные выборы в США обернулись масштабным разгромом Республиканской партии. Конечно, можно вспомнить, что при президентах…
Выступление Карла III на саммите, из названия которого стыдливо в рамках экономии убрали слово «Британское»,…
Американцы нанесли серию ограниченных ударов по острову Кешм. Операция состоялась накануне промежуточных выборов в США,…