«Сверхразумная машина, которая управляет миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» – подчеркнул один из авторов исследования Мануэль Себриан.
Пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что полностью контролировать сверхразумный ИИ невозможно.
Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Новости от Корреспондент.net в Telegram. Подписывайтесь на наш канал https://t.me/korrespondentnet
Президент России Владимир Путин подписал закон, существенно меняющий в сторону ужесточения правила, по которым иностранные…
Бригаду для ремонта квартиры обычно ищут сразу по нескольким каналам: через знакомых, площадки исполнителей, ремонтные…
Парламент Новой Зеландии, несмотря на противодействие мелких фракций, принял закон, закрепляющий статус английского языка, хотя…
Для типовой квартиры со стандартной планировкой в большинстве случаев выгоднее стартовать с готовой дизайн-концепции. Вы…
Масштабные лесные пожары продолжают стремительно распространяться на северо-западе США, вынуждая власти проводить одну из крупнейших…
Согласно триумфальным сообщениям испанских властей, большинство мигрантов, прорвавшихся на этой неделе из Марокко в испанский…