На фоне развития технологий в научной среде нарастает беспокойство, вызванное возможным выходом из-под контроля систем, наделенных искусственным интеллектом (ИИ).
Как сообщает российское информагентство Новости, некоторые решения, принимаемые «машинами», расходятся с намерениями человека и нередко воспринимаются как «несправедливые». Особую настороженность вызывает тот факт, что в долгосрочной перспективе контроль над искусственным «сверхразумом» не представляется возможным. Пока мы способны выключить устройства и внести изменения в программу, однако со временем такая возможность может исчезнуть, и человечество вплотную подошло к этой черте, считают эксперты.
Уже сегодня компьютерные системы во многом превосходят возможности человека в выполнении сложных операции и анализе имеющейся информации. Более того, ИИ становится способен проявлять творческие способности, ранее считавшиеся прерогативой человека. Доверив машинам управление важнейшими процессами и принятие решений в целом ряде сфер жизнедеятельности мы рискуем оказаться в полной власти ИИ, что может привести к непредсказуемым последствиям, считает профессор Оксфордского университета Ник Бустрем.