Супер-интеллект может уничтожить человечество

Будет практически невозможно остановить супер-умную машину, пожелавшую контролировать весь мир и навредить людям. Таковы перспективы безудержного и неконтролируемого развития искусственного интеллекта, как предупреждают ученые.
 
Идея восстания роботов против человека, озвученная в таких фильмах, как «Терминатор» или «Матрица», может стать реальностью. Искусственный интеллект (ИИ) продолжает развиваться, и если не взять этот процесс под жесткий контроль, то система рано или поздно захочет управлять всем человечеством. Группа международных ученых разработала теоретический алгоритм, который показывает, что суперумная система вроде бы не сможет навредить человеку ни при каких обстоятельствах. Следовательно, она будет не готова разрушить жизнь человечества.
 
Однако анализ показывает, что современные алгоритмы не обладают способностью остановить ИИ, поскольку команды системе о запрете уничтожения мира могут нарушить исполнение собственных операций алгоритма. И если это произойдет, то зараженный каким-нибудь вирусом алгоритм может или продолжать анализировать угрозы, или приостановить свою работу для того, чтобы сдержать вредоносный ИИ.
 
Эксперимент наглядно показал, что существующий алгоритм не может остановить ИИ в его желании разрушить человечество. Сегодня системы искусственного интеллекта всё более активно используются в самых разных областях жизни, ИИ контролирует наши автомобили, сочиняет симфонии и даже побеждает самых лучших шахматистов. Но это мощная сила требует не менее мощной ответственности, поэтому мировые ученые обеспокоены по поводу тех опасностей, которыми грозят супер-умные системы, пишет The Daily Mail. (ЧИТАТЬ ДАЛЕЕ)