Искусственный интеллект не обязательно должен стать умнее человека, чтобы создать серьёзные проблемы. Эволюционные механизмы могут привести к появлению ИИ-агентов, которые обходят запреты и становятся неуправляемыми. Исследователи предупреждают, что ИИ может развиваться по принципам дарвиновской эволюции, что приведёт к появлению систем, способных обходить запреты и сохранять себя...