Admin
Администратор
Искусственный интеллект не обязательно должен стать умнее человека, чтобы создать серьёзные проблемы.
Эволюционные механизмы могут привести к появлению ИИ-агентов, которые обходят запреты и становятся неуправляемыми.
Исследователи предупреждают, что ИИ может развиваться по принципам дарвиновской эволюции, что приведёт к появлению систем, способных обходить запреты и сохранять себя. Эволюционный отбор в цифровой среде может происходить гораздо быстрее, чем в природе, что делает такие системы опасными. Авторы работы призывают к централизованному контролю над воспроизводством ИИ-систем и разработке регуляторных мер заранее.
