Классная работа по созданию строгих основ с практическими идеями для построения хорошо согласованных AI систем: Должны ли мы доверять отдельным организациям, что они создадут хорошо согласованный AI, который не будет служить их интересам? Нет. Пусть они конкурируют, не предполагайте их альтруизм и разрабатывайте механизмы соответственно.