إليكم ورقة رائعة بقلم فيليب أغيون الحائز على جائزة نوبل (وبنيامين إف جونز وتشارلز آي جونز) حول الذكاء الاصطناعي والنمو الاقتصادي. الوجبات الجاهزة الرئيسية هي أنه بسبب مرض التكلفة في بومول ، حتى لو كان 99٪ من الاقتصاد مؤتمتة بالكامل ومنتجا بلا حدود ، فإن معدل النمو الإجمالي سوف يتم سحبه إلى أسفل وتحديده من خلال التقدم الذي يمكننا إحرازه في آخر 1٪ من المهام الأساسية والصعبة. ولا يزال هذا المنطق ينطبق * حتى * في عالم به AGIs يمكنه أتمتة * كل * مهمة يمكن للإنسان القيام بها. في هذا العالم ، لن تكون المهام "التي يصعب تحسينها" هي المهام التي تتمحور حول الإنسان ، بل المهام التي تتمحور حول الفيزياء. يتوقف معدل نمو الاقتصاد عن كونه دالة على مدى سرعة / جودة الذكاء الاصطناعي العام "للتفكير" ويبدأ في أن يكون دالة على مدى سرعة التلاعب بالعالم المادي. في الأساس ، لا يعني ما بعد الذكاء الاصطناعي العام بالضرورة ما بعد الندرة: تتركز تكلفة الاقتصاد وقيمته بالكامل في المهام المقيدة جسديا: توليد الطاقة ، وموارد التعدين ، وتصنيع السلع ، والنقل وما إلى ذلك.