كنت أكتب شيئا عن هذا ولكن أرى @anton_d_leicht تغلبني عليه (وقمت بعمل أفضل بكثير في ذلك!). لذلك سأضيف أفكاري غير المكتملة ، بعضها يتداخل مع أفكاره: ----- لقد كتبت قدرا لا بأس به عن ظهور الذكاء الاصطناعي الأكثر تقدما. ولكن بينما ما زلت أعتقد أنه من المحتمل أن نحصل على شيء مثل "AGI" في العقدين المقبلين ، أعتقد أيضا أنه من المحتمل أن نحصل على شيء مثل "شتاء الذكاء الاصطناعي" بينهما. فلماذا لا تكتب عنها أيضا؟ أعتقد أنه مهم ، بسبب ما يلي: - قد لا يكون شتاء الذكاء الاصطناعي مفيدا جدا حول ما إذا كنا ، على المدى الطويل (عقود بدلا من سنوات) ، نتجه إلى شيء مثل الذكاء الاصطناعي العام. - سينظر معظم الناس إلى شتاء الذكاء الاصطناعي على أنه مفيد للغاية حول جدوى الذكاء الاصطناعي الزراعي. - النتيجة المهمة هي AGI ، وليس ما إذا كان هناك شتاء الذكاء الاصطناعي أمامها أم لا. تصورات أغلب الناس (وصانعي السياسات) مهمة. يمكن أن يخلق شتاء الذكاء الاصطناعي (وما ينتج عنه انفجار فقاعة الاستثمار) فترة من الوقت يصبح فيها أي حديث عن مخاطر وفوائد الذكاء الاصطناعي المتقدم في المستقبل مشعا تماما. إذا استمر الاتجاه الأساسي نحو الذكاء العام بينما لا نحرز تقدما في السياسة ، فسيكون لدينا وقت أقل لتشكيل تطوير الذكاء الاصطناعي بشكل إيجابي [ تخيل هذا السيناريو المتشائم: العام هو 2028. الأشياء التي كانت تعمل لم تعد تعمل. بدأ توسيع نطاق التدريب المسبق يعطي عوائد متناقصة بشدة في عام 2025. تبع الاستدلال التحجيم. عملت البيانات التركيبية لفترة من الوقت ، لكنها جعلت النماذج تتقارب بالقرب من سقف جديد. حدثت بعض الابتكارات الأخرى ، مما جعل LLMs أكثر ذكاء وفائدة. لكنهم لا يزالون مجرد LLMs ، هشون جدا وليسوا جيدين في أتمتة الوظائف ، حتى لو كانوا على ما يرام في أتمتة مهام الكتابة. يتقدم الوكلاء بشكل أبطأ مما كان متوقعا. تبين أن التعلم الذاتي من النص كان إشارة تدريب سهلة بشكل خاص لتوليدها. التعلم الخاضع للإشراف الذاتي في استخدام الكمبيوتر ، و RL ، أصعب بكثير في الإعداد بشكل صحيح. يقوم الناس بإجراء عمليات محاكاة ضخمة وتدريب وكلاء فيها ، لكن هذه التعميم بشكل سيئ نسبيا. يشير الناس إلى أشياء مثل الذكاء الاصطناعي 2027 ويرون مثل هذه الفجوة بين "التوقعات" والواقع ، لدرجة أنهم يقولون إن الأمر كله كان ضجيجا. لم تعد مختبرات الذكاء الاصطناعي قادرة على تبرير عمليات التدريب الضخمة. سيضيع الحساب لتحسينات هامشية أصغر من أي وقت مضى. ربما كان لدينا بعض الاختراقات في طول السياق والتعلم المستمر ، لكنها ليست كافية. الاستثمار في الذكاء الاصطناعي ينخفض. لذا فإن البحث والتطوير يسقط أيضا. الحديث عن مستقبل الذكاء الاصطناعي يصبح مشعا. أي تكهنات حول القدرات المستقبلية يغرقها "الواقعيون" الذين يشيرون إلى السنوات القليلة الماضية من التقدم المخيب للآمال. في هذا السيناريو ، في عام 2028 ، سيبدو هذا للكثيرين (معظمهم؟) مثل نهاية القصة. الذكاء الاصطناعي جيد ، لكنه سيكون جيدا على الإطلاق. وهذا كل شيء. هذا يعني عدم وجود AGI ، ولا تأثيرات تحويلية ، ولا عصر ذهبي للتقدم ، وبالطبع ، لا توجد مخاطر أسوأ من التزييف العميق. ولكن كم من الوقت سيستمر شتاء الذكاء الاصطناعي؟ من الممكن أن يستمر إلى الأبد ، أو على الأقل يستغرق بضعة عقود. على عكس الصعاب المستمدة من اتجاهات أوائل القرن العشرين ، قد نصل إلى حد أساسي. ينتهي الأمر بالخبراء إلى إبلاغنا أن تشبيه الدماغ ووحدة معالجة الرسومات كان خشنا جدا - وهو ما كنا نعرفه جميعا بالفعل - ولكن اتضح أن الاختلافات مهمة للانتقال من متنبئ النص إلى الوكيل العام. أو كنا بحاجة إلى عمليات كمومية في الدماغ لتوليد موضع واع للانتباه ، والذي - اتضح - كان ضروريا للحصول على أعلى مستوى من الوظائف. أو أنها لم تكن عمليات كمومية في حد ذاتها ، ولكن "الأجهزة" المترابطة للغاية التي يوفرها الدماغ ، والتي يمكن محاكاتها في المعالجة المتوازية في الغالب التي تقوم بها وحدات معالجة الرسومات. ولكن مرة أخرى كما اتضح ، فإن هذه المحاكاة ليست كافية ونحن في الواقع بحاجة إلى رقائق عصبية لإنشاء وكلاء قادرين ، ولن تكون متاحة لمدة خمسة عقود أخرى. لست بحاجة إلى الاعتقاد بأن أيا من قصص الفشل هذه معقولة للاعتقاد بأننا قد نفتقد بعض المكونات في وصفة AGI ، وقد يكون من الصعب أو المستحيل الحصول على المكون هذا القرن ، كما كان كل قرن قبل هذا القرن. قد يكون شتاء الذكاء الاصطناعي قصيرا أيضا. لقد اعتدنا على زيادة القدرات في الوظيفة التدريجية بالفعل ، حيث نحصل على بعض التحديثات الرائعة بين جولات التدريب الكبيرة. إذا لم تنجح بعض عمليات التدريب كما هو متوقع ، فهذا يعني فقط أننا سنكون عالقين في هضبة أطول بكثير ، بينما تتجمع مكونات تغيير الخطوة التالية وتتراكم حتى العتبة اللازمة. ومع ذلك ، فإن فترة أطول من المتوقع من التقدم المخيب للآمال يمكن أن تؤدي إلى العديد من العمليات نفسها لفصل الشتاء الأطول. "قوانين التحجيم" هي ملاحظة تجريبية وليست حقيقة متأصلة في العالم. يمكن أن تنتهي الاتجاهات أو تتباطأ بشكل كبير. نظرا لأن معظم الناس - وخاصة معظم "الغرباء" الذين لا يتبعون تقدم الذكاء الاصطناعي - يميلون إلى التقليل من أهمية هذه الاتجاهات ، فإن الأشخاص الذين يعملون على الذكاء الاصطناعي يصابون أحيانا بالمستقطب السلبي ويصبحون مطلقين للغاية (هنا ساخر) [ حول القوة التنبؤية لقوانين القياس. نعم ، يمكن أن نكون في وضع آخر لقانون مور [ مع قدرات الذكاء الاصطناعي. لكن العديد من الاتجاهات المستقرة على ما يبدو تتوقف بمرور الوقت - نتذكر قانون مور على وجه التحديد لأنه استثنائي. أخيرا ، قد لا يأتي شتاء الذكاء الاصطناعي على الإطلاق. قد نحصل على حدود الذكاء الاصطناعي المحسنة بشكل مطرد على الرغم من "المخاوف" المنتظمة عندما يبدو أن الذكاء الاصطناعي يصطدم بالحائط قبل تحطيمه مباشرة. أو قد نحصل على حدود محسنة حيث تنفجر الكثير من "الفقاعة" لشركات الأغلفة والشركات الناشئة الأقل في مجال الذكاء الاصطناعي. والنتيجة هي: هناك اتجاه أساسي [نحو استخبارات عامة بشكل متزايد. وهذا هو الاتجاه المهم. ليس ما إذا كانت LLMs ستوصلنا إلى هناك ، أو ما إذا كنا سنصل إلى هناك مع أو بدون شتاء مؤقت لنظام الذكاء الاصطناعي بينهما. أدمغتنا هي دليل على أن المنطق العام يمكن تحقيقه ، وأنظمة الذكاء الاصطناعي اليوم هي دليل على أنه يمكن تقريب تفكيرنا بشكل مفيد (سواء كان "تفكيرا حقيقيا" أم لا) في مجالات معقدة للغاية. من المحتمل أن تكون بعض التنبؤات الأكثر تشاؤما التي حددتها أعلاه صحيحة ، مثل الوصول إلى الحدود الأساسية لذكاء الآلة. لكن يبدو أن قدر الضغط المتمثل في زيادة الحوسبة وبيانات التدريب وآلاف العباقرة الذين يعملون على خوارزميات جديدة يؤدي في النهاية إلى ذكاء متقدم. وإذا أردنا أن نفعل ذلك بشكل صحيح ، فمن الأفضل أن نركز على ذلك ، بدلا من النتائج التي ترتبط به فقط. من المنطقي بذل الكثير من الجهد والتفكير في النتائج التي نحصل فيها على الذكاء الاصطناعي التحويلي بسرعة. لكن لا تختار التلال غير ذات الصلة للموت عليها [ بالحديث عن ، ماذا يحدث إذا انفجرت الفقاعة؟ هل تفشل Anthropic ، جنبا إلى جنب مع مختبرات الذكاء الاصطناعي الأخرى التي ليس لديها دخل أكثر تنوعا مثل Google DeepMind أو Meta؟ أين يذهب موظفو XAI إذا كان هناك نزوح جماعي كبير؟ هل ستكون بعض المختبرات الحدودية على الأقل قادرة على الاستمرار في دفع الحدود ، حتى لو أفلست الكثير من الشركات الناشئة والاستثمارات الأصغر؟ من الأفضل أن نحاول معرفة ذلك ، كما نحاول معرفة ما يجب القيام به بافتراض استمرار الاتجاهات. إذا كانت لديك أفكار ، فإن الرسائل المباشرة الخاصة بي مفتوحة.