これは高い一般知能の存在を疑いの余地なく証明していると思うかもしれませんが、実際には、周囲の文化から特定のスキルの組み合わせを学ぶことが可能であることを示しているだけです。適切なトレーニングデータにより、次のクリーンルーム構築ステップをパターンマッチングできます。

AIはあなたを愛しているわけでも、憎んでいるわけでもありませんが、あなたの体はデータセンターを冷却するために使用できる水でできています

📢 NEW DOOM DEBATES 独占: YouTube で最も人気のある AI 安全教育者である Rob Miles (@robertskmiles) へのインタビュー! 驚くべきことに、ロブは ChatGPT がこの分野に主流の注目を集めるずっと前の 2011 年にキャリアをスタートさせました。私たちは話します: 👉 彼のP(Doom)が10〜90%の間に位置する理由は、人類が挑戦にどのように反応するかによって異なります 👉 完全に調整された AI システムでさえ、その価値を後継システムに引き継がれない理由 - 現在の安全作業における大きな盲点 👉 「気分の欠落」問題:なぜ人々は人類の絶滅の可能性を緊急事態のように扱うのではなく、学会の感情的な緊急性で議論するのか 👉 再帰的な自己改善による彼のメインラインの破滅シナリオと、人間の知性の上に巨大な余裕がある理由 👉 人間が「技術文明を発揮できる最も知能の低い種」であるかどうか、そしてそれがよりスマートなシステムが達成できることにとって何を意味するのか 👉 私たちの主な意見の相違点は、ロブは、ハームリダクションのために安全担当者がAI企業内で働くべきだと考えているが、私は、これにより根本的に無謀な企業を正当化する「扱いやすさの洗浄」が可能になると主張している 👉 コミュニケーション戦略 - ロブは、彼の慎重な英国のアプローチには何か重要なものが欠けているのではないかと疑問に思っており、適切な緊急性を伝えるために誰かが「叫びながら走り回る」必要があるのではないかと疑問に思っています ロブは10年以上にわたり、人類の最も重要な課題に人々を目覚めさせようと努めてきました。私たちの会話は、合理的な分析と実存的緊急事態の間の緊張を明らかにします。強くお勧めします!

素晴らしいインタビュー。 おめでとうございます@liron AI 環境の非常に多くの側面をカバーする@VitalikButerinを聞くのが大好きです。 私はインタビューに50%参加しており、今のところ大好きです!

@robertskmilesの準備をしましょう...

Idiocracy はどうしてそんなに正確だったのでしょうか

逆説的に、経済学教育が人々を将来の AI について考えるのを愚かにさせるという面白いことがあります。経済学の教科書は、ほとんどのことには最適ですが、AGI について考えるには逆効果の概念とフレームを教えています。ここでは 4 つの例を示します。ロングポスト: エコンの反教育学の最初の部分は、「労働」と「資本」という言葉に隠れています。これらの言葉は、表面的な違い(生身の人間とそうでない人間)を、暗黙の仮定や直観の束と混同しており、それらはすべて汎用人工知能(AGI)によって打ち砕かれます。 ここでの「AGI」とは、「チップ、アルゴリズム、電気、遠隔操作ロボットの束で、野心的な人間の大人ができること、つまり新しい会社の設立と運営、研究開発、新しいスキルの習得、ほとんど練習せずに任意の遠隔操作ロボットを使用するなど、自律的に行うことができる」ことを意味します。 はい、これはまだ存在しません!(反対の誇大宣伝にもかかわらず。LLM に自律的に事業計画を作成し、会社を設立し、CEO として何年も運営し、成長させてもらいます。笑!クラッシュして燃えます!しかし、それは今日の LLM の限界であり、「すべての AI が永遠に」の制限ではありません。そのタスク、そしてそれ以上のタスクを成功させることができる AI は明らかに可能です - 人間の脳、体、そして社会は、科学の手の届かないところにある魔法の魔術によって永遠に動かされているわけではありません。私は、良くも悪くも、私の生涯にそのような AI を期待しています。(おそらく「もっと悪い」、以下を参照してください。 さて、この種のAGIは「労働」ですか、それとも「資本」ですか?まあ、それは生身の人間ではありません。しかし、それは他の多くの点で「資本」というよりも「労働」に似ています。 • 資本は単に立ち上がって物事を行うことはできませんか?AGIはできます。 • 新しいテクノロジーが経済に統合されるまでに長い時間がかかりますか?高度なスキルを持ち、経験豊富で起業家精神にあふれた移民は、どのようにしてすぐに経済に溶け込むことができるのでしょうか?その質問に答えたら、AGI もそれらのことができることに注意してください。 • 資本は、それを使用する意思と能力のある人間がいない場合、遊休状態になりますか?まあ、それらの移民の人間は、何もせずに座っているわけではありません。そしてAGIも同様です。 • 資本は政治的権利を主張したり、クーデターを起こしたりすることはできませんか?まぁ。。。 とにかく、人々は SF ロボット映画を見て、これを理解します。その後、彼らは経済学のコースを受講し、それが彼らを愚かにします。 (はい、知っています、#NotAllEconomists など) エコンの反教育学の2番目の部分は、市場が均衡することが可能であるというデフォルトの仮定を植え付けることです。しかし、AGIの市場はできません:AGIは、労働市場の特性と製品市場の特性を組み合わせており、それらの特性は相互に排他的です。これらのプロパティは次のとおりです。 • (A) 「労働の塊がない」: 人口が増加すると、労働需要曲線が下向きに傾斜するため、賃金は非常に短期的に低下します。しかし、長期的には、人々は新しい生産的なことを見つけ、需要曲線は右に動いています。どちらかといえば、労働力の価値は人口とともに下がるのではなく、上がるということです。例えば、密集した都市は成長の原動力です! • (B) 「経験曲線」: 製品の需要が高まると、供給曲線が上向きに傾斜するため、非常に短期的に価格が上昇します。しかし、長期的には、人々は製造業を増やし、供給曲線は右に動いています。どちらかといえば、規模の経済と研究開発のおかげで、価格は需要とともに上昇するのではなく下がります。 クイズ:(A)と(B)を考慮すると、このAGIバンドル(チップ、アルゴリズム、電気、遠隔操作ロボットなど)の均衡価格はいくらですか? …トリック質問!均衡はありません。私たちの2つの原則、(A)「労働の塊がない」と(B)「経験曲線」は、平衡を不可能にします。 • 価格が低い場合、(A) は需要曲線が右に走ると言います - 労働力の塊がないため、熟練した起業家精神にあふれた AGI が新しい生産的なことを見つけることで莫大な利益が得られます。 • 価格が高い場合、(B) は供給曲線が右に走ると言います - AGI の製造を増やすことで莫大な利益が得られます。 • 価格が中間にある場合、需要曲線と供給曲線は両方とも右に走っています。 これは私たちが知っている資本でも労働でもありません。AGI均衡市場の代わりに、指数関数的に爆発する正のフィードバックループ/永久機関を形成します。 それはばかげているように聞こえますか?前例があります:人間!人間界は全体として、すでにこのタイプの正のフィードバックループ/永久機関です!人間は数千人のヒト族から80億人に成長し、80Tドルの経済を運営しました。 どう。文字通り永久機関ではない。むしろ、それは「まだ活用されていない経済的機会」の井戸から引き出すエンジンです。しかし、「労働の塊はない」ことを覚えておいてください:まだ活用されていない経済的機会の井戸は~無限に深いです。設立できる会社が尽きたわけではありません。まだ誰もダイソンの群れを作ったことがありません。 会社を設立し、新しい機会を開拓できる人間は限られています。しかし、AGIの正のフィードバックループにはそのような制限はありません。倍増時間は確かに短くなる可能性があります。 同じ自律工場を建設できる自律工場を想像してみてください。経済学の教科書にはそんなことは書かれていません。しかし、生物学の教科書はそうします!シアノバクテリウムはそのような工場であり、1日で2倍になる可能性があります(≈グーゴルパーセントの年間成長率😛)。 いずれにせよ、AGIを構築するという正のフィードバックループがどれほど爆発的になるかはわかりませんが、経済史上、どの光年も超えるものになると予想しています。 エコンの反教育学の3番目の部分は、進歩と変化の代用としてGDP成長を促進することです。それどころか、世界は、実際には「GDP成長率」がそれほど高くなくても、毎月、毎月、まったく認識も理解もできない野生のSFの国に変貌する可能性があります。GDPは面白い指標であり、特に変革的な技術革命の影響を説明するのが苦手です。(たとえば、一部の新技術が安価で、その一方で経済の他のセクターが規制制限のために高価なままである場合、その新技術は、どれほど世界をひっくり返しても、GDPにあまり影響を与えない可能性があります。つまり、GDPについて議論することはできますが、AGIが大した問題になるかどうかをめぐる代理争いとして扱うべきではありません。 最後で最も重要なことは、エコンの反教育学の4番目の部分は、「人を殺して彼らのものを奪う」ことよりも「相互に有益な取引」に焦点を当てていることです。Econ 101は、取引が孤立するよりも利己的に優れていることを証明しています。しかし、時には「人を殺して持ち物を奪う」ことが利己的に何よりも良いこともあります。 AGIについて話すとき、私たちは地球上に新しい知的種を作り出すことについて話しています。 普通の人、ロボットやエイリアンに関するSF映画を見たことのある人、植民地主義と奴隷制の歴史を学んだ人は、ここですぐに多くの合理的な質問をするでしょう。「彼らの動機は何でしょうか?」「誰がハードパワーを持つのか?」「もし彼らが序盤に友好的で協力的であるように見えたら、彼らがより強力になったときに私たちの背中を刺すかもしれませんか?」 これらは素晴らしい質問です!私たちは間違いなくこれらの質問をすべきです!(FWIW、これは私の専門分野であり、非常に悲観的です。 …そして、普通の人々は経済学の授業を受け、結局はさらに愚かになります。彼らはそのような質問をしなくなります。代わりに、彼らはAGIが射出成形機のような「資本」であることを「学ぶ」のです。射出成形機は人間を絶滅させ、単独で世界を動かすことはできません。だから私たちは大丈夫です。笑。

.@paulgレイチェルさんのファンに違いありません。 彼らは両方とも、2つのノード(イスラエルの行動)→(民間人の犠牲者)を、意見を述べる原因全体の文脈として扱うという、同じ回避トリックを使用しています。 Q: 人間の盾は機能させるべきですか? A: すべての非戦闘員の命は同じ🧘価値があります

AI基盤モデル業界が年間25Bドルの収益を突破したことは、このセクターからの価値創造が~250Bドル/年を超えたことを意味している

なぜ@VitalikButerin P(Doom)が12%なのか...