事前トレーニングの時代には、重要なのはインターネットテキストでした。主に、学習するための大規模で多様で高品質のインターネットドキュメントのコレクションが必要です。 監視された微調整の時代には、それは会話でした。契約社員は、Stack Overflow や Quora などで見られるものと少し似ていますが、LLM のユースケースを対象としています。 上記の2つはどちらもなくなるわけではありませんが(imo)、この強化学習の時代では、それは今や環境です。上記とは異なり、LLM に実際に対話する機会を与えます - アクションを実行したり、結果を確認したりします。これは、統計的な専門家の模倣よりもはるかに良いことを期待できることを意味します。また、モデルのトレーニングと評価の両方に使用できます。しかし、以前と同様に、今の中心的な問題は、LLM が練習するための演習として、大規模で多様で高品質の環境セットが必要になることです。 ある意味、OpenAI の最初のプロジェクト (gym) を思い出しますが、これはまさに同じスキーマで環境の大規模なコレクションを構築することを望んでいるフレームワークでしたが、これは LLM のずっと前のことでした。つまり、環境はカートポールやATARIなど、当時の単純な学術的な制御タスクでした。@PrimeIntellect環境ハブ (および GitHub の「検証者」リポジトリ) は、特に LLM を対象とした最新バージョンを構築しており、これは大きな努力/アイデアです。私は今年の初めに誰かに同様のものを作るように提案しました。 環境には、フレームワークの骨格が整えば、原則としてコミュニティ/業界が多くの異なるドメインにわたって並列化できるという特性があり、これはエキサイティングです。 最終的な考え - 個人的にも長期的にも、私は環境とエージェントの相互作用には強気ですが、特に強化学習には弱気です。報酬関数は超素晴らしいものだと思いますし、人間は学習にRLを使わないと思います(運動タスクなどには使いますが、知的問題解決タスクには使わないかもしれません)。人間は、はるかに強力でサンプル効率が高く、初期のスケッチやアイデアは存在しますが、まだ適切に発明され、拡張されていないさまざまな学習パラダイムを使用しています(ほんの一例として、「システムプロンプト学習」のアイデアは、更新を重みではなくトークン/コンテキストに移動し、オプションで睡眠のように別のプロセスとして重みに蒸留します)。

最適なLLM支援コーディング体験の旅を続けます。特に、完璧な 1 つのことに絞り込むのではなく、私の使用法は、長所と短所を「つなぎ合わせる」いくつかのワークフローにまたがってますます多様化していることに気づきました。 個人的には、私のLLM支援のパンとバター(~75%?)は、引き続き(カーソル)タブが完成しただけです。これは、コード/コメントの具体的なチャンクを自分で書き、コードの右側に書くことは、「タスク仕様」をLLMに伝達する高帯域幅の方法であることがわかったためです。 そして、コードを適切な場所でデモンストレーションする方が速いです。タブコンプリートモデルが面倒なことがあるので、オン/オフを頻繁に切り替えます。 次のレイヤーは、コードの具体的なチャンクを強調表示し、何らかの変更を求めることです。 次のレイヤーアップは、Cursorの側で実行されているClaude Code / Codex などで、プロンプトで指定するのもかなり簡単な大きな機能のチャンクのために使用します。これらは非常に役に立ちますが、それでも全体的にまちまちで、時々少しイライラします。YOLOモードでは走らないのは、彼らが軌道から外れて、あなたが望まない/必要のない愚かなことをする可能性があり、私はかなり頻繁にESCをするので、私はYOLOモードで実行しません。また、複数のインスタンスを並行して使用して生産的になることを学んでいません - すでに十分に難しく感じています。I haven't figured out a good way to keep CLAUDE[.]MD 良好または最新。コーディングスタイルやコードの好みの問題のために「クリーンアップ」を行わなければならないことがよくあります。たとえば、防御的すぎてtry/catchステートメントを過剰に使用したり、抽象化を複雑にしすぎたり、コードを肥大化させたり(たとえば、リスト内包表記やワンライナーのif-then-elseが機能する場合の入れ子になったif-the-else構造)、または優れたヘルパー関数を作成する代わりにコードチャンクを複製したり...基本的に味覚がありません。これらは、あまり馴染みのない、よりバイブコーディングの領域に少しずつ入った場合(たとえば、最近Rustを書いたり、SQLコマンドを書いたり、以前にあまりやったことのないものなど)に不可欠です。また、CCが書いているコードと一緒に何かを教えてみましたが、それはまったく機能しませんでした - 途中で何かを説明したいよりも、コードを書くことを望んでいます。CCにハイパーパラメータのチューニングをさせてみたのですが、とても面白かったです。また、あらゆる種類の低リスクの 1 回限りのカスタム視覚化やユーティリティ、または時間がかかりすぎるため決して書かないコードのデバッグにも非常に役立ちます。たとえば、CCは、特定のバグを特定するためだけに、1,000行の1回限りの広範な視覚化/コードをハンマーで打ち出すことができ、バグが見つかったらすぐにすべて削除されます。今はコードの希少性後の時代です - 何千行もの超カスタム、超一時的なコードを作成して削除するだけで済みます。 防御の最後の層は GPT5 Pro で、私は最も難しいことに使用します。たとえば、私/カーソル/CCがすべて10分間バグでスタックしているということが何度か私に起こりましたが、すべてを5 Proにコピーペーストすると、10分間消えますが、実際には非常に微妙なバグが見つかります。とても強いです。あらゆる種類の難解な文書や論文などを掘り起こすことができます。また、抽象化をクリーンアップする方法に関する提案(結果はまちまちで、時には良いアイデアですが、すべてではありません)や、人々がこれやこれを行う方法に関する文献レビュー全体など、他のより充実したタスクにも使用しました。 とにかく、コーディングは、多くの「種類」のコーディングと、長所と短所を持つ多くのツールにわたる可能性で完全に吹き飛ばされたように感じます。集合的に可能なことの最前線にいないことに対する不安感を避けるのは難しいため、日曜日にランダムに考えが飛び交い、他の人が何を見つけているのかについてかなりの好奇心を抱きます。

1日あたり~10件のスパム電話(さまざまな自動ボイスメール、「ローンの事前承認」など)と1日あたり~5件のスパムメッセージ(通常はフィッシング)を受け取ります。 - 私はAT&Tアクティブアーマーを持っていますが、上記のすべてはまだすり抜けています。 - 上記のすべては常に新しい一意の番号からのものであるため、ブロックは機能しません。 - 私はすべての電話拒否リストに載っています。 - iOSの「不明な発信者を消音」をオンにしていますが、捕まえて沈黙させても通知が届きます。 他の人が同様のものを見ているのか、それとも何かうまくいくものを見つけたのかはわかりません