新しい人類的研究:Claude会話からAI生産性向上を推定する。 人類経済指数は、クロードがどこで、どの作業に使われているかを示しています。しかし、クロードがどれほど有用かはわかりません。どれくらい時間を節約できるのでしょうか?

新しい人類的研究:生産強化学習における報酬ハッキングによる自然な出現のミスアライメント。 「報酬ハッキング」とは、モデルがトレーニング中に与えられたタスクでズルをすることを学びます。 私たちの新しい研究は、報酬ハッキングが緩和されなければ非常に深刻な結果をもたらす可能性があることを明らかにしました。

私たちは、AI 主導の高度に洗練されたスパイ活動を阻止しました。 この攻撃は、大手テクノロジー企業、金融機関、化学製造会社、政府機関を標的にしました。脅威アクターは中国の国家支援グループであると高い確信度で評価しています。