AI研究者3名が再帰的自己改善の技術的障壁を議論——現行パラダイムで超知能に到達できるか
出演
Dwarkesh Patel × Baron Millich (Zyphra CTO)、John Schulman (Thinking Machines Chief Scientist、元OpenAI共同創業者)、Charlie O'Neil (Base Ten Head of Model Training)
結論
AIが自己改善ループに入る時期は2〜10年と見積もられるが、現行の手法（トランスフォーマー＋強化学習）が知能の「大域最適解」に到達できるかは未解決である。
3行サマリー
- Zyphra CTO、元OpenAI研究者、Base Ten訓練責任者の3名が、AIの再帰的自己改善（RSI）が2036年までに実現するかを議論した
- 全員がAIの大幅な進歩を予測する一方、AI研究の自動化時期（2〜10年）と全認知領域での超知能達成時期（3〜10年）では意見が分かれた
- 技術的な論点は、現行パラダイムが根本的な不連続性を必要とするか、目標設定の自動化が可能か、継続学習が解決できるかの3点に集約された
注目ポイント3つ
1. 蒸留が集中化を防ぐ力: John Schulmanは「強化学習で学べることは少量のデータから簡単に蒸留できる」と指摘し、これがモデル提供者の寡占化を防ぐ主要因だと述べた。ただし正しいプロンプト分布が必要で、中国企業は米国モデルへのアクセスを提供するルーターサービスを通じて利用データを収集・販売し、「完璧なプロンプト分布」を蒸留に活用していると明かした
2. 中間訓練が8割の仕事をする: Baronは強化学習の成功の理由を「非常に優れた中間訓練データ」に求め、「最終的な強化学習チェックポイントの8割近くまで、これがモデルを運ぶことが多い」と説明した。強化学習のビットは「極めて高いシグナル」を持つ——目的関数が推論トークンをすべて無視し答えだけを更新するため、教師あり学習では「ノイズに埋もれていた」シグナルが際立つ
3. タイムライン予測の分散: ホワイトカラー業務全般をこなすリモートワーカーとしてのAI雇用は1〜3年、AI研究者の生産性10倍化は2〜10年、全認知作業での超知能達成は3〜10年と予測が分かれた。最も楽観的なJohnは「AI研究の自動化は2年」と見るが、Charlieは「自分が情報を吸収してベイズ最適な次の実験を決める能力」がボトルネックになると5〜10年を予測した
一言の見立て
現行の深層学習パラダイムが知能の大域最適解にどれだけ近いかという問いは、ムーアの法則が多数の離散的革新を必要としたのと同じ構造を持つ。技術的な累積改善と、目標設定という哲学的・規範的な問題の分離が、この議論の核心である。
出典
Dwarkesh Podcast「AI researchers debate how close we are to recursive self-improvement」（2026年9月11日）
https://www.dwarkesh.com/p/john-beren-charlie
読み上げ出典
ドワーケシュ・ポッドキャスト『エーアイ・リサーチャーズ・ディベート・ハウ・クローズ・ウィー・アー・トゥー・リカーシブ・セルフ・インプルーブメント』（2026年9月11日）。ゲストはバロン・ミリッチさん、ジョン・シュルマンさん、チャーリー・オニールさん
AI開示: 本コンテンツはAIの支援を受けて制作し、編集部が事実確認・分析の監修を行っています。
# Reinforcement Learning# Continual Learning# Recursive Self-Improvement# OpenAI
暗号資産の規制失敗とAI減速論争が示す、業界が政権に縛られる脆弱性
出演
Kade Mark（Uneasy Money ホスト、Synthetix・Infinex 創業者）× Tommy（Delphi Ventures 創業パートナー）× Taylor Monahan（セキュリティ専門家、元 MetaMask）
結論
規制の明確化を法律ではなく行政裁量に頼る戦略は、政権交代で一夜にして崩れる砂の城である。
3行サマリー
- 暗号資産業界は一億ドル超のロビー活動と親暗号資産政権を得ながら、Clarity Act（明確化法案）を上院五十票に届かせられなかった。トランプのミームコイン発行が倫理懸念を生み、法案を潰した
- OpenAI・Anthropic の「AI減速」提案は安全ではなく収益性の問題——両社は「恐ろしく赤字」で計算資源を補助金で回しており、中国のオープンソースモデル（十分の一のコストで九割の知能）に市場を奪われる前に規制で堀を作ろうとしている
- 両業界に共通するのは、創業者が規制当局との取引で生存を図り、その結果として政治体制への依存という脆弱性を抱え込む構造。「安全」を名乗る陣営は実際の問題を解決せず、マーケティングと規制捕獲を行っている
注目ポイント3つ
1. Gensler 時代は実存的脅威、現政権は単なる煩わしさ — Kade は「今の方がマシ。狂人が扉を蹴破って頭を撃つ可能性が百パーセント減った。Gensler のことだ」と語る。Tommy は「優秀な創業者と話すたび『でも刑務所行きかも』と思った。Gensler 下では異常だった」。トレードオフは、実存リスクは減ったが競争は激化（ナスダック上場企業が参入）し、立法による明確化は得られなかった
2. フロンティアラボは自分たちが何をしているか分かっていない — DeepSeek は全ユーザーを 4.1 Flash へ切り替え「AGI を発見した」と宣言。二日後「間違いでした、本当に愚かです」と撤回。Kade「これらのラボは何も分かっていない」。Taylor「彼らは革新的だが本当に分かっていない。それが安全の話より怖い——君たち本当に分かっていないんだ」。含意: ラボが自分のモデルを制御できないなら、AGI も制御できない
3. Anthropic・OpenAI はあなたの全プロンプトを読める — Taylor が Anthropic の脅威アクター報告書を引用: 「彼らは文字通りあなたの全ジョブを完全に読める」。例: 中国共産党当局者が中国のモデル（バックエンドは Anthropic）で市民を監視——Anthropic はそれを見て公表した。「これは米国企業・エンタープライズでも起きている。いずれ Anthropic・OpenAI にとって問題になる」。プライバシーリスクはエンタープライズ採用にとって実存的
一言の見立て
暗号資産が Gensler という「狂人」から逃れるために政権と取引した結果、法律ではなく行政裁量に依存する脆弱な勝利を得た。AI 業界も同じ道を辿ろうとしている——OpenAI・Anthropic は「減速」を唱えながら、実際には中国のオープンソースモデルに市場を奪われる前に規制で堀を作ろうとしている。両者に共通するのは、安全や明確化を名目に規制当局との取引で生存を図り、その結果として政治体制への依存という新たな脆弱性を抱え込む構造だ。歴史が示すのは、イノベーションがガバナンスより速く動くとき、創業者はコンプライアンスリスクと競争上の絶滅のどちらかを選ばされる——そして「安全」陣営は実際の問題を解決するのではなく、マーケティング作戦を展開しているに過ぎない可能性が高い。
出典: Uneasy Money「Uneasy Money: What Crypto's Gensler Years Say About the AI Slowdown Debate」（二千二十六年九月十七日）
https://unchainedcrypto.com
読み上げ出典: アンチェインド・クリプト『アンイージー・マネー、ホワット・クリプトズ・ゲンスラー・イヤーズ・セイ・アバウト・ジ・エーアイ・スローダウン・ディベート』（二千二十六年九月十七日）。ゲストはトミーさん（デルファイ・ベンチャーズ創業パートナー）とテイラー・モナハンさん（セキュリティ専門家、元メタマスク）
# AI Slowdown Debate# AI Safety# Regulation by Enforcement# Clarity Act
二十四歳の独立ジャーナリストが政府詐欺を暴き、カリフォルニア州は彼を止める法律を制定した
出演
Jason Calacanis × Nick Shirley（独立調査ジャーナリスト／YouTuber）
結論
政府の不正を暴く市民ジャーナリズムは、従来メディアが果たせなかった説明責任を実現できる——だが権力はそれを法律で封じようとする。
3行サマリー
二十四歳の独立ジャーナリスト、Nick Shirleyは、YouTube動画でミネソタ州の保育施設詐欺（四百万ドル）とカリフォルニア州高速鉄道の壊滅的失敗（十八年で百五十億ドル消費・運行区間ゼロ）を暴露した。彼の調査は逮捕と政治的帰結をもたらしたが、カリフォルニア州は彼の取材を阻止する法律AB 2624を制定し、違反すれば最低四千ドルの罰金を科す仕組みを作った。Shirleyは現在、憲法修正第一条違反として州を提訴している。
注目ポイント3つ
1. カリフォルニア高速鉄道の規模的失敗: 二千八年開始から十八年、百五十億ドルを費やして運行区間ゼロ。当初見積もり三百三十億ドルは二千三百六十億ドルへ膨張し、完成すれば州間高速道路・国際宇宙ステーションに次ぐ史上三番目の高額インフラとなる——ただしそれらと違い、機能しない。専門家の試算では、既支出額でサンフランシスコ〜ロサンゼルス間の航空券を百五十年間無料にできる。全額では三百年分。費用の三分の一（五十億ドル超）は「変更指示遅延」——政府の計画不備で作業できない請負業者への日額十七万ドル（月額五百万ドル）の支払いに消えた。
2. ジャーナリズムを封じる立法: カリフォルニア州はShirleyの調査後、AB 2624（通称「Nick Shirley阻止法」）を制定。移民支援サービス提供者（非営利団体・医療施設等）が要求書を送れば、Shirleyは動画を公開できず、違反すれば最低四千ドルの罰金と訴訟費用を負う。法案の共同提案者CHIRLA（移民権利擁護団体）は八千万ドルの政府資金を受け取っており、法案起草者Mia Bontaはカリフォルニア州司法長官（詐欺訴追の責任者）の妻——訴追者の配偶者が詐欺摘発を困難にする法律を作る構造的利益相反が成立している。
3. X（旧Twitter）の影響力格差: Shirleyのミネソタ詐欺動画はYouTubeで数百万回再生だったが、Xでは一億四千万回再生され、意思決定者に到達して政府の対応を強制した。動画公開から七日間で四十億回再生され、保育詐欺の首謀者（四百万ドル受領）はロンドンへの片道航空券で逃亡を図ったところを逮捕され、有罪を認めた。同日（収録日）には十二人が一千万ドルの詐欺で起訴された。Tim Walz州知事は再選を断念した。
一言の見立て
政府の説明責任は、もはや制度ジャーナリズムではなく市民の直接調査で担保される時代に入りました。Shirleyの成功が既存記者の敵意を買うのは、彼らが「なりたかった自分」を体現しているからです——理想主義的で、勇敢で、捕獲されていない。従来メディアは政治化し立場を選んだ一方、Shirleyは選んでいない。彼らは些末な事実確認の粗を批判しますが、Shirleyは実際の詐欺を見つけ、逮捕を実現しています。プラットフォームの民主化（X・YouTube）と観客資金モデル（X購読）が、制度に依存しない調査報道を経済的に成立させた——だが権力はそれを法律で封じようとする。この緊張が、次の十年の報道の自由を決めます。
出典: オール・イン「Nick Shirley: Exposing Government Fraud, Suing California & Taking on the Media」（二千二十六年九月十八日）
https://allinchamathjason.libsyn.com/nick-shirley-exposing-government-fraud-suing-california-taking-on-the-media
読み上げ出典: オール・イン『ニック・シャーリー・エクスポージング・ガバメント・フロード・スーイング・カリフォルニア・アンド・テイキング・オン・ザ・メディア』（二千二十六年九月十八日）ゲストはニック・シャーリーさん
AI開示: この番組はAIの支援を受けて制作し、編集部が事実確認・分析の監修を行っています。
# Nick Shirley# California AB 2624# California High-Speed Rail# Citizen Journalism
毎朝、世界の知性を15分で。
音声・深掘り分析・あなた専用の知識グラフはアプリで。無料で今日から。
アプリを入れる →