2026年10月04日 朝のAIニュースまとめ

OpenAIの安全性に関する議論とAIエージェント向け決済セーフガードの構築

OpenAIでは安全性担当者の辞任や、アルトマン氏によるAI神格化への警鐘など、開発と安全性のバランスに関する議論が起きています。

また、AIエージェントの普及を見据え、決済大手3社が新たなセーフガードの構築に乗り出しました。マスク氏とTSMCによる半導体工場運営の協議など、インフラ面の動きも進んでいます。

本日の注目トピックを順番に掘り下げていきましょう。

目次

1. MetaがMuse Gadgets発表、各種ハードへ移植進む【続報】
2. OpenAIの安全性担当者David Robinsonの辞任と警告
3. Sam AltmanがAIの神格化に警鐘
4. イーロン・マスクがTSMCとTerafabについて協議中
5. Aleph Alphaが78BオープンモデルKolibri公開
6. Meta論文: 軽量ハーネス付ベースモデルがRLモデルを凌駕
7. Vercel収益$600M到達、エージェント需要で急成長【続報】
8. 中国リセラーによるClaude不正アクセスと蒸留【続報】
9. 決済大手3社がAIエージェント向けセーフガードを構築
10. NanoGPTスピードランで39.9秒の新記録【続報】

MetaがMuse Gadgets発表、各種ハードへ移植進む【続報】

• MetaのAIモデル「Muse」シリーズに関する続報です
• オープンソースのESP32ファームウェアとLinux SDK「Muse Gadgets」が発表され、Museのコードが無料で提供されました
• これにより、e-inkディスプレイやNintendo 3DSなど、様々なハードウェアデバイスへのMuseの移植が急速に進んでいます
• 開発者コミュニティでは、APIトークンとコーディングエージェントを活用して独自のスマートデバイスを構築する動きが活発化しています

TechCrunch: (翻訳) MetaはMuseをあなたのテレビやトースターに入れたいと考えており、そのためコードを無料で提供しています。

kache: (翻訳) 待って、彼らは料理している。彼らは実際に料理している。 (引用ツイート: 🚨 サイドプロジェクトアラート 🚨 Muse Gadgetsを発表します。これはオープンソースのESP32ファームウェアとLinux SDKで、Museと連携するハードウェアデバイスを作成できます。APIトークンを取得し、お気に入りのコーディングエージェントをgithubリポジトリに向けて、独自のデバイスを構築し...

Alexandr Wang: (翻訳) まさか、Nintendo 3DSでMuse gadgetが動くなんて‼️（かわいい犬も） (引用ツイート: 3DSにMuseを入れました！実際の任天堂ハードウェアで動くゲームを作成し、Museを通じてスマートホームを制御できるようにしました！とてもクールです！)

OpenAIの安全性担当者David Robinsonの辞任と警告

• OpenAIで12のフロンティアモデルの安全性レポートを監督したDavid Robinson氏が辞任しました。
• 同氏は「試行錯誤の時代は終わった」と述べ、現在のパニック状態のスプリント開発では高度なAIに必要な知恵が育たないと強い懸念を示しています。
• この辞任は、AI開発のペースと安全性のバランスに関する議論を再び呼び起こしています。

Chubby♨️: (翻訳) また始まりました。David RobinsonはOpenAIで12の主要モデルの立ち上げに関する安全性レポートを監督しました。彼は、チームが「スプリントに忙殺され、大きな変更を検討する機会がめったになかった」と述べています。彼の警告：「間違いの後の反復は不可能かもしれない。」 (引用ツイート: The Atlanticの新着記事：@dgrobinsonが今週辞任しました。彼はOpenA...

Shakeel: (翻訳) 「会社がある立ち上げから次の立ち上げへとスプリントする中で、私が必要だと信じるレベルの注意を達成できていない。」

TechCrunch: (翻訳) 彼自身の言葉を借りれば、David Robinsonは「一種の決まり文句」です：主要なAI企業を辞任する際に悲惨な警告を発する従業員。

Sam AltmanがAIの神格化に警鐘

• OpenAIのSam Altman氏が、AIモデルに宗教的な力や人間の判断の放棄を帰属させる動きに対して強い不快感を表明しました
• 同氏はこれを「真の安全上の問題」と指摘しており、AIを過度に擬人化・神格化する風潮に釘を刺しています
• この発言は、Anthropicが宗教的指導者とAIの意識について議論しているという報道に対する牽制との見方もあります

Sam Altman: (翻訳) 私は、人々がAIモデルに宗教的な力や人間の判断の放棄を帰属させようとすることに非常に不快感を感じており、それが真の安全上の問題だと考えています。

Yuchen Jin: (翻訳) https://t.co/fhjwG9mQ2v (引用ツイート: 私は、人々がAIモデルに宗教的な力や人間の判断の放棄を帰属させようとすることに非常に不快感を感じており、それが真の安全上の問題だと考えています。)

Chubby♨️: (翻訳) これは、Claudeの意識や道徳的発達の可能性について議論するために宗教的思想家と非公開の会議を開いたというニューヨーク・タイムズの報道に続く、Anthropicへの牽制のようです。Samの意見は的を射ており、全く同感です。

イーロン・マスクがTSMCとTerafabについて協議中

• イーロン・マスク氏が、テキサス州の新しい半導体工場「Terafab」の運営に関して、TSMCと初期の協議を行っていることを確認しました。
• 以前からIntelとの協力が噂されていましたが、進展が見られないためTSMCとの提携を模索していると報じられています。
• AIインフラの構築に向けた動きとして、今後の交渉の行方が注目されています。

パウロ: 本当だったら、TSMCのポリシー変更な気がしますね ＞＞＞ TSMCはイーロン・マスクのテラファブに参加する計画を模索中 (引用ツイート: Culpium: TSMC is looking to participate in Terafab. Culpium: Recent rumors of TSMC expanding into Texas are tied to efforts to s...

Jukan: (翻訳) イーロン：TerafabとTSMCは確かに協議中です。@tculpanを過小評価しないでください。 (引用ツイート: @wholemars 単なる議論ですが、何か生まれるかもしれません)

Evan: (翻訳) イーロン・マスクは、テキサスの新しい半導体工場の運営を支援するため、Terafabでの協力について台湾セミコンダクター（$TSM）と初期の協議を行っていることを確認しました。取引はまだ初期段階であり、実現しない可能性もあります。

Aleph Alphaが78BオープンモデルKolibri公開

• ドイツのAIラボAleph Alphaが、78Bパラメータ（アクティブ3.46B）のMoEモデル「Kolibri」をリリースしました
• 最大100万トークンのコンテキストウィンドウを持ち、Apache 2.0ライセンスでオープンウェイトとして提供されます
• 欧州発の汎用モデルとして、Mistralに続く強力なオープンソースモデルの登場に期待が寄せられています

Wolfram Ravenwolf: (翻訳) リリースおめでとうございます、@Aleph__Alpha！ついに！もっと大きな鳥も来るのでしょうか？コウノトリ（ベースモデル）、ハヤブサ（フラッシュバリアント）、太ったアホウドリ（密なモデル）？ (引用ツイート: 小さな鳥、速い翼、Kolibriがここに。78Bパラメータ。3.46Bアクティブ。最大1Mトークンのコンテキスト。ヨーロッパで構築。今、重みはあなたのものです。Apache ...

🚨 AI News | TestingCatalog: (翻訳) Aleph Alphaは、78Bパラメータ、3.46Bアクティブ、1Mコンテキストウィンドウを持つMoEオープンウェイトモデル「Kolibri」をリリースし、Apache 2.0ライセンスで配布しました。Aleph AlphaはドイツのAIラボであり、Mistralを除けば、EU発の最初の汎用モデルとなるでしょう。

Meta論文: 軽量ハーネス付ベースモデルがRLモデルを凌駕

• Meta Superintelligence Labsが、ベースモデルと強化学習（RL）ポストトレーニングモデルの性能比較に関する論文を発表しました。
• 軽量な推論ハーネスを備えたベースモデルに十分なテスト時予算を与えた場合、RLモデルよりも多くのエージェントタスクを解決できることが示されました。
• 一方で、RLモデルは効率性の面で優れており、事前学習と事後学習の役割について新たな知見を提供しています。

elvis: (翻訳) すべての事前学習および事後学習オタクのための素晴らしい論文です。驚くべき発見は、軽量な推論ハーネスを備えた事前学習済みLLMが、有能なエージェントとして機能し、十分なテスト時予算があれば事後学習済みの対応モデルを上回ることさえできるということです。 (引用ツイート: Meta Superintelligence Labsからの素晴らしい論文。彼らは非常に興味深く予想外の何かを発見しまし...

Vercel収益$600M到達、エージェント需要で急成長【続報】

• Vercelの収益に関する続報です
• 年換算収益が6億ドルに達し、前年比148%増という急成長を記録したことが報じられました
• 年初は3%未満だったコーディングエージェント関連の収益が急増し、新規ビジネスの約半分を占めるまでに拡大しています
• AI開発ツールの需要の高さと、同社のプラットフォームとしての成長を裏付けています

The Information: (翻訳) Vercelは、コーディングエージェントが新規ビジネスの主要な源となる中、年換算収益で6億ドルを生み出しており、前年比148%増となっています。エージェントは現在、新規ビジネスの約半分を占めており、年初の3%未満から増加しています。

中国リセラーによるClaude不正アクセスと蒸留【続報】

• 中国のトークンリセラーによるClaudeへの不正アクセスとモデル蒸留に関する続報です
• Anthropicが取り締まりを強化する中、リセラー側はダミー会社を設立するなど新たな回避策を講じていることが明らかになりました
• 米国のAIモデルの蒸留が中国のAI開発に与える長期的影響について、投資家からも懸念の声が上がっています

The Information: (翻訳) アメリカのAIモデルを蒸留することは、長期的には中国のラボを傷つける可能性があります。The Informationのアジア支局長@jingyanghkが投資家の警告を共有しています：「AIラボが先を行くために蒸留することは、アスリートのドーピングのようなものです。短期的なパフォーマンス向上は得られますが、それはもたらすでしょう...」

The Information: (翻訳) 何千もの中国のトークンリセラーが、AIラボにAnthropicのClaudeへの不正アクセスを提供し、米国モデルの蒸留を支援しています。Anthropicの取り締まりにより、これらのラボはダミー会社やその他の新しい回避策へと追いやられています。

決済大手3社がAIエージェント向けセーフガードを構築

• 大手決済ネットワークのVisa、Mastercard、Stripeが、AIエージェントがユーザーの資金を消費する際の新しいセーフガードを構築しています。
• エージェントが誤った購入をした場合の責任の所在や、自律的な決済におけるセキュリティの確保が課題となっています。
• AIエージェントによる自律的な経済活動が現実味を帯びる中、金融インフラ側の対応が急がれています。

The Information: (翻訳) Visa、Mastercard、Stripeは、ユーザーの資金を消費できるAIエージェント向けの新しいセーフガードを構築しています。彼らは基本的な問題に取り組んでいます：エージェントが誤った購入をした場合、誰が支払うのか？

NanoGPTスピードランで39.9秒の新記録【続報】

• GPT-2クラスの学習速度を競う「nanogptスピードラン」に関する続報です
• 学習時間を67.6秒から39.9秒に短縮する驚異的な新記録が達成されました
• 価値の低い計算をスキップする「Flop-awareアプローチ」が用いられています
• 過去45回の世界記録更新を合わせた以上の改善であり、モデル学習の最適化における大きなブレイクスルーとして注目されています

webbigdata: ポーランドの野球チームの代表選手として決勝出場しながら1人で、nanogptスピードラン(GPT-2 124Mの学習速度向上コンペ)で一気に67.6秒→39.9秒に縮めた人がいたと聞いて、野球の部分は何かの比喩かと思っていたら本当だった件 価値の低い計算(Flop)をスキップするFlop-awareアプローチだそうです (引用ツイート: It's official : We trained Na...