Gate Newsメッセージ、4月24日――Xiaomiの大規模言語モデルチームリードであるロウ・フーリが、詳細なインタビューの中で、MiMo-V2-Proモデルは合計1兆パラメータを持ち、学習には数千のGPUが必要だったことを明らかにした。彼女は、1T規模は、Claude Opus 4.6に近い性能を達成し、次の段階のAIエージェントに向けた競争力のある参加チケットを確保するための最低ラインだと述べた。
技術面では、Pro版は、グローバル注意とスライディングウィンドウ注意の比率を7:1とする極端なスパース注意メカニズムを採用しており、長文コンテキスト処理における推論コストを制御している。モデルはまた、より高速な推論のために余剰の計算能力を活用するMTP (Multi-Token Prediction)アーキテクチャも保持している。
運営面では、100人規模のMiMoチームのうち、コアとなる反復作業に直接携わっているのは30〜40人しかいない。チームは正式な階層や明確なサブグループの区分、納期の期限がない状態で運営されている。学習損失の急騰といった不安定な数値問題に遭遇した場合、たとえ1〜2週間の稼働停止を意味し、計算コストとして数百万ドルの損失を被ることになっても、調査のために学習を止めることを優先する。
免責事項:このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は
免責事項をご参照ください。
関連記事
コインベースのエンジニア:AIエージェントはウェブ広告のモデルを混乱させ得る
Coinbaseのエンジニアであるエリック・レッペルは、人工知能エージェントがインターネットの広告依存のビジネスモデルを根本的に損なう可能性があると述べました。レッペルによれば、ウェブ経済は人間のユーザーから生み出される広告収益に大きく依存していますが、AIエージェントはその仕組みを迂回します
CryptoFrontier10分前
xAI、Anthropicと提携してColossusコンピューティングへのアクセスを提供
xAIとAnthropicの公式発表によれば、この2社は新しい計算(コンピューティング)の提携を確立した。SpaceXのxAIは、AnthropicがColossusの計算リソースにアクセスできるようにする契約に署名した。Anthropicは、この追加の計算能力を活用する予定で、
GateNews31分前
OpenAI が MRC スーパコンピュータ ネットワーク プロトコルを公開!NVIDIA、AMD、Microsoft と協力して Stargate の基盤インフラを構築
OpenAI は、AI スーパーコンピュータ・ネットワーク・プロトコル MRC を公開し、AMD、Microsoft、NVIDIA などと連携して OCP でオープンソース化しました。MRC はデータを分割しつつ複数の経路を同時に通し、マイクロ秒レベルで回避を行うことで輻輳を減らし、GPU の同期を維持して、大規模な学習用クラスタの転送ボトルネックを解決します。Stargate のテキサス州 Abilene などの拠点では、すでに 800Gb/s のインターフェースが導入され、実際の訓練にも投入されています。
ChainNewsAbmedia56分前
AI採用プラットフォームのEthosが5月6日にa16z主導でシリーズAの資金調達2,275万ドルを完了
BlockBeatsによると、ロンドン拠点のAI採用プラットフォームEthosは5月6日に、Andreessen Horowitz(a16z)が主導しGeneral Catalystが参加した形で、シリーズAラウンド2,275万ドルの資金調達を完了した。同プラットフォームはAIを使って候補者を面接し、分析する。
GateNews1時間前
OpenAI、AMD、Intel、NVIDIAとともにMRCネットワークプロトコルを発表。10万基以上のGPUに対応
5月6日のOpenAIの発表によると、同社はAMD、Broadcom、Intel、Microsoft、そしてNVIDIAと提携して、大規模なAIトレーニング・クラスターのGPU相互接続のためのオープンなネットワーク・プロトコルであるMultipath Reliable Connection(MRC)を立ち上げました。このプロトコルは、単一のデータ伝送を分割します。
GateNews2時間前
Hut 8の株が34%急騰、98億ドルのAIデータセンターリース案件で躍進
The Blockによると、Hut 8 Corp.の株は、同社がテキサス州ヌエセス郡でNVIDIAの計算アーキテクチャ向けに設計された人工知能データセンター・キャンパスのために98億ドル規模のリース契約を締結したことを受け、本日時間外取引で34%上昇し、107.87ドルとなった。取引はHuの最初のフェーズを表している
GateNews3時間前