すべてのモデル › XingChen-AGI
Arenaスコア—Arenaではまだ投票されていません
サイズ31.2 B1トークンあたり4 Bがアクティブ(Mixture of Experts)
4ビットのダウンロード19 GB重みのみ、Q4_K_M
最大コンテキスト256Kトークン、モデル設定より
無料で使える場所
- OpenRouterの無料API:モデルID
xingchen-agi/xing4.0-29b-a4b:free。並べて試す · OpenRouterのページ - 自宅でダウンロードして動かす:公式の重み · Ollama と LM Studio 用の GGUF ファイル
新着:Arenaの投票待ち
Released on 16 Sept 2026. Arena has not voted on this model yet. As soon as it does, the model moves into the ranking automatically, usually the next night. Until then you can still check its size, memory needs and speed below, and try it for free.
よく使われるハードウェアでの速度
| ハードウェア | GPUメモリ | 収まる? | 速度 |
|---|---|---|---|
| RTX 3060 12 GB | 12 GB | GPU+64 GBのRAM | 36 tok/s |
| RTX 4060 Ti 16 GB | 16 GB | GPU+64 GBのRAM | 39 tok/s |
| RTX 3090 | 24 GB | GPUに収まる | 122 tok/s |
| RTX 4090 | 24 GB | GPUに収まる | 128 tok/s |
| RTX 5090 | 32 GB | GPUに収まる | 178 tok/s |
| RX 7900 XTX | 24 GB | GPUに収まる | 124 tok/s |
| 2 × RTX 3090 | 48 GB | GPUに収まる | 119 tok/s |
| 4 × RTX 3090 | 96 GB | GPUに収まる | 112 tok/s |
| Mac M4 Max 128 GB | 96 GB | GPUに収まる | 64 tok/s |
| Ryzen AI Max+ 395 128 GB | 96 GB | GPUに収まる | 44 tok/s |
| 8 × H100 SXM | 640 GB | GPUに収まる | 192 tok/s |
4ビット、32Kコンテキスト、オフロード用にDDR5を64 GBとした推定値。速度 ≈ メモリ帯域 × 78% ÷ 1トークンあたりの読み込みデータ量に、トークンごとの固定コストを加えたもので、44件の実際の llama.cpp テストで補正しています。典型的な誤差は約±10%です。すべてのGPUを比較。
必要なGPUメモリ
| レベル | 8Kコンテキスト | 32Kコンテキスト | 128Kコンテキスト | フル精度との品質比較 |
|---|---|---|---|---|
| Q3_K_M | 17 GB | 18 GB | 22 GB | +6.9% 目立つ劣化 |
| Q4_K_M | 20 GB | 21 GB | 26 GB | +1.8% 小さな劣化 |
| Q5_K_M | 23 GB | 24 GB | 29 GB | +0.6% ほぼ劣化なし |
| Q6_K | 27 GB | 28 GB | 32 GB | +0.2% ほぼ劣化なし |
| Q8_0 | 34 GB | 35 GB | 40 GB | ≈ 0% フル精度と同等 |
| F16 | 63 GB | 65 GB | 69 GB | ≈ 0% フル精度と同等 |
重み+コンテキストキャッシュ(モデルのアーキテクチャから算出)+ランタイム。品質:フル精度モデルに対するperplexityの増加分で、llama.cpp のテストをもとにモデルサイズに合わせて換算しています。自分の環境をシミュレーション。
このページを共有:XLinkedInRedditWhatsApp
数字の誤りやリンク切れを見つけましたか?間違いを報告