すべてのモデル › ByteDance-Seed
Cola2
ByteDance-Seed · released 6 Nov 2026
ダウンロード 新着・Arenaの投票待ち
Arenaスコア—Arenaではまだ投票されていません
サイズ8.8 Bパラメータ
4ビットのダウンロード5.3 GB重みのみ、Q4_K_M
最大コンテキスト—
無料で使える場所
- Run it in one command with whichllm (free, open source):
uvx whichllm@latest plan "Cola2"shows the GPU you need,uvx whichllm@latest run "Cola2 gguf"downloads it and starts a chat - 自宅でダウンロードして動かす:公式の重み · Ollama と LM Studio 用の GGUF ファイル
新着:Arenaの投票待ち
Released on 6 Nov 2026. Arena has not voted on this model yet. As soon as it does, the model moves into the ranking automatically, usually the next night. Until then you can still check its size, memory needs and speed below.
よく使われるハードウェアでの速度
| ハードウェア | GPUメモリ | 収まる? | 速度 |
|---|---|---|---|
| RTX 3060 12 GB | 12 GB | GPUに収まる | 41 tok/s |
| RTX 4060 Ti 16 GB | 16 GB | GPUに収まる | 33 tok/s |
| RTX 3090 | 24 GB | GPUに収まる | 101 tok/s |
| RTX 4090 | 24 GB | GPUに収まる | 108 tok/s |
| RTX 5090 | 32 GB | GPUに収まる | 177 tok/s |
| RX 7900 XTX | 24 GB | GPUに収まる | 103 tok/s |
| 2 × RTX 3090 | 48 GB | GPUに収まる | 98 tok/s |
| 4 × RTX 3090 | 96 GB | GPUに収まる | 93 tok/s |
| Mac M4 Max 128 GB | 96 GB | GPUに収まる | 53 tok/s |
| Ryzen AI Max+ 395 128 GB | 96 GB | GPUに収まる | 30 tok/s |
| 8 × H100 SXM | 640 GB | GPUに収まる | 237 tok/s |
4ビット、32Kコンテキスト、オフロード用にDDR5を64 GBとした推定値。速度 ≈ メモリ帯域 × 78% ÷ 1トークンあたりの読み込みデータ量に、トークンごとの固定コストを加えたもので、44件の実際の llama.cpp テストで補正しています。典型的な誤差は約±10%です。すべてのGPUを比較。
必要なGPUメモリ
| レベル | 8Kコンテキスト | 32Kコンテキスト | 128Kコンテキスト | フル精度との品質比較 |
|---|---|---|---|---|
| Q3_K_M | 5.3 GB | 6.2 GB | 9.6 GB | +10.2% 目立つ劣化 |
| Q4_K_M | 6.2 GB | 7.1 GB | 11 GB | +2.7% 小さな劣化 |
| Q5_K_M | 7.1 GB | 8.0 GB | 11 GB | +0.9% ごくわずかな劣化 |
| Q6_K | 8.1 GB | 9.0 GB | 12 GB | +0.3% ほぼ劣化なし |
| Q8_0 | 10 GB | 11 GB | 15 GB | ≈ 0% フル精度と同等 |
| F16 | 18 GB | 19 GB | 23 GB | ≈ 0% フル精度と同等 |
重み+コンテキストキャッシュ(モデルのアーキテクチャから算出)+ランタイム。品質:フル精度モデルに対するperplexityの増加分で、llama.cpp のテストをもとにモデルサイズに合わせて換算しています。自分の環境をシミュレーション。
このページを共有:XLinkedInRedditWhatsApp
数字の誤りやリンク切れを見つけましたか?間違いを報告