Free Arenaで投票

すべてのモデル › ByteDance-Seed

Cola2

ByteDance-Seed · released 6 Nov 2026

ダウンロード 新着・Arenaの投票待ち
Arenaスコア—Arenaではまだ投票されていません
サイズ8.8 Bパラメータ
4ビットのダウンロード5.3 GB重みのみ、Q4_K_M
最大コンテキスト—

無料で使える場所

新着:Arenaの投票待ち

Released on 6 Nov 2026. Arena has not voted on this model yet. As soon as it does, the model moves into the ranking automatically, usually the next night. Until then you can still check its size, memory needs and speed below.

よく使われるハードウェアでの速度

ハードウェアGPUメモリ収まる?速度
RTX 3060 12 GB12 GBGPUに収まる41 tok/s
RTX 4060 Ti 16 GB16 GBGPUに収まる33 tok/s
RTX 309024 GBGPUに収まる101 tok/s
RTX 409024 GBGPUに収まる108 tok/s
RTX 509032 GBGPUに収まる177 tok/s
RX 7900 XTX24 GBGPUに収まる103 tok/s
2 × RTX 309048 GBGPUに収まる98 tok/s
4 × RTX 309096 GBGPUに収まる93 tok/s
Mac M4 Max 128 GB96 GBGPUに収まる53 tok/s
Ryzen AI Max+ 395 128 GB96 GBGPUに収まる30 tok/s
8 × H100 SXM640 GBGPUに収まる237 tok/s

4ビット、32Kコンテキスト、オフロード用にDDR5を64 GBとした推定値。速度 ≈ メモリ帯域 × 78% ÷ 1トークンあたりの読み込みデータ量に、トークンごとの固定コストを加えたもので、44件の実際の llama.cpp テストで補正しています。典型的な誤差は約±10%です。すべてのGPUを比較。

必要なGPUメモリ

レベル8Kコンテキスト32Kコンテキスト128Kコンテキストフル精度との品質比較
Q3_K_M5.3 GB6.2 GB9.6 GB+10.2% 目立つ劣化
Q4_K_M6.2 GB7.1 GB11 GB+2.7% 小さな劣化
Q5_K_M7.1 GB8.0 GB11 GB+0.9% ごくわずかな劣化
Q6_K8.1 GB9.0 GB12 GB+0.3% ほぼ劣化なし
Q8_010 GB11 GB15 GB≈ 0% フル精度と同等
F1618 GB19 GB23 GB≈ 0% フル精度と同等

重み+コンテキストキャッシュ(モデルのアーキテクチャから算出)+ランタイム。品質:フル精度モデルに対するperplexityの増加分で、llama.cpp のテストをもとにモデルサイズに合わせて換算しています。自分の環境をシミュレーション。

このページを共有:XLinkedInRedditWhatsApp

どのページでも / または Ctrl+K で検索できます。