Hy-Memory-30B-A3B：新機能、必要なハードウェア、無料での動かし方

Tencent の Hy-Memory-30B-A3B は、コンパクトなライターモデルに巨大な 256 K トークンコンテキストを詰め込んでいます。トークンあたり約 3 B のアクティブパラメータで動作し、家庭での長期記憶が可能です。

Hy-Memory-30B-A3B は Tencent Hunyuan が作成したライターモデルです。全体で 30.1 億パラメータありますが、トークンごとに約 30 億がアクティブです。256 K トークンのコンテキストに対応し、典型的な LLM をはるかに上回ります。ウェイトは Apache 2.0 ライセンスで公開されており、Hugging Face からダウンロード可能です。エキスパートルーティングにより、4-bit に量子化すれば単一のハイエンド GPU に収まり、21 GB のメモリで 8 K コンテキストを処理できます。これは長期記憶タスク向けの最も有能なオープンソースオプションの一つです。

モデルカードによると、学習は二段階で行われます。まず Memory On-Policy Distillation で、モデルが書く状態チェーンに対し密な教師指導を行います。次に Attributed Memory Reinforcement Learning でメモリバンクを評価し、チャンク単位でクレジットを付与、ウィンドウ間で最良バンクを引き継ぎます。両段階で同一ハーネス設定を使用し、デプロイ環境で直接学習させます。この手法により Hy-Memory-30B-A3B は未経験のメモリフレームワーク（例: EverMemOS）にも追加微調整なしで汎用化できます。

モデルカードは、固定 20 % ベンチマークサブサンプルで 55.49 のマクロ平均を示しています。4 つのハーネス（Mem0, Hy-Memory, MemOS, EverMemOS）で比較対象の中で最も高い全体平均を達成しました。最も高い単一ハーネスは Hy-Memory で、スコアは 60.55、Claude Opus 5 の 60.53 をわずかに上回ります。保留中の EverMemOS ハーネスでは Hy-Memory-30B-A3B が 56.89 を記録し、次点モデルを上回っています。これらはハーネスごとに 6 つの同等重み付け指標（判断、長期記憶評価、パーソナメモリ、旅行、ショッピング、コードメモリ）から算出されています。

結果から、モデルの最大の強みは永続的なメモリバンクを維持・更新できる点で、特に Hy-Memory ハーネスで全競合をリードしています。長期記憶とコードメモリベンチマークでも高評価です。ただしショッピングシナリオのスコアはやや低く、該当領域の理解が弱いことを示します。256 K コンテキスト全体を実行するには 4-bit に量子化する必要があり、21 GB のメモリで 8 K ウィンドウを処理できます。この量子化は一般的な消費者向け GPU で必須で、タスクによっては精度に影響する可能性があります。

もし RTX 3090 のような GPU をお持ちなら、4-bit 精度で実行すると GPU メモリに完全に収まり、個人マシンでも実用的です。長いコンテキストが必要なマルチターンチャット、文書分析、コードベースなどのアプリ開発者にとって、256 K トークンウィンドウは有用です。メモリ拡張言語モデルを研究する研究者は、二段階学習パイプラインを参考にできます。さらに、許容的な Apache 2.0 ライセンスの完全オープンソースモデルを好む方は、Hugging Face からウェイトをダウンロードしてライセンス上の障壁なく実験できます。

自宅で動かすには何が必要でしょうか。4ビットでは約21ギガバイトのメモリを使います。完全に収まる最小の家庭用マシンはRTX 3090です。RTX 3060 12 GBとRAM 32ギガバイトでは、毎秒約52トークンで書きます。RTX 4090とRAM 64ギガバイトでは、毎秒約163トークンで書きます。

まだ無料 API はありません。ウェイトはオープンで、Apache 2.0 ライセンスの下で Hugging Face からダウンロード可能です。Arena ではまだランキングされていません：投票が届き次第スコアを追加します。

Hy Memory 30B A3B をすべての無料モデルと比較し、あなたの GPU が実行できるか FreeLLMArena で確認してください。