UserRepGen-4B：新機能、必要なハードウェア、無料での動かし方

UserRepGen-4B はチャットを構造化されたユーザープロファイルに変換します。無料の 4 億パラメータモデルで、JSON を生成し、対話は行いません。

UserRepGen-4B は Qwen3.5-4B 言語モデルのファインチューニング版です。Microsoft によると、英語のマルチターンユーザー‑アシスタントチャットを受け取り、2 つのフィールド task と user_behavior を含む JSON オブジェクトを返します。バックボーンは条件付き生成トランスフォーマーで、オンライン教師ありファインチューニングで学習した rank-64 LoRA 層が追加されています。その目的は、後で別の LLM ベースシミュレータに条件付けできるコンパクトな自然言語表現のユーザーを作成することです。

Unlike earlier UserLM models that generate simulated user turns, UserRepGen-4B produces a description of the user’s task and behavior instead of dialogue. The model does this directly from the source conversation, so it does not require any simulation rollouts or hindsight feedback at inference time. Microsoft says the training used online supervised fine-tuning with hindsight distillation, letting the model learn from comparisons between simulated and original user behavior.

The model card highlights several capabilities. It can capture a user’s communication style, incremental constraint disclosure, feedback patterns, and termination behavior. When fed to an unseen LLM-based simulator, these representations improve conversation-reconstruction fidelity, according to the research. The training sequence length is 9,216 tokens, allowing fairly long multi-turn dialogs to be processed in a single pass.

UserRepGen-4B infers a user profile from just one conversation, so it can over-generalize occasional behavior into a stable rule. The model may include assumptions that are not grounded in the source text, and it does not anonymize the output. Microsoft warns that the generated representations can preserve identifying details and increase the ability to link conversations from the same user, posing a privacy risk.

According to the model card, the primary audience is academic and industry researchers working on LLM-based user simulation, conversation reconstruction, or behavioral diversity studies. Engineers who need a compact, natural-language description of a user to condition a separate simulator will find it useful. The model is free under an MIT license, downloadable from Hugging Face, and runs on modest hardware such as an RTX 4060.

自宅で動かすには何が必要でしょうか。4ビットでは約5ギガバイトのメモリを使います。完全に収まる最小の家庭用マシンはRTX 4060です。RTX 3060 12 GBとRAM 32ギガバイトでは、毎秒約86トークンで書きます。RTX 4090とRAM 64ギガバイトでは、毎秒約208トークンで書きます。

無料のAPIはまだありません。重みは公開されており、MITライセンスでHugging Faceからダウンロードできます。Arenaではまだ順位がついていません。投票が集まり次第、スコアを追加します。

Compare UserRepGen 4B with every free model, and check what your own GPU can run, on FreeLLMArena.