InternVL2_5-1B-MPO

紹介

InternVL 2.5 は、高度なマルチモーダル大規模言語モデル（MLLM）シリーズであり、InternVL 2.0 を基盤として構築されています。コアのモデルアーキテクチャを維持しつつ、トレーニングとテストの戦略、およびデータ品質において大幅な強化が導入されています。

使用可能な NPU モデル

基礎モデル

internvl2.5-1B-364-ax630c

基礎モデルは、256 のコンテキストウィンドウと最大 1,024 トークンの出力を提供します。

サポートプラットフォーム: LLM630 Compute Kit、Module LLM、Module LLM Kit

• 256 コンテキストウィンドウ
• 最大 1,024 トークン出力
• ttft（最初のトークンまでの時間）1117.27ms
• 平均トークン / 秒 10.56
• 画像エンコーディングサイズ 364*364
• 画像エンコーディング時間 1164.61ms

インストール

apt install llm-model-internvl2.5-1b-364-ax630c

• llm-model-internvl2.5-1b-364-ax630cをダウンロード