LLM‑8850 Card

SKU:AI-001

説明

LLM‑8850 Card は、エッジ機器向けの M.2 M-KEY 2242 AI アクセラレーションカードであり、42 mm のコンパクトサイズに Axera AX8850 SoC の 24 TOPS @ INT8 演算性能を組み合わせ、Raspberry Pi 5、RK3588 SBCs、x86 PC などのホストに「挿すだけ」でマルチモーダル大規模モデルや映像解析機能を拡張します。カードには、マイクロタービンファンとアルミ合金 CNC フィンによるアクティブ冷却システムを搭載し、オンボード EC が温度‑電流カーブに基づいてインテリジェントに回転数を制御することで、長時間のフルロードでも低温安定状態を維持し、密閉筐体内での熱劣化を防ぎます。

オンボードの DCDC + PMIC 電源経路は EC がリアルタイムで消費電力管理を行い、「必要に応じた電源供給・冷却」を実現し、システム全体の安定性を大幅に向上させます。AXCL Runtime をサポートし、C / Python API で YOLO‑v8/11、CLIP、Whisper、Llama3.2、InternVL3 、Qwen3 などの主流 CNN、Transformer、LLM 及びマルチモーダルモデルをワンクリックでデプロイ可能です。同時に AX8850 の VPU ハードウェアパイプラインを活用し、H.264/H.265 の 8K エンコード・デコード、同時エンコード / デコードのトランスコード加速、スケーリング / クロッピングに対応し、AI とビデオストリーム処理を両立します。ホストから ffmpeg で直接ハードウェアビデオコーデックの呼び出しも可能です。

クイックスタート

LLM‑8850 Card

LLM‑8850 Card

本チュートリアルでは LLM‑8850 Card のクイックスタート手順、モデル一覧および高度な使用方法を紹介します。

特徴

• 超コンパクト形態：NGFF M.2 M-KEY 2242 サイズ、PCIe 2.0 ×2 レーンで即時接続
• 高性能 NPU：24 TOPS @ INT8、8 コア Cortex‑A55 1.7 GHz CPU
• インテリジェント冷却 / 電源：オンボードターボファン + CNC アルミ一体型ヒートシンク、EC による温度‑電流‑回転数の閉ループ監視
• 高帯域幅メモリ：64 ビット LPDDR4x、4266 Mbps レート、8GB 容量
• 豊富な I/O：1 × USB 3.0、2 × USB 2.0、2 × ギガビットイーサネット MAC
• ハードウェアビデオエンジン：8 K @ 30 fps H.264/H.265 エンコード、8 K @ 60 fps デコード、16 チャンネル 1080 p 並列デコードサポート
• セキュアブート & 暗号化：AES / DES / 3DES / SHA‑256 ハードウェアセキュリティモジュール
• ネイティブ AXCL：CNN、Transformer、CLIP、Whisper、Llama3.2、Qwen3、InternVL3 などのフルスタックモデルをワンクリック実行、H.264/H.265 同時エンコード / デコードトランスコード対応

含まれるもの

• 1 x LLM‑8850 Card

アプリケーション

• 産業 / 商業 SBC 性能アップグレード：Raspberry Pi 5、RK3588、TI AM62x などのボードでローカルに物体検出、欠陥識別を実行
• エンボディドインテリジェンスロボット：AMR / AGV / サービスロボットで「認識‑判断‑制御」のローカルチェーンを即時提供
• AIPC & エッジインテリジェント端末：ミニ PC 内でオフライン Copilot、カスタマーサポート Q&A、会議字幕 & リアルタイム翻訳を提供
• NVR / NAS スマート化改造：古いストレージボックスに複数 AI 車両ナンバーキャプチャ、イベントサマリー検索 + ハードウェアトランスコードを追加
• スマートインタラクションデバイス：音声アシスタント、スマートドアベル、広告機でローカル LLM + TTS の低遅延対話を実現
• AI ビジュアルゲートウェイ：交通交差点、施設ゲートでのエッジ推論、リアルタイム来客数統計と危険行動警告

仕様

操作説明

ハードウェア互換性

システム互換性

製品サイズ

• LLM‑8850 Card 製品サイズ PDF

ソフトウェア

クイックスタート

• LLM‑8850 Card 使用ガイド

動画

• LLM‑8850 Card 製品紹介および機能展示