会話の補完

会話補完 API は、入力されたメッセージリストに基づいて会話を構築し、指定されたモデルを使用して応答を生成します。

サンプルプログラム

PC 上で OpenAI API を使用してメッセージリストを渡し、会話を構築します。プログラムを実行する前に、以下のbase_url内の IP アドレスを実際のデバイス IP に置き換え、対応するモデルパッケージをインストールしてください。インストール方法はモデル一覧を参照してください。

from openai import OpenAI
client = OpenAI(
    api_key="sk-",
    base_url="http://192.168.20.186:8000/v1"
)

completion = client.chat.completions.create(
  model="qwen2.5-0.5B-p256-ax630c",
  messages=[
    {"role": "developer", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello!"}
  ]
)

print(completion.choices[0].message) 

リクエストパラメータ

パラメータ名	タイプ	必須	例値	説明
messages	array	はい	[{"role": "user", "content": "你好"}]	会話履歴で、複数のメッセージで構成されます。テキスト、画像、音声などのモダリティをサポートしています（モデルによって異なります）。
model	string	はい	qwen2.5-0.5B-p256-ax630c	返答を生成するためのモデル ID です。複数のモデルをサポートしています。モデル一覧のセクションを参照してください。
audio	–	いいえ	–	現在、音声出力はサポートされていません。
function_call	–	いいえ	–	現在、関数呼び出しはサポートされていません。
max_tokens	integer	いいえ	1024	モデルが生成できる最大トークン数です。この制限を超える内容は切り捨てられます。
response_format	object	いいえ	"json_object"	モデルの出力形式を指定します。現在、"json_object" のみがサポートされています。

レスポンス例

ChatCompletionMessage(content='Hello! How can I assist you today', refusal=None, role='assistant', annotations=None, audio=None, function_call=None, tool_calls=None)

Next 概要

概要

デバイスとクイックスタート

Module LLM

LLM630 Compute Kit

モデルの紹介

Qwen2.5

Qwen3

DeepSeek-R1

SmolVLM

MeloTTS

Whisper

Llama

アプリケーション

Audio

CVビジョンアプリケーション

VLMマルチモーダル

大規模言語モデル (LLM)

音声アシスタント

OpenAI API

会話の補完

サンプルプログラム

リクエストパラメータ

レスポンス例

On This Page