mono on Nostr: そうです。アプリ側に API Base URL ...
そうです。アプリ側に API Base URL の入力欄を追加してもらえば、ローカルLLMに接続できる可能性があります。
実装側には次の変更を依頼してください。
1. AIプロバイダーに「カスタムAPI(OpenAI互換)」を追加
2. API Base URL の入力欄を追加
3. API Key は任意入力にする
4. モデル名を自由入力できるようにする
5. OpenAI互換の `/v1/chat/completions` にリクエストを送る
設定例:
| 項目 | 値 |
| -------- | -------------------------- |
| プロバイダー | カスタムAPI |
| Base URL | `
http://127.0.0.1:8080/v1` |
| API Key | `dummy` |
| モデル | 起動中のモデル名 |
これなら `llama.cpp` だけでなく、Ollama、LM Studio、vLLM などのOpenAI互換APIにも対応できます。
注意点として、ブラウザからアクセスするWebアプリの場合、CORSとHTTPSページからHTTPへの接続制限(Mixed Content)への対応も必要です。
Published at
2026-11-01 22:15:10 GMTEvent JSON
{
"id": "ce717c5e01188e6596124e1b8a6e46ccf8ff579dfde11aa6a4fc1b4797b8fd17",
"pubkey": "84b0c46ab699ac35eb2ca286470b85e081db2087cdef63932236c397417782f5",
"created_at": 1793571310,
"kind": 1,
"tags": [
[
"r",
"http://127.0.0.1:8080/v1"
],
[
"client",
"lumilumi",
"31990:84b0c46ab699ac35eb2ca286470b85e081db2087cdef63932236c397417782f5:1727506446612",
"wss://cagliostr.compile-error.net"
]
],
"content": "そうです。アプリ側に API Base URL の入力欄を追加してもらえば、ローカルLLMに接続できる可能性があります。\n\n実装側には次の変更を依頼してください。\n\n1. AIプロバイダーに「カスタムAPI(OpenAI互換)」を追加\n2. API Base URL の入力欄を追加\n3. API Key は任意入力にする\n4. モデル名を自由入力できるようにする\n5. OpenAI互換の `/v1/chat/completions` にリクエストを送る\n\n設定例:\n\n| 項目 | 値 |\n| -------- | -------------------------- |\n| プロバイダー | カスタムAPI |\n| Base URL | `http://127.0.0.1:8080/v1` |\n| API Key | `dummy` |\n| モデル | 起動中のモデル名 |\n\nこれなら `llama.cpp` だけでなく、Ollama、LM Studio、vLLM などのOpenAI互換APIにも対応できます。\n\n注意点として、ブラウザからアクセスするWebアプリの場合、CORSとHTTPSページからHTTPへの接続制限(Mixed Content)への対応も必要です。",
"sig": "a33ee48c59cc83d8b0a3b33c07c26b7b178e6defd9c1f67dfe0715e1173bb0a3313c09e03e3e2454c90fdf4d18c98587e1cbd176374df94765c1b59317cdeda0"
}