kojira on Nostr: ...
elyzaの最新版の公開モデルがgpt3.5並に賢くなったらしいので使ってみたけどそのままだと推論が遅い。
簡単なやつで12秒とか。
Published at
2024-06-28 15:18:57Event JSON
{
"id": "1360ec93075b994e165cdcef7b72167631d2a3dae392e9d5a4273277579248e1",
"pubkey": "b3e43e8cc7e6dff23a33d9213a3e912d895b1c3e4250240e0c99dbefe3068b5f",
"created_at": 1719580737,
"kind": 1,
"tags": [],
"content": "elyzaの最新版の公開モデルがgpt3.5並に賢くなったらしいので使ってみたけどそのままだと推論が遅い。\n簡単なやつで12秒とか。",
"sig": "0bca6457e3fd0e4e082073f2bf0bcd16e0bd2f11715f24c381eb20f35ea7bb25985717dabaddd768ecc75c21c81857591e0817f3ba8f7f2f3bc4441880f3b35f"
}