支持型号
| 模型 | 上下文长度 | 型号类型 |
|---|---|---|
codellama-34b-instruct | 16384 | 聊天完成 |
llama-2-70b-chat | 4096 | 聊天完成 |
mistral-7b-instruct | 4096 [1] | 聊天完成 |
mixtral-8x7b-instruct | 4096 [1] | 聊天完成 |
pplx-7b-chat | 8192 | 聊天完成 |
pplx-70b-chat | 4096 | 聊天完成 |
pplx-7b-online | 4096 | 聊天完成 |
pplx-70b-online | 4096 | 聊天完成 |
[1] 我们将把上下文长度增加到32k 个标记（参见路线图）。 mistral-7b-instruct