llama.cpp
5921b8f0
- llama : cache llama_token_to_piece (#7587)
Go
Login via GitHub
Home
Pricing
FAQ
Install
Login
via GitHub
Commit
View On
GitHub
Commit
1 year ago
llama : cache llama_token_to_piece (#7587) * llama : cache llama_token_to_piece ggml-ci * llama : use vectors and avoid has_cache ggml-ci * llama : throw on unknown tokenizer types ggml-ci * llama : print a log of the total cache size
References
#7587 - llama : cache llama_token_to_piece
Author
ggerganov
Parents
5dcdf946
Loading