llama.cpp
21ccd645 - llama : use vectors and avoid has_cache

Commit

1 year ago

llama : use vectors and avoid has_cache ggml-ci

References

#7587 - llama : cache llama_token_to_piece

Author

ggerganov

ggerganov

Parents

Files1

llama.cpp