llama.cpp

d41f3147 - grammars: move token caches to llama_context