llama.cpp

986b3da7 - llama : offload KV cache per-layer