llama.cpp

4b5f3cd6 - parallel : process system prompt once + configurable paramters + llama API