llama-cpp-python
huggingface_hub
pydantic
asyncio