Spaces:

unclemusclez
/

ollamafy

Runtime error

ollamafy / start.sh

Update start.sh

03a4afc verified 7 months ago

123 Bytes

	cd llama.cpp
	LLAMA_CUDA=1 make -j llama-quantize llama-gguf-split llama-imatrix

	cd ..
	ollama serve & sleep 5
	python app.py