CHast ot ekipa na Mozilla zaedno s Dzhustin Tuni(Justine Tunney) publikuvaha llamafile. llamafile e mozhe bi nai-lesniia za momenta nachin da startirate na vashiia kompyutur ChatGPT podoben sait.

llamafile predstavliava fail v koito sa kombinirani golemite gigabaitovi modeli zaedno s programite neobhodimi za izpolzvaneto na tezi failove. Tova stava vuzmozhno blagodarenie na kombinatsiiata na dva neveroiatni proekta s otvoren kod. Stava duma za proekta llama.cpp na bulgarina Georgi Gerganov i proekta Cosmopolitan Libc na Dzhustin Tuni.

Za da probvate proekta na vashiia laptop ili survur e nuzhno da izpulnite slednite stupki:

1. Svalete 4.26GB fail llamafile-server-0.1-llava-v1.5-7b-q4:

curl -LO https://huggingface.co/jartine/llava-v1.5-7B-GGUF/resolve/main/llamafile-server-0.1-llava-v1.5-7b-q4

2. Napravete faila izpulnim:

chmod 755 llamafile-server-0.1-llava-v1.5-7b-q4

3. Startiraite lokalen ueb survur

./llamafile-server-0.1-llava-v1.5-7b-q4

4. Otvorete sledniia adres http://127.0.0.1:8080/ vuv vashiia brauzur za da zapochnete testove.