llamafile - lesen nachin da probvate LLM na .. | Novini

ot RED(30-11-2023)

llamafile - lesen nachin da probvate golemi ezikovi modeli (Large-Language-Model (LLM)) direktno na vashiia kompyutur.

---

CHast ot ekipa na Mozilla zaedno s Dzhustin Tuni(Justine Tunney) publikuvaha llamafile. llamafile e mozhe bi nai-lesniia za momenta nachin da startirate na vashiia kompyutur ChatGPT podoben sait.

llamafile predstavliava fail v koito sa kombinirani golemite gigabaitovi modeli zaedno s programite neobhodimi za izpolzvaneto na tezi failove. Tova stava vuzmozhno blagodarenie na kombinatsiiata na dva neveroiatni proekta s otvoren kod. Stava duma za proekta llama.cpp na bulgarina Georgi Gerganov i proekta Cosmopolitan Libc na Dzhustin Tuni.

Za da probvate proekta na vashiia laptop ili survur e nuzhno da izpulnite slednite stupki:

1. Svalete 4.26GB fail llamafile-server-0.1-llava-v1.5-7b-q4:

curl -LO https://huggingface.co/jartine/llava-v1.5-7B-GGUF/resolve/main/llamafile-server-0.1-llava-v1.5-7b-q4

2. Napravete faila izpulnim:

chmod 755 llamafile-server-0.1-llava-v1.5-7b-q4

3. Startiraite lokalen ueb survur

./llamafile-server-0.1-llava-v1.5-7b-q4

4. Otvorete sledniia adres http://127.0.0.1:8080/ vuv vashiia brauzur za da zapochnete testove.

Podrobnostite ot kratkata novina i ofitsialniia sait na proekta.

<< Opisvane na snimki v Bash | Vuzhodut i padenieto na bulgarskiia kompyutur >>

Komentari: (obshto 0)	Otseneni s -1 0 1 2 3 4 5 ili poveche
[Dobavi komentar]

Vashiiat komentar
Ime:
E-Mail:	(po zhelanie)
Zaglavie:
Opisanie: ?
Vnimanie: Dopulnitelna proverka pri komentari ot neregistrirani potrebiteli.