Nyligen introducerade Google sin första AI-modell med öppen källkod som heter Gemma i två storlekar, Gemma 2B och 7B. Modellen är anständig för kreativa uppgifter på engelska som textgenerering, sammanfattning, grundläggande resonemang, etc. På grund av dess ringa storlek kan modellen laddas ner och användas lokalt på en resurssnål dator utan internetuppkoppling. Så här är vår handledning för att ladda ner och köra Google Gemma AI-modellen på Windows, macOS och Linux.
Ladda ner Google Gemma 2B Model
- Varsågod och ladda ner LM Studio (Gratis) på din dator. Starta sedan programmet.
- På hemsidan hittar du ”Googles Gemma 2B Instruct”modell. Du kan också manuellt söka efter ”Gemma”. Öppna den nu.
- Klicka sedan på ”Ladda ner”. Det är en 1,5 GB fil eftersom Gemma 2B-modellen har kvantiserats med 4 bitar för att komprimera modellstorleken och minska minnesanvändningen. Om du har 8+ GB RAM kan du ladda ner den 8-bitars kvantiserade modellen (2,67 GB) som kommer att erbjuda bättre prestanda.
Kör Google Gemma offline med LM Studio
- I LM Studio, flytta till ”Chatta” fönster på vänster sida.
- Efter det klickar du på ”Välj en modell att ladda” och välj ”gemma”. Den kommer att förbruka cirka 1,4 GB RAM.
- Nu, fortsätt och ställ dina frågor. Enligt min erfarenhet är den lilla 2B Gemma-modellen bra för kreativa uppgifter på engelska. Den vägrar svara på något av värde där man söker åsikter om något ämne (t.ex. är C bättre än Rust?).
- Du kan också ställa in en systemuppmaning till höger för att anpassa beteendet hos AI-modellen.
Så det är så här du kan ladda ner och köra Googles Gemma-modell på din PC, Mac och Linux-dator. Medan jag hittar Googles modell med öppen källkod ganska intetsägandekan det vara användbart för personer som letar efter en enkel AI-modell att köra lokalt.
Hur som helst, det är allt från oss. Om du letar efter en äkta lokal AI-assistent skulle jag starkt rekommendera att kolla in Open Interpreter. Den fungerar som ChatGPTs kodtolk och utför faktiska uppgifter på din dator. Slutligen, om du har några frågor, låt oss veta i kommentarsektionen nedan.
Stöd vårt arbete ❤️
Om du gillade den här artikeln, överväg att lämna dricks för att hjälpa oss fortsätta publicera bra innehåll.
