Llama 2 7B Chat in je browser draaien
Llama 2 7B Chat is een 7B Meta-model. In de browser downloadt het 3.5 GB en heeft het ongeveer 6.6 GB GPU-geheugen nodig.
Llama 2 7B Chat in de browser gebruiken Alle modellen Eén keer downloaden · daarna offline
- Familie
- Llama
- Uitgegeven door
- Meta
- Parameters
- 7B
- Kwantisatie
- q4f16_1 · 4-bit
- Download
- 3.5 GB · 115 bestanden
- GPU-geheugen
- 6.6 GB
- Contextvenster
- 4k tokens
- Redeneren
- —
- Licentie
- Llama 2 Community License
- Basismodel
- meta-llama/Llama-2-7b-chat-hf
- Gewichten
- mlc-ai/Llama-2-7b-chat-hf-q4f16_1-MLC
- Goed in
- Chat
Hoe groot is de download van Llama 2 7B Chat?
3.5 GB voor de q4f16_1-variant, verdeeld over 115 bestanden. Het wordt één keer gedownload en blijft in de cache van je browser, zodat elk later bezoek meteen begint en offline werkt.
Wat heeft mijn apparaat nodig om Llama 2 7B Chat te draaien?
Een browser met WebGPU — een recente Chrome, Edge, Firefox of Safari — en ongeveer 6.6 GB GPU-geheugen. Het hulpmiddel controleert je GPU, geheugen en vrije ruimte en zegt of Llama 2 7B Chat past voordat er iets wordt gedownload.
Wordt er iets van wat ik typ naar een server gestuurd?
Nee. Llama 2 7B Chat draait op je eigen GPU in het browsertabblad. Het enige netwerkverkeer is de eenmalige download van de modelbestanden vanaf Hugging Face; je prompts en de antwoorden verlaten het apparaat nooit, en de chats staan in deze browser.
Welke variant van Llama 2 7B Chat kan ik het beste kiezen?
Begin met q4f16_1 — dat is de kleinste download en draait het snelst. De f32-varianten zijn groter en gebruiken meer geheugen, maar werken op GPU's zonder ondersteuning voor 16-bits shaders. Varianten met 1k houden een korter gesprek vast in ruil voor minder geheugen.
Hoe lang kan een gesprek met Llama 2 7B Chat worden?
Het contextvenster is 4k tokens. Langere gesprekken blijven werken — de oudste beurten vallen met een melding weg zodra het gesprek niet meer past.
Onder welke licentie is Llama 2 7B Chat uitgebracht?
De gewichten vallen onder Llama 2 Community License, overgenomen van de modelkaart van meta-llama/Llama-2-7b-chat-hf. Controleer de licentie zelf voordat je het commercieel gebruikt.
Cijfers afgelezen uit de WebLLM 0.2.84-catalogus en de modelkaart op 2026-09-03.
