Opdateret den 12. juni 2026
Cloudbaserede sprogmodeller som ChatGPT og Claude er kraftfulde – men hvad sker der med dine data, når du sender dem til en ekstern server? For mange virksomheder er svaret enkelt: det er ikke acceptabelt. Og i sommeren 2026 er der flere og bedre alternativer end nogensinde – samtidig med at EU's AI Act snart træder i håndhævelse den 2. august.
Hvad er en lokal LLM-server?
En lokal LLM-server (Large Language Model) er en sprogmodel der kører på din egen hardware – i dit eget netværk, under din egen kontrol. Ingen data forlader din virksomhed.
I 2026 kører over 42 % af alle udviklere deres sprogmodeller lokalt – for at beskytte data, reducere cloud-omkostninger og booste ydeevne. Med NIS2-direktivet, GDPR og den kommende håndhævelse af EU AI Act er lokale LLM'er for mange danske virksomheder den eneste gangbare løsning til AI-drevne arbejdsgange.
Fordele ved lokal kørsel
- Fuld datasuverænitet – dine dokumenter og forespørgsler forbliver interne
- GDPR-, NIS2- og AI Act-compliance – ingen data sendes til tredjelande, fuld kontrol over hvilke modeller der bruges
- Ingen abonnementsomkostninger per forespørgsel
- Kan tilpasses med virksomhedens egne data (RAG)
- Fungerer offline – uafhængig af internetforbindelse
Modellerne i sommeren 2026
Udvalget af open source-modeller er eksploderet siden årsskiftet. De mest populære i dag:
- Llama 4 – Metas multimodale model (tekst + billeder), kører fortsat på lokal hardware
- Gemma 4 – Googles nyeste open source-generation, frigivet 2. april 2026. De små versioner (E2B og E4B) kan endda køre direkte på en moderne telefon. Læs mere her
- DeepSeek R1 – stærk til ræsonnering og komplekse opgaver
- Qwen 3 – Alibabas seneste, stærk til flersprogede opgaver
- Mistral Small 3.1 – europæisk udviklet, hurtig og effektiv til daglige opgaver
Takket være optimeret 4-bit kvantisering (Q4_K_M) kan selv store modeller nu køre på almindelig hardware – du behøver ikke en serverpark. En moderne workstation med 32-64 GB RAM og et godt GPU (eller endda en kraftig CPU) er ofte nok til en virksomheds daglige brug.
Kom i gang med Ollama
Ollama er stadig det nemmeste udgangspunkt. Det installeres på en server og giver adgang til hundredvis af modeller direkte fra terminalen eller via API.
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gemma4
ollama run gemma4
Ollama integrerer i dag direkte med workflow-platforme som n8n, så du kan bygge automatiseringer der bruger AI – uden at dine data forlader virksomheden.
En del af et større billede
Lokale LLM'er er ikke et isoleret valg – de er en byggesten i et europæisk, suverænt IT-fundament. Sammen med kontorpakker som Office.eu, NextCloud til fillagring og PaperLess NGX til dokumenter kan en dansk virksomhed i dag bygge en hel stak, der ikke afhænger af amerikanske cloud-leverandører.
Og det er præcis den slags fundament, der gør EU AI Act-compliance til en ikke-sag: du kontrollerer hele kæden selv.
Kontakt Schnack Data
Vi hjælper med opsætning, hardware-valg og integration med jeres eksisterende systemer. Kontakt os for en uforpligtende snak.