Lokal AI i kælderen: Frihed har en pris

Selvhostet kunstig intelligens lover kontrol over data og udgifter, men kræver mere end et kraftigt grafikkort.

Lokal AI lyder næsten som et lille oprør: En kraftig maskine i kælderen, en open source-model og farvel til regninger fra de store amerikanske AI-platforme. Men så snart serveren er tændt, begynder de svære spørgsmål. Hvilken model skal man vælge, hvad må den koste, og hvem sørger for, at den faktisk virker?

Det er spændingen i SaaS Købmænds episode Self-hosted LLM/AI i kælderen. Anders fortæller om sit lokale AI-projekt, mens Bo stiller de jordnære spørgsmål, som mange virksomhedsledere også sidder med. Resultatet er ikke en opskrift på en dansk konkurrent til OpenAI, men et ærligt blik på, hvad selvhosting kræver.

Kontrol er den store gevinst

At selvhoste AI betyder, at modellen kører på virksomhedens egen eller kontrollerede infrastruktur i stedet for gennem en ekstern API-tjeneste. Det kan give bedre kontrol over data, adgang og løbende forbrug. Samtidig mindsker det leverandørlåsning – altså risikoen for, at priser, vilkår eller produktvalg hos én udbyder styrer hele virksomhedens løsning.

I episoden kommer ønsket om mindre afhængighed af amerikanske leverandører frem allerede omkring 02:51. Det er både et teknologisk og strategisk spørgsmål. Som også perspektiveret i artiklen om, hvordan virksomheder kan stå stærkere i den næste bølge af AI-udvikling, handler robusthed ikke kun om at vælge den mest imponerende model, men om at bevare handlefriheden.

En lokal model er ikke automatisk en egen model

Der er en vigtig forskel mellem at træne en stor sprogmodel fra bunden og at køre en eksisterende open source-model lokalt. Det første kræver enorme mængder data, regnekraft og specialviden. Det andet er langt mere tilgængeligt, men kræver stadig, at virksomheden vælger, tester og tilpasser modellen til den konkrete opgave.

Omkring 08:51 diskuterer værterne open source-modeller og deres anvendelse, mens test og evaluering følger omkring 12:01. Pointen er enkel: Lokal AI er ikke værdifuld, blot fordi den er lokal. Den skal levere stabile og brugbare svar på virksomhedens egne opgaver.

Regningen forsvinder ikke – den skifter form

Kommercielle API-tjenester er nemme at starte med, men udgifterne kan vokse sammen med brugen. En lokal løsning vender regnestykket om. Virksomheden betaler tidligere for hardware, strøm, opsætning og vedligeholdelse, men får til gengæld større indflydelse på den løbende drift.

Grafikkort spiller en central rolle, fordi AI-modeller kræver meget parallel regnekraft. Episoden behandler valg af hardware og software omkring 05:55 og vender senere tilbage til virtuelle servere og grafikkort. Det afgørende er dog ikke at købe den kraftigste maskine, men at matche kapaciteten med et tydeligt behov.

Den billigste AI-løsning er ikke nødvendigvis den med den laveste pris pr. forespørgsel, men den som løser en vigtig opgave uden at skabe et nyt driftsproblem.

Derfor bør beslutningen behandles som en investering og ikke som et hobbyindkøb. De samme principper, der gælder for en balanceret investeringsportefølje, er relevante her: spred risikoen, forstå tidshorisonten, og bind ikke alle ressourcer til én idé, før værdien er dokumenteret.

GDPR kræver mere end en server bag en låst dør

Lokal drift kan gøre det lettere at kontrollere, hvor data behandles, men den skaber ikke automatisk GDPR-compliance. Virksomheden skal stadig vide, hvilke personoplysninger der sendes til modellen, hvem der har adgang, hvor længe oplysningerne gemmes, og hvordan sikkerheden bliver dokumenteret.

I samtalen kobles omkostninger og GDPR sammen omkring 25:33. Det er en vigtig forbindelse, fordi databeskyttelse påvirker både arkitektur og budget. Hvis følsomme oplysninger indgår i brugen, bør kravene afklares, før modellen bliver en del af den daglige arbejdsgang.

• Afgræns formålet: Vælg én konkret opgave, som modellen skal løse.
• Klassificér data: Afgør, hvilke oplysninger modellen må og ikke må behandle.
• Test systematisk: Sammenlign kvalitet, svartid og ressourceforbrug med et realistisk alternativ.

Det er også en ledelsesopgave. Artiklen om balancen mellem strategisk overblik og detaljer rammer dilemmaet godt: Ledelsen skal forstå konsekvenserne uden selv at blive systemadministrator.

Open source kan styrke europæisk handlefrihed

Open source-AI giver virksomheder mulighed for at undersøge modellerne, afprøve flere alternativer og flytte løsninger mellem forskellige miljøer. Det kan styrke europæisk uafhængighed, men friheden har en praktisk pris. Nogen skal følge modellernes udvikling, håndtere opdateringer og opdage, når kvaliteten ændrer sig.

Episoden diskuterer optimering af AI-forbruget omkring 29:10 og priser samt monopolrisici omkring 36:32. Det gør selvhosting relevant som mere end et teknisk eksperiment. For nogle virksomheder kan det blive et reelt strategisk alternativ; for andre vil en ekstern tjeneste fortsat være den mest fornuftige løsning.

Selvhosting giver ikke frihed fra ansvar. Det flytter ansvaret tættere på virksomheden.

Hvad kan virksomheden lære?

Den største læring er, at valget ikke behøver stå mellem fuld selvhosting og total afhængighed af skyen. En gradvis eller hybrid tilgang kan være mere realistisk: Test lokalt på en afgrænset opgave, mål resultatet, og udvid kun, hvis løsningen skaber dokumenteret værdi.

• Begynd med problemet, ikke med grafikkortet.
• Sammenlign samlede omkostninger, ikke kun API-priser.
• Indbyg databeskyttelse og adgangskontrol fra begyndelsen.
• Vælg en model, der er god nok til opgaven – ikke nødvendigvis den største.

En server i kælderen kan være starten på større teknologisk selvstændighed. Men den stærkeste løsning er sjældent den mest spektakulære. Det er den løsning, virksomheden kan forstå, finansiere og drive sikkert, også efter den første begejstring har lagt sig.

▶

Kilder

• SaaS Købmænd: Self-hosted LLM/AI i kælderen — Podcastepisode udgivet den 29. juni 2026 om lokal open source-AI, hardware, GDPR, omkostninger og teknologisk uafhængighed.