Vad Ollama är och varför det är relevant för bokföring
Ollama är ett öppet källkodsramverk som låter dig ladda ned, hantera och köra stora språkmodeller (LLM) lokalt. Det abstraherar bort komplexiteten med modellformat, kvantisering och beräkningsoptimering — du interagerar med en enkel CLI och ett REST-API.
Varför det är relevant för bokföring: de uppgifter som faktiskt tar tid i bokföringsarbetet är extraktion och klassificering. Att läsa en PDF-faktura, identifiera belopp, datum, leverantör och OCR-nummer — det är ett mönsterigenkänningsproblem som en lokal LLM klarar med hög träffsäkerhet, utan att fakturan behöver lämna din dator.
Vad du behöver innan du börjar
Operativsystem: macOS, Linux eller Windows (WSL rekommenderas på Windows).
Hårdvara för 7B-modeller:
- —Apple Silicon (M1, M2, M3 eller M4) med minst 8 GB enhetligt minne — modellen körs i enhetligt minne med hög bandbredd
- —x86 med grafikkort (Nvidia CUDA eller AMD ROCm) med minst 8 GB VRAM
- —Saknar din dator ett grafikkort med minst 8 GB minne är resultaten för långsamma för att vara användbara i praktiken — BOKNORD Agentic gör då samma jobb utan lokal hårdvara, med bearbetning utanför din egen dator
Diskutrymme: En 7B-modell i 4-bit kvantisering tar 4–5 GB. Ha 10 GB fritt för att kunna experimentera med ett par modeller.
Installation
macOS
brew install ollama
Alternativt ladda ned installationspaketet från ollama.com. Det installerar Ollama som en systemtjänst som startar automatiskt.
Linux
curl -fsSL https://ollama.com/install.sh | sh
Installationsskriptet sätter upp Ollama som en systemd-tjänst.
Verifiera att Ollama körs:
ollama --version
Välj rätt modell för bokföringsuppgifter
Inte alla modeller passar lika bra för strukturerad extraktion från dokument. Det du behöver för fakturaextraktion är en modell med stark instruktionsföljning och god förmåga att returnera strukturerad output (JSON).
Modellerna BOKNORD Private AI använder 2026:
| Modell | Hårdvarunivå | Krav | Passar för |
|---|---|---|---|
| qwen2.5:7b | Referensnivå | GPU ≥ 8 GB VRAM | Extraktion, strukturerad output |
| gemma4:12b | Rekommenderad tier | GPU ≥ 12 GB VRAM | Extraktion, mer komplex förståelse |
| glm-ocr:latest | Alla nivåer | Körs tillsammans med extraktionsmodellen | OCR av skannade dokument |
Har du en GPU med minst 8 GB VRAM är qwen2.5:7b en bra utgångspunkt. Utan GPU är lokal AI inte att rekommendera — den blir för långsam för att vara användbar i praktiken, och BOKNORD fungerar då utan Private AI (eller med BOKNORD Agentic, som gör samma jobb utan lokal hårdvara). Samtliga modeller ovan är starka på att följa instruktioner i ett givet format och returnera JSON utan extra text runt om.
Hämta och kör en modell
ollama pull qwen2.5:7b
Nedladdningen tar några minuter beroende på uppkoppling. När den är klar:
ollama run qwen2.5:7b
Du är nu i en interaktiv session med modellen. Skriv en fråga och tryck Enter. Skriv /bye för att avsluta.
Testa modellen med ett fakturaexempel
Prova extraktion direkt i sessionen med en enkel prompt:
Du är ett fakturaextraheringssystem. Extrahera följande fält från fakturatexten och returnera exakt JSON, inget annat: - leverantor (sträng) - fakturadatum (YYYY-MM-DD) - belopp_exkl_moms (tal) - moms_belopp (tal) - totalt_belopp (tal) - ocr_nummer (sträng, kan saknas) Faktura: Acme Hosting AB Fakturanummer: 2026-0445 Datum: 2026-05-15 Förfallodatum: 2026-06-14 OCR: 204450001 Tjänst: Serverhosting maj 2026 Belopp exkl. moms: 1 000,00 kr Moms 25 %: 250,00 kr Totalt: 1 250,00 kr
En väl kalibrerad modell returnerar:
{
"leverantor": "Acme Hosting AB",
"fakturadatum": "2026-05-15",
"belopp_exkl_moms": 1000.00,
"moms_belopp": 250.00,
"totalt_belopp": 1250.00,
"ocr_nummer": "204450001"
}Om modellen returnerar extra text runt JSON: justera prompten med "Returnera enbart JSON, ingen annan text." Det räcker i de flesta fall.
Använda Ollama via API
Ollama exponerar ett lokalt REST-API på http://localhost:11434. Det gör det enkelt att integrera med skript och verktyg utan att öppna en interaktiv session.
curl http://localhost:11434/api/generate \
-d '{
"model": "qwen2.5:7b",
"prompt": "Klassificera detta dokument: [fakturatexttext]",
"stream": false
}'BOKNORD Private AI anropar Ollama via detta API under extraktion. Modellen körs i bakgrunden som en Ollama-tjänst och svarar på förfrågningar utan att starta om för varje dokument.
Vad du realistiskt kan förvänta dig
- —Extraktion från standardfaktura: hög träffsäkerhet (90–95 % på välstrukturerade PDF-fakturor). Belopp, datum och leverantörsnamn extraheras korrekt i de flesta fall.
- —Extraktion från komplexa dokument: lägre träffsäkerhet om PDF:en är skannad, har tabellstrukturer eller innehåller blandade språk. Förvänta dig 70–85 % på svårare material.
- —Kontosförslag: modellen kan föreslå BAS-konton baserat på leverantörsnamn och beskrivning, men träffsäkerheten beror på hur tydlig beskrivningen är. "Serverhosting" mappar enkelt till konto 6530. "Diverse" gör det inte.
- —Klassificering av dokumenttyp: mycket hög träffsäkerhet. "Är detta en leverantörsfaktura, ett kvitto eller en lönespecifikation?" är ett enkelt klassificeringsproblem för alla 7B-modeller.
Allt du extraherar ska kontrolleras. Modellen gör fel och du är ansvarig för att verifikationen är korrekt.
Svarstider på vanlig hårdvara
| Uppgift | M2 Mac (16 GB) | x86 CPU (16 GB) |
|---|---|---|
| Klassificering av dokumenttyp | < 1 sekund | 3–8 sekunder |
| Extraktion från standardfaktura | 3–8 sekunder | 10–25 sekunder |
| Extraktion från komplex PDF | 8–20 sekunder | 20–60 sekunder |
Svarstiderna är tillräckliga för ett normalt arbetsflöde. Du granskar och bekräftar resultatet — du är inte snabbare än systemet oavsett hur snabbt systemet är.
Hantera modeller
ollama list # Lista nedladdade modeller ollama pull gemma4:12b # Hämta en annan modell ollama rm qwen2.5:7b # Ta bort en modell
Du kan ha flera modeller nedladdade och byta mellan dem. För att testa en ny modell mot dina egna testdokument innan du använder den i produktion — kör den mot ett urval av dina befintliga fakturor och kontrollera resultaten manuellt.
Källor och fördjupning
Så hanterar BOKNORD detta
BOKNORD Private AI använder Ollama som inferensmotor. Din hårdvarunivå avgör vilken modell som körs — qwen2.5:7b på referensnivå, gemma4:12b på den rekommenderade nivån, och glm-ocr:latest för dokumentläsning på båda. Är din maskin under referensnivån är lokal AI inte att rekommendera — BOKNORD Agentic gör då samma jobb utan lokal hårdvara. BOKNORD:s lokala worker anropar Ollama på http://localhost:11434 under extraktion — du installerar Ollama och worker, men väljer inte modell och endpoint manuellt i webbappen. Ingen extern AI-leverantör tar del av dokumenten: bearbetningen sker på din maskin, och resultatet skickas tillbaka till din arbetsyta som ett konteringsförslag du godkänner.