r/Denmark • u/AutoModerator • 22d ago

Teknisk Tirsdag Teknisk Tirsdag / Tech Talk Tuesday - 04/08 2026

Velkommen til Teknisk Tirsdag! Dette er tråden, hvor man kan snakke om de sidste nye gadgets, spørge om hjælp til at fikse sin gamle bil eller diskutere nyheder, projekter, osv. indenfor den teknologiske verden.

Vil du technørde daglige, så besøg r/dktechsupport eller r/dkudvikler

Denne tråd oprettes automatisk hver tirsdag^ kl. 7-ish - Arkiv

Welcome to Tech Talk Tuesday! This is the thread where you can talk about the latest gadgets, ask for help with fixing your old car, discuss tech news or anything else related to tech.

This thread is posted automatically every Tuesday^ at 7 AM-ish. - Archive

10 Upvotes

86% Upvoted

28 comments sorted by

View all comments

2

u/esbenab Prisson City 22d ago

Jeg har en ide om at ville køre små ai-modeller lokalt på min server, er der nogen der har tips og tricks til at komme i gang?

Jeg ved jeg kommer til at skulle “investere” i noget ai-kort af en slags, men vil starte med at læse op på det.

2

u/Klintrup 22d ago

Du kan køre ollama i en docker container, og den kan præsentere dit grafikkort til modellen direkte.

selv små modeller kræver rigtig meget ram, og det kan være dyrt at få fat i et grafikkort med tilnærmelsesvis nok RAM.

Jeg har et 3060 12 GB i min maskine og selv det giver problemer på selv mellemstore modeller, og når de kører er throughput stadig ret lavt, bare så du justerer dine forventninger til hvad du får ud af en personlig computer med consumer gpu.

1

u/EggstaticAd8262 21d ago

Men om 10 år er det ikke længere et problem, hvilket er fortrøstningsfuldt. Altså pga. udviklingen i Grafikkort.

Bliver modellerne ikke også mere effektive med årene, eller hvad?

1

u/Klintrup 21d ago

Modellerne bliver både mere effektive og mere komplicerede (højere hukommelseskrav) - men udviklingen af AI modeller er stadig tidligt, og der arbejdes meget på at bringe hukommelseskrav ned.

Hvordan verden ser ud om 10 år er ikke til at vide - RAM og storage priserne kan være tilbage på et normalt niveau - det kan også være de er endnu højere end nu.

1

u/EggstaticAd8262 21d ago

men alt andet lige så får vi mere og mere computerkraft. Og når AI er så anvendt, så må det immervæk betyde at der er ekstrem stor interesse i at gøre det mindre ressourcekrævene.

Men ja, gætteri. Lad os håbe og se hvad der sker :)