Kann ich ein lokale KI zur Softwareentwicklung benutzen? Mein Laptop hat aber keine NVIDIA Grafikkarte.
Ja, das geht relativ einfach. Du brauchst ollama um LLM aka KI Modelle auszuführen. Du brauchst ein Modell das auf dieser Hardware noch schnell genug ist und brauchbare Ergebnisse liefert.
Ich habe viel probiert und benutze Qwen3.6:27b. Das Modell ist Open Source und kommt von Alibaba. Es verlässlicher SWE-Benchmark (das ist der Benchmark der für die Softwareentwicklung relevant ist) Wert ist nicht zu finden, wahrscheinlich liegt um 60% und damit deutlich hinten den 81% von Claude Mythos 5 (bestes Ergebnis) und Claude Opus 5 78% (doppleter Preis zu Sonnet) und dem Brot und Butter Modell Claude Sonnet 5 mit 72%.
Jetzt brauchst du noch aider ein Werkzeug das die beim Programmieren mit einer KI hilft.
Wichtig, es bringt einen Performance Schub, wenn man die Onboard Grafikkarte benutzt. Bei mir hat es gut via Vulcan funktioniert. Dazu muss ollama Konfiguration erweitert werden:
[Service]
Environment="OLLAMA_VULKAN=1"
Environment="OLLAMA_IGPU_ENABLE=1"
Aber erwarte nicht zu viel, sowohl die Qualität als auch die Geschwindigkeit kann nicht mit aktuellen Cloud LLM mithalten.
