Die Welt der künstlichen Intelligenz entwickelt sich rasant – und mit ihr die Möglichkeiten, solche Technologien auch abseits großer Cloud-Plattformen zu nutzen. Inzwischen ist es durchaus machbar, leistungsstarke Sprachmodelle direkt auf dem eigenen Computer zu betreiben. Wer einen Mac mini mit Apple Silicon Prozessor (M1, M2, M3 oder M4) besitzt, kann damit erstaunlich weit kommen. In dieser ausführlichen Anleitung lernst du, wie du mit Tools wie Ollama und OpenWebUI moderne KI-Sprachmodelle (Large Language Models bzw. zukünftig in diesem Artikel nur LLMs genannt) lokal zum Laufen bringst.
Warum überhaupt ein lokales Sprachmodell verwenden?
Immer mehr Menschen setzen auf lokale Lösungen, wenn es um KI-Anwendungen geht. Und das hat gute Gründe. Cloud-Dienste sind bequem, keine Frage – aber sie bringen auch gewisse Abhängigkeiten mit sich: laufende Kosten ..

Jeder hat sicherlich den Hype über die neue deepseek KI mitbekommen. Diese stammt aus China und wurde angeblich mit deutlich weniger Ressourcen erstellt als die US-Rivalen wie ChatGPT von OpenAI, liefert am Ende aber ähnliche Ergebnisse wie das aktuellste OpenAI o1 Modell welches Ende 2024 veröffentlicht wurde.

Angeblich schreibe ich weil ich persönlich viele der Aussagen (Entwicklungskosten kleiner 10 Millionen USD) nicht glaube. Es verdichten sich die Hinweise, dass ein Konsortium hinter dem chinesischen Startup deepseek bis zu 50.000 H100 GPUs von NVIDIA über SuperMicro in Singapur bezogen haben soll und damit die US-Sanktionen für diese Grafikkarten scheinbar erfolgreich umgangen hat. Aber darum soll es in diesem Artikel nicht gehen.

Was macht deepseek also so besonders ? Der Hauptpunkt ist meiner Meinung nach, das deepseek-r1 komplett OpenSou ..