Die Welt der künstlichen Intelligenz entwickelt sich rasant – und mit ihr die Möglichkeiten, solche Technologien auch abseits großer Cloud-Plattformen zu nutzen. Inzwischen ist es durchaus machbar, leistungsstarke Sprachmodelle direkt auf dem eigenen Computer zu betreiben. Wer einen Mac mini mit Apple Silicon Prozessor (M1, M2, M3 oder M4) besitzt, kann damit erstaunlich weit kommen. In dieser ausführlichen Anleitung lernst du, wie du mit Tools wie Ollama und OpenWebUI moderne KI-Sprachmodelle (Large Language Models bzw. zukünftig in diesem Artikel nur LLMs genannt) lokal zum Laufen bringst.
Warum überhaupt ein lokales Sprachmodell verwenden?
Immer mehr Menschen setzen auf lokale Lösungen, wenn es um KI-Anwendungen geht. Und das hat gute Gründe. Cloud-Dienste sind bequem, keine Frage – aber sie bringen auch gewisse Abhängigkeiten mit sich: laufende Kosten ..