Großspracher -Modelle mögen wieDeepseekVor Ort auf Ihrer Maschine ist eine leistungsstarke Möglichkeit, KI -Funktionen zu erkunden, ohne sich auf Cloud -Dienste zu verlassen.
In diesem Handbuch führen wir Sie durch die InstallationDeepseekVerwendungOllamaAnUbuntu 24.04und Einrichtung einer Web-Benutzeroberfläche für eine interaktive und benutzerfreundliche Erfahrung.
Was ist Deepseek und Ollama?
- Deepseek: Ein fortschrittliches KI -Modell für Aufgaben der natürlichen Sprachverarbeitung wie Beantwortung von Fragen, Erzeugen von Text und vielem mehr. .
- Ollama: Eine Plattform, die das lokale Ausführen von großsprachigen Modellen vereinfacht, indem Tools zur Verwaltung und Interaktion mit Modellen wie zur Verfügung gestellt werdenDeepseek.
- Web UI: Eine grafische Schnittstelle, mit der Sie mit der Interaktion mit der Interaktion könnenDeepseekDurch Ihren Browser wird es zugänglicher und benutzerfreundlicher.
Voraussetzungen
Stellen Sie vor Beginn sicher, dass Sie Folgendes haben:
- Ubuntu 24.04 auf Ihrem Computer installiert.
- Eine stabile Internetverbindung.
- Mindestens 8 GB RAM (16 GB oder mehr wird für eine glattere Leistung empfohlen).
- Grundlegende Vertrautheit mit dem Terminal.
Schritt 1: Installieren Sie Python und Git
Bevor Sie etwas installieren, ist es eine gute Idee, Ihr System zu aktualisieren, um sicherzustellen, dass alle vorhandenen Pakete auf dem neuesten Stand sind.
sudo apt update && sudo apt upgrade -y
Ubuntuwahrscheinlich kommt mitPythonVorinstalliert, aber es ist wichtig, dass Sie die richtige Version haben (Python 3.8 oder höher).
sudo apt install python3 python3 --version
ist der Paketmanager fürPythonund es ist erforderlich, Abhängigkeiten für zu installierenDeepseekUndOllama.
sudo apt install python3-pip pip3 --version
ist wichtig für das Klonen von Repositorys vonGirub.
sudo apt install git git --version
Schritt 2: Installieren Sie Ollama für Deepseek
Nun dasPythonUndGitsind installiert, Sie sind bereit zu installierenOllamazu verwaltenDeepseek.
curl -fsSL https://ollama.com/install.sh | sh ollama --version
Als nächstes starten Sie und aktivieren SieOllamaUm automatisch zu beginnen, wenn Ihr System startet.
sudo systemctl start ollama sudo systemctl enable ollama
Nun dasOllamaist installiert, wir können mit der Installation fortfahrenDeepseek.
Schritt 3: Deepseek -Modell herunterladen und ausführen
Nun dasOllamaist installiert, Sie können die herunterladenDeepseekModell.
ollama run deepseek-r1:7b
Dies kann abhängig von Ihrer Internetgeschwindigkeit einige Minuten dauern, da das Modell mehrere Gigabyte mit Größe hat.
Sobald der Download abgeschlossen ist, können Sie überprüfen, ob das Modell durch Ausführen verfügbar ist:
ollama list
Sie sollten Deepseek als eines der verfügbaren Modelle sehen.
Schritt 4: Führen Sie Deepseek in einer Web -Benutzeroberfläche aus
WährendOllamaermöglicht es Ihnen zu interagieren mitDeepseekÜber die Befehlszeile bevorzugen Sie möglicherweise eine benutzerfreundlichere Weboberfläche. Dafür werden wir verwendenOllama Web UI, eine einfache webbasierte Schnittstelle zum Interagieren mit Ollama-Modellen.
Erstellen Sie zunächst eine virtuelle Umgebung, die Ihre Python-Abhängigkeiten von der systemweiten Python-Installation isoliert.
sudo apt install python3-venv python3 -m venv ~/open-webui-venv source ~/open-webui-venv/bin/activate
Nachdem Ihre virtuelle Umgebung aktiv ist, können Sie installierenÖffnen Sie das WebVerwendungpip.
pip install open-webui
Starten Sie nach der Installation den Server mithilfe.
open-webui serve
Öffnen Sie Ihren Webbrowser und navigieren Sie zuhttps://localhost:8080- Sie sollten die OLLAMA -Web -UI -Oberfläche sehen.
Wählen Sie in der Web -Benutzeroberfläche das Deepseek -Modell aus dem Dropdown -Menü aus und beginnen Sie damit, mit ihm zu interagieren. Sie können Fragen stellen, Text generieren oder andere von Deepseek unterstützte Aufgaben ausführen.
Sie sollten jetzt eine Chat -Oberfläche sehen, mit der Sie interagieren könnenDeepseekGenau wieChatgpt.
Abschluss
Sie haben erfolgreich installiertOllamaUndDeepseekAnUbuntu 24.04. Sie können jetzt rennenDeepseekim Terminal oder eine Web -Benutzeroberfläche für eine bessere Erfahrung.
