Bereitstellung von OneAPI ohne Server?

Vorwort

Vor einiger Zeit hortete ich einige APIs in meiner Hand, die ich nicht viel benutze, hauptsächlich für die KI-Zusammenfassungsfunktion des Blogs. Ich vergesse oft meine Kontopasswörter für diese Plattformen, was mich dazu brachte, OneAPI für eine einheitliche Verwaltung zu verwenden. Trotz der ausführlichen Anleitungen, die die Autoren von OneAPI zur Verfügung stellen, sind einige Benutzer (darunter auch ich) bei der Einrichtung auf kleinere Probleme gestoßen. Daher habe ich mich nach einer erfolgreichen Bereitstellung entschlossen, diesen detaillierten Bereitstellungsleitfaden für diejenigen zu schreiben, die sich nicht so gut auskennen, in der Hoffnung, dass er Ihnen hilft, den Prozess mit weniger Problemen zu durchlaufen.

Projekte

OneAPI Das Projekt ist ein offenes Schnittstellenverwaltungs- und Verteilungssystem, das eine breite Palette von groß angelegten Sprachmodellen unterstützt, wie ChatGPT von OpenAI, Azure, Anthropic Claude, Google PaLM 2 & Zwillinge usw. Es ist für die Schlüsselverwaltung und -weitergabe gedacht, kann über eine einzige ausführbare Datei oder Docker bereitgestellt werden und bietet eine einfache und einheitliche API für den Zugriff auf verschiedene große Sprachmodelle. Das System ist quelloffen, steht unter der MIT-Lizenz und bietet Funktionen wie Modellunterstützung, Token-Management und Benutzergruppenverwaltung. Anleitungen zur Bereitstellung und Konfiguration finden Sie in den GitHub-Repositories und der Dokumentation des Projekts.

Projekt bauen

Dieses Projekt stellt Docker-Images bereit, um den Bereitstellungsprozess zu vereinfachen. Wir können leichter bereitstellen.

Standardmäßig wird eine SQLite-Datenbank verwendet, und wenn die Umgebungsvariable SQL_DSN nicht gesetzt ist, werden die Datenbankdateien in dem vom Docker-Container angegebenen Pfad gespeichert. Wenn die Umgebungsvariable SQL_DSN gesetzt ist, stellt die Anwendung eine Verbindung zu der von Ihnen angegebenen MySQL- oder PostgreSQL-Datenbank her. So gehen unsere früheren Änderungen nicht verloren, wenn wir das Image erneut bereitstellen oder ziehen.

beabsichtigen

• Kostenlose Container-Plattformen, die Docker unterstützen, wie z. B. Render oder Zeabur.
• MySQL- oder PostgreSQL-Datenbank (optional, empfohlen für die Datenpersistenz).
• Ein Domänenname (optional).

Schritte zum Einsatz

• Hugging Face : Schnell, unterstützt aber keine gebundenen Domänennamen, der Zugang im Inland kann eingeschränkt sein.
• Render : Gebündelte Domains werden unterstützt, für die Registrierung kann eine gebündelte Kreditkarte erforderlich sein.
• Koyeb : Gebündelte Domains werden unterstützt, Upgrade-Plan erforderlich.
• Zeabur: Schneller Zugang, chinesische Unterstützung, Docker-Image-Bereitstellung erfordert einen Upgrade-Plan.

Prozess der Bereitstellung

huggingface Einsatz

1. das Docker-Image kopieren

auf eine Schaltfläche klickenEin-Klick-Kopie Konfigurieren Sie THEME (Oberflächenthema wie Standard oder Beere) und SQL_DSN (Datenbankverbindung). Ich werde sie unten im Detail auflisten.

Die Auswirkungen der verschiedenen Themen sind wie folgt, wählen Sie je nach Ihren Vorlieben.

Standardthema

Beeren-Thema

2. die Konfiguration der Datenbank

• Verwenden Sie einen kostenlosen Datenbankdienst wie aiven oder Planetscale oder die kostenlosen Datenbanken, die mit Render und Koyeb geliefert werden; konfigurieren Sie die Umgebungsvariable SQL_DSN für das Projekt.
• MySQL-Beispiel. SQL_DSN=root:123456@tcp(localhost:3306)/oneapi
• PostgreSQL Beispiele. SQL_DSN=postgres://postgres:123456@localhost:5432/oneapi

2.1Registrierung und AnmeldungWir sind dabei. aiven Plattform, registrieren Sie sich oder melden Sie sich bei Ihrem Konto an.

2.2Füllen Sie die Informationen ausWählen Sie Persönliche Dienstleistungen und geben Sie die grundlegenden Informationen ein.

2.3Datenbank auswählenWählen Sie MySQL-Datenbank oder PostgreSQL-Datenbank.

2.4Datenbank-KonfigurationMarkieren Sie den kostenlosen Plan, wählen Sie den Servicebereich und klicken Sie schließlich auf Erstellen.

2.5Endgültige KonfigurationPrägen Sie sich die Informationen im Diagramm ein und tippen Sie auf "Überspringen". Es macht nichts, wenn du dich nicht an sie erinnerst, wir können sie sehen, nachdem du sie alle übersprungen hast.

3 Füllen Sie die Variablen aus.

Auf der Grundlage der Datenbankinformationen in der Abbildung ergibt sich folgendes Bild:

Dienst URI.
mysql://CLICK_TO:REVEAL_PASSWORD@mysql-12a9c26-jonastech007-2d92.b.aivencloud.com:10906/defaultdb?ssl-mode=必需

Gastgeber.
mysql-12a9c26-jonastech007-2d92.b.aivencloud.com

Hafen.
10906

Benutzer:
avnadmin

Kennwort:
AVNS_QV8niFI8YW48vKqxi3R

Unsere Link-Adresse sollte wie folgt geschrieben werden: username:password@tcp(Host:Port)/database name

Wir landeten bei avnadmin:AVNS_QV8niFI8YW48vKqxi3R@tcp(mysql-12a9c26-jonastech007-2d92.b.aivencloud.com:10906)/defaultdb

Fügen Sie diesen Link in die Variable ein und klicken Sie abschließend auf copy to space Raum duplizieren

4. zugang

An dieser Stelle können wir die Einstellungen finden, indem wir auf die obere rechte Ecke des FenstersDiesen Bereich einbettenZugang zu unseren Diensten erhalten Sie über den unten stehenden Link.

Koyeb-Einsatz

1. zum Eintreten klickenKoyeb Nachdem Sie sich auf der offiziellen Website angemeldet und registriert haben, klicken Sie auf Webdienst erstellen, um das Docker-Image auszuwählen.

2. in das Eingabefeld geben Sie justsong/one-api:latest ein, wenn Sie nicht wissen, woher diese Datei stammt, können Sie auf der Website des Open-Source-Projektscompose.yml.

Version: '3.4'

Dienstleistungen.
one-api.
image: "${REGISTRY:-docker.io}/justsong/one-api:latest"
container_name: one-api
Neustart: immer
Befehl--log-dir /app/logs
Häfen.
- "3000:3000"
Volumen.
- . /data/oneapi:/data
- . /protokolle:/app/protokolle
Umwelt.
- SQL_DSN=oneapi:123456@tcp(db:3306)/one-api # Ändern Sie diese Zeile oder kommentieren Sie sie aus, um SQLite als Datenbank zu verwenden
- REDIS_CONN_STRING=redis://redis
- SESSION_SECRET=zufällige_Zeichenfolge # Ändern in zufällige Zeichenfolge
- TZ=Asien/Shanghai
# - NODE_TYPE=slave # Diese Zeile muss für Slave-Knoten in einem Multicomputer-Einsatz deaktiviert werden
# - SYNC_FREQUENCY=60 # Diese Zeile nicht auskommentieren, wenn Sie regelmäßig Daten aus der Datenbank laden müssen

${REGISTRY:-docker.io} ist ein Ausdruck für eine Umgebungsvariable, der angibt, dass, wenn die Umgebungsvariable REGISTRY nicht gesetzt ist, die Standardeinstellung docker.io (Docker Hub) verwendet wird.
justsong/one-api:latest gibt den Namen und die Bezeichnung des Abbilds an, wobei justsong der Name des Benutzers oder der Organisation im Docker Hub ist, one-api der Name des Abbilds und latest bedeutet, dass die neueste Version dieses Abbilds verwendet wird.

3 Legen Sie die erforderlichen Variablen und Regionsinformationen fest und klicken Sie auf die Schaltfläche Bereitstellen.

4 Wir warten, bis die Bereitstellung abgeschlossen ist, und können auf diese Adresse klicken, um auf unsere One API zuzugreifen.

5. das Standard-Administratorkonto lautet

• Benutzername:root
• Kennwort:123456

Änderungen sollten sofort nach der Anmeldung unter Benutzer vorgenommen werden, um das Konto zu sichern.

Verwendung

In Anbetracht der Tatsache, dass die meisten Leute, die meinen Beitrag lesen können, Neulinge sind, werde ich kurz seine Verwendung demonstrieren. Die im obigen Blog-Beitrag vorgestellte kostenlose APIin Flammen stehen Beispiele.

Diejenigen, die nicht beeindruckt sind, können sich selbst davon überzeugen oder sich den Dieser Blogbeitrag

OneAPI-Konfiguration

1. nachdem Sie sich bei Ihrem OneAPI-Administratorkonto angemeldet haben, suchen Sie denBewässerungsgraben, klickenNeue Kanäle

2. Kanal Name können wir benennen, Kanal API-Adresse ist die Weiterleitung Adresse, füllen Sie einfach in seiner Anfrage-Adresse, und wählen Sie dann das Modell der Unterstützung, fügen Sie Ihre API-Schlüssel, und schließlich senden.

3. schließlich klicken wir auf ungetestet messen Sie die Konnektivität der API.

4 Nach Abschluss des Tests sind wir in der LageTokenWenn Sie möchten, können Sie Ihre Website auch freigeben, nachdem Sie viele APIs hinzugefügt haben, damit sie von allen genutzt werden können. Wenn Sie möchten, können Sie Ihre Website auch freigeben, nachdem Sie viele APIs hinzugefügt haben, damit andere sie nutzen können.
Wir müssen lediglich die einzelnen API-Kanäle im Hintergrund pflegen. Die OneAPI-Anfrageadresse ist standardmäßig unser Domänenname, Sie können sie aber auch in den Einstellungen ändern.