Einrichtung von AVA mit einer OpenAI-kompatiblen API neu

Du kannst Haiilo AVA mit einem KI-Anbieter verbinden, der eine OpenAI-kompatible API anbietet. Diese Option kannst du zum Beispiel nutzen, wenn deine Organisation ein selbst gehostetes LLM oder einen anderen KI-Anbieter als OpenAI oder Microsoft Azure OpenAI verwendet, der eine kompatible API bereitstellt.

Eine OpenAI-kompatible API folgt der gängigen Schnittstelle sowie den Anforderungs- und Antwortformaten, die von der OpenAI-API verwendet werden. Dadurch können Anwendungen, die für diese Schnittstelle entwickelt wurden, mit Modellen verschiedener Anbieter oder selbst gehosteten Deployments interagieren. Die Nutzung einer OpenAI-kompatiblen API bedeutet nicht, dass du OpenAI oder ein OpenAI-Modell verwendest.

Bevor du AVA einrichtest

Du brauchst einen KI-Anbieter oder ein Deployment, das eine OpenAI-kompatible API anbietet.

Bevor du AVA einrichtest, besorge dir folgende Informationen von deinem KI-Anbieter:

  • API-Schlüssel: Die Zugangsdaten, mit denen Anfragen an deinen KI-Anbieter authentifiziert werden. Hol dir den API-Schlüssel von deinem Anbieter. Das Format des API-Schlüssels hängt vom Anbieter ab.
  • Endpunkt: Die Basis-URL, die AVA verwendet, um sich mit der OpenAI-kompatiblen API deines Anbieters zu verbinden. Gib die vollständige URL ein, inklusive aller erforderlichen Pfadpräfixe, aber ohne einzelne API-Endpunkte wie /chat/completions oder /audio/speech.
  • Modell: Die genaue Modellkennung, die von der API deines Anbieters akzeptiert wird. Das erforderliche Format hängt von deinem Anbieter oder Deployment ab und kann Groß- und Kleinschreibung beachten. Bei selbst gehosteten Modellen kann die Kennung den Modell-Namespace enthalten, zum Beispiel google/Gemma-4-12B-it-qat-w4a16-ct oder ornith-ai/Ornith-1.5-397B. Du gibst das Modell für jede AVA-Funktion separat ein.

Anforderungen an die API-Kompatibilität

Die OpenAI-kompatible API deines Anbieters muss die erforderlichen API-Endpunkte für die AVA-Funktionen unterstützen, die du aktivieren möchtest:

  • Für Textgenerierungsfunktionen verwendet AVA derzeit die Chat Completions API (/chat/completions), wird aber bald auf die Responses API (/responses) umsteigen. Wir empfehlen, dass dein Anbieter vorerst beide APIs unterstützt.
  • Für Audio-Generierungsfunktionen nutzt AVA die Text-to-Speech API (/audio/speech).

Manche OpenAI-kompatiblen APIs oder Modelle unterstützen möglicherweise nicht die von AVA verwendete Reasoning-Konfiguration, besonders in Kombination mit der Tool-Aufruf-Funktion des KI-Assistenten. Wenn du auf Kompatibilitätsprobleme stößt, wende dich an unser Support-Team für Hilfe.

Haiilo AVA einrichten

Du brauchst die Berechtigung „AVA verwalten“, um die Einstellungen von AVA zu verwalten.

  1. Gehe zu Administration > AVA > Anbieter.
  2. Wähle OpenAI-kompatible API als deinen Anbieter aus.
  3. Gib den API-Schlüssel und den Endpunkt deines KI-Anbieters ein.
  4. Wähle Änderungen speichern.

Funktionen für AVA aktivieren

Um die verschiedenen Funktionen von AVA zu nutzen, musst du jede einzelne separat aktivieren.

  1. Gehe zu Administration > AVA > Features.
  2. Aktiviere die Funktionen, für die du AVA verwenden möchtest.
  3. Gib das Modell ein, das die Funktion nutzen soll.
  4. Wähle Änderungen speichern.

AVA ist jetzt aktiviert und kann auf deiner Plattform für die Funktionen verwendet werden, die du aktiviert hast.

War dieser Beitrag hilfreich?

0 von 0 fanden dies hilfreich