Du kannst Haiilo AVA mit einem KI-Anbieter verbinden, der eine OpenAI-kompatible API anbietet. Diese Option kannst du zum Beispiel nutzen, wenn deine Organisation ein selbst gehostetes LLM oder einen anderen KI-Anbieter als OpenAI oder Microsoft Azure OpenAI verwendet, der eine kompatible API bereitstellt.
Eine OpenAI-kompatible API folgt der gängigen Schnittstelle sowie den Anforderungs- und Antwortformaten, die von der OpenAI-API verwendet werden. Dadurch können Anwendungen, die für diese Schnittstelle entwickelt wurden, mit Modellen verschiedener Anbieter oder selbst gehosteten Deployments interagieren. Die Nutzung einer OpenAI-kompatiblen API bedeutet nicht, dass du OpenAI oder ein OpenAI-Modell verwendest.
Bevor du AVA einrichtest
Du brauchst einen KI-Anbieter oder ein Deployment, das eine OpenAI-kompatible API anbietet.
Bevor du AVA einrichtest, besorge dir folgende Informationen von deinem KI-Anbieter:
- API-Schlüssel: Die Zugangsdaten, mit denen Anfragen an deinen KI-Anbieter authentifiziert werden. Hol dir den API-Schlüssel von deinem Anbieter. Das Format des API-Schlüssels hängt vom Anbieter ab.
- Endpunkt: Die Basis-URL, die AVA verwendet, um sich mit der OpenAI-kompatiblen API deines Anbieters zu verbinden. Gib die vollständige URL ein, inklusive aller erforderlichen Pfadpräfixe, aber ohne einzelne API-Endpunkte wie
/chat/completionsoder/audio/speech. - Modell: Die genaue Modellkennung, die von der API deines Anbieters akzeptiert wird. Das erforderliche Format hängt von deinem Anbieter oder Deployment ab und kann Groß- und Kleinschreibung beachten. Bei selbst gehosteten Modellen kann die Kennung den Modell-Namespace enthalten, zum Beispiel
google/Gemma-4-12B-it-qat-w4a16-ctoderornith-ai/Ornith-1.5-397B. Du gibst das Modell für jede AVA-Funktion separat ein.
Anforderungen an die API-Kompatibilität
Die OpenAI-kompatible API deines Anbieters muss die erforderlichen API-Endpunkte für die AVA-Funktionen unterstützen, die du aktivieren möchtest:
- Für Textgenerierungsfunktionen verwendet AVA derzeit die Chat Completions API (
/chat/completions), wird aber bald auf die Responses API (/responses) umsteigen. Wir empfehlen, dass dein Anbieter vorerst beide APIs unterstützt. - Für Audio-Generierungsfunktionen nutzt AVA die Text-to-Speech API (
/audio/speech).
Manche OpenAI-kompatiblen APIs oder Modelle unterstützen möglicherweise nicht die von AVA verwendete Reasoning-Konfiguration, besonders in Kombination mit der Tool-Aufruf-Funktion des KI-Assistenten. Wenn du auf Kompatibilitätsprobleme stößt, wende dich an unser Support-Team für Hilfe.
Haiilo AVA einrichten
Du brauchst die Berechtigung „AVA verwalten“, um die Einstellungen von AVA zu verwalten.
- Gehe zu Administration > AVA > Anbieter.
- Wähle OpenAI-kompatible API als deinen Anbieter aus.
- Gib den API-Schlüssel und den Endpunkt deines KI-Anbieters ein.
- Wähle Änderungen speichern.
Funktionen für AVA aktivieren
Um die verschiedenen Funktionen von AVA zu nutzen, musst du jede einzelne separat aktivieren.
- Gehe zu Administration > AVA > Features.
- Aktiviere die Funktionen, für die du AVA verwenden möchtest.
- Gib das Modell ein, das die Funktion nutzen soll.
- Wähle Änderungen speichern.
AVA ist jetzt aktiviert und kann auf deiner Plattform für die Funktionen verwendet werden, die du aktiviert hast.