ROADMAP

✨ Model Gateway

Status
In Bearbeitung
Zuletzt aktualisiert
September 30, 2026

Übersicht

Das Model Gateway dient als zentraler Einstiegspunkt für die KI-Funktionen und Agenten von IOMETE, um Modelle aufzurufen. Es läuft innerhalb Ihrer IOMETE-Umgebung, wodurch jeder Aufruf authentifiziert, durch Raten- und Ausgabenlimits begrenzt und zentral protokolliert wird. Wenn eine Anfrage an einen Cloud-Anbieter weitergeleitet wird, erfolgen Prompt und Antwort über Ihr eigenes Konto bei diesem Anbieter.

Funktionsweise

  • Bietet eine OpenAI-kompatible Chat-API, einschließlich Streaming-Antworten, die mit den Standard-OpenAI-SDKs funktioniert.
  • Speichert Anbieter-Schlüssel sicher im IOMETE-Secret-Store. Aufrufer melden sich mit ihren IOMETE-Zugangsdaten an und sehen die Schlüssel zu keinem Zeitpunkt.
  • Protokolliert jeden Aufruf: Wer hat ihn getätigt, welches Modell hat geantwortet, Token-Verbrauch, Latenz und Kosten.
  • Erzwingt Raten- und Ausgabenlimits für jeden Modell-Endpunkt.

Modellanbieter

  • Cloud-KI-Anbieter wie OpenAI und Google Cloud.
  • Ihr eigener Modell-Endpunkt, der mit der OpenAI- oder Claude-API kompatibel ist, sodass der Modell-Datenverkehr innerhalb Ihres Netzwerks verbleiben kann.

Einordnung

Das Model Gateway folgt auf den MCP Server for AI Agents. Die KI-Agenten von IOMETE, wie etwa der Troubleshooting Agent, greifen ausschließlich darüber auf Modelle zu.

‍

DEMO BUCHEN

Der Einstieg bei IOMETE ist ganz einfach. Buchen Sie noch heute eine Demo bei uns.

Die IOMETE-Datenplattform hilft Ihnen, mehr zu erreichen. Buchen Sie eine persönliche Demo und erleben Sie die Wirkung aus erster Hand.

Kontakt aufnehmen