Zwischen Anwendung und Anbieter kommt eine dünne eigene Schicht. Sie kostet wenige Tage und macht den Wechsel des Modells später zu einer Konfigurationsfrage statt zu einem Umbau. Dazu gehören ein Zwischenspeicher für wiederkehrende Anfragen, eine W…
KI im Betrieb: Anbindung, Überwachung, Kosten
Der Prototyp läuft nach zwei Wochen. Der Betrieb dauert Jahre. Zwischen beidem liegt der Teil, über den selten geschrieben wird: Überwachung, Versionierung, Kostenkontrolle und die Frage, wer nachts angerufen wird.
Was im Betrieb tatsächlich Arbeit macht
- Kosten je Anfrage – sie steigen mit der Nutzung, nicht mit dem Erfolg
- Antwortzeiten, die bei Lastspitzen einbrechen
- Modellwechsel beim Anbieter, die das Verhalten unangekündigt verändern
- Nachvollziehbarkeit: Welche Version hat diese Antwort erzeugt?
- Datenschutz bei jedem Aufruf, der das eigene Netz verlässt
Cloud-Dienst oder eigener Betrieb
Ein gehosteter Dienst ist am Anfang günstiger und schneller einsatzbereit. Eigener Betrieb rechnet sich bei hohem, gleichmäßigem Volumen oder wenn Daten das Haus nicht verlassen dürfen. Die Rechnung dreht sich meist später, als Anbieter behaupten, und früher, als Betreiber hoffen.
Was hier nicht behauptet wird
Dass sich der Aufwand automatisieren ließe. Werkzeuge nehmen Routine ab; die Entscheidungen bleiben.
Leistungen in Betrieb und Daten
Der Prototyp läuft nach zwei Wochen, der Betrieb dauert Jahre. Eingerichtet werden Versionierung von Daten und Modellen, eine laufende Beobachtung der Ausgabequalität, eine Kostenüberwachung je Anfrage und ein definierter Weg zurück auf den vorherig…
Ein gehosteter Dienst ist am Anfang schneller und günstiger. Eigener Betrieb rechnet sich bei hohem, gleichmäßigem Volumen oder wenn Daten das Haus nicht verlassen dürfen. Gerechnet wird über drei Jahre und mit dem tatsächlichen Lastprofil – nicht m…