---
title: "KI"
updated: "2026-11-16"
url: "https://www.etheon.com/de/services/ai"
---

# KI-Entwicklung

KI-Entwicklung, von der Strategie bis zu MLOps. Wir bauen Agenten, Modelle und die Integrationen, die sie in Ihrem Unternehmen zum Einsatz bringen.

## KI-Entwicklung, von der Strategie bis zu MLOps. Wir bauen Agenten, Modelle und die Integrationen, die sie in Ihrem Unternehmen zum Einsatz bringen.

### Beratung.

Wo sich KI in Ihrem Unternehmen lohnt, was sie von Ihren Daten braucht und was zuerst gebaut werden sollte.

- Eine priorisierte Liste von Anwendungsfällen
- Eine Prüfung der Datenreife
- Ein abgegrenztes erstes Projekt

Beispielranking · eine Illustration des Formats, keine Anwendungsfälle eines Kunden

1. Support-Antworten, entworfen aus Ihrem Hilfecenter: Klare Dokumente, hohes Volumen
2. Notizen aus Vertriebsgesprächen, eingetragen in Ihr CRM: Wiederkehrende Arbeit, leicht zu prüfen
3. Eine Absatzprognose für Ihre meistverkauften Produkte: Daten vorhanden, Nutzen klar

### Generative KI.

Assistenten für Ihre Dokumente und KI-Funktionen in Ihrem Produkt.

- Ein Assistent für Ihre Dokumente
- Antworten, die Ihre Quellen zitieren
- KI-Funktionen in Ihrem Produkt

### Agenten.

Agenten, die in Ihren Systemen arbeiten, innerhalb von Grenzen, die Sie setzen, und mit einem Menschen, wo es darauf ankommt.

- Tools, die der Agent aufrufen darf, jedes mit eigener Berechtigung
- Grenzen, die außerhalb des Modells durchgesetzt werden
- Jeder Schritt protokolliert und wiederholbar
- Ein Mensch gibt frei, was Sie bestimmen

In dieser Etappe: Tool-Aufrufe, Leitplanken, Tracing

Beispiellauf · eine Illustration des Formats, kein System eines Kunden

|  |  |  |  |
| --- | --- | --- | --- |
| 00\.00 | request | Refund order 1042 if the policy allows it |  |
| 00\.12 | retrieve | refund-policy.md, section 3.2 | belegt |
| 00\.31 | tool | orders.lookup(1042) | vor 9 Tagen zugestellt |
| 00\.44 | check | inside the 14-day window | bestanden |
| 00\.52 | guard | amount under the agent's limit | bestanden |
| 00\.53 | person | approval not needed under the limit | übersprungen |
| 00\.71 | tool | payments.refund(1042) | erledigt |
| 00\.72 | log | every step saved for review | gespeichert |

### Dokumenten- und Bild-KI.

Dokumente, Bilder und Video mit KI lesen.

- Daten aus Formularen, Rechnungen und Verträgen ausgelesen
- Gescannte Seiten in durchsuchbaren Text umgewandelt
- Bilder sortiert und ihr Inhalt erkannt
- Videos nach den Momenten durchsucht, die Sie nennen

### Integration.

KI, verbunden mit den Systemen und der Anmeldung, die Sie bereits betreiben.

- Das Modell, das zur Aufgabe passt
- Single Sign-on
- Kosten und Antwortzeit gemessen

### MLOps.

Jede Version nachverfolgt, jedes Release umkehrbar.

- Evaluierung vor jedem Release
- Versionierte Releases mit Rollback
- Model Cards

### Beratung. Wo sich KI in Ihrem Unternehmen lohnt und was zuerst gebaut werden sollte.

#### Was es ist

KI-Beratung entscheidet, wo sich KI in Ihrem Unternehmen lohnt, bevor etwas gebaut wird. Wir betrachten Ihre Prozesse und Ihre Daten, ordnen die Anwendungsfälle danach, was jeder bringen kann und was er braucht, und grenzen das erste Projekt so ab, dass sich sein Ergebnis messen lässt.

#### Was wir tun

- Die Anwendungsfälle ordnen
- Prüfen, was sie von Ihren Daten brauchen
- Ein erstes Projekt abgrenzen

#### Wie wir es tun

1. Interviews: Die Menschen, die die Arbeit kennen, und die Daten dahinter.
2. Ordnen: Jeden Anwendungsfall danach, was er bringen kann und was er braucht.
3. Die Daten prüfen: Ob sie existieren, sauber sind und genutzt werden dürfen.
4. Umfang festlegen: Das erste Projekt und wie sein Ergebnis gemessen wird.

#### Was Sie erhalten

- Eine priorisierte Liste von Anwendungsfällen
- Eine Notiz zur Datenreife
- Ein abgegrenztes erstes Projekt

#### Verwandte Themen

- [Generative KI](https://www.etheon.com/de/services/ai?detail=generative-ai#generative-ai)
- [So arbeiten wir](https://www.etheon.com/de/company/how-we-work)

### Generative KI. Assistenten und KI-Funktionen, gebaut auf Ihren Dokumenten und Ihrem Produkt.

#### Was es ist

Generative KI ist Software, die aus Ihrem eigenen Material schreibt, antwortet und zusammenfasst. Wir bauen Assistenten für Ihre Dokumente, die ihre Quellen zitieren, und KI-Funktionen in Ihrem Produkt, jede an Beispielen getestet, die Sie freigeben, bevor sie Ihre Nutzer erreicht.

#### Was wir tun

- Ein Assistent für Ihre Dokumente
- Antworten, die Ihre Quellen zitieren
- KI-Funktionen in Ihrem Produkt

#### Wie wir es tun

1. Die Quellen sammeln: Die Dokumente und Daten, die der Assistent lesen darf.
2. Bauen und verankern: Antworten, die die Passage zitieren, aus der sie stammen.
3. Evaluieren: Echte Fragen Ihres Teams, vor dem Release bewertet.
4. In Etappen freigeben: Zuerst für eine kleine Gruppe, dann für alle.

#### Was Sie erhalten

- Der Assistent und sein Code in Ihrem Repository
- Ein Evaluierungsdatensatz und seine Werte
- Ein Runbook für Ihr Team

#### Stack und Tools

- Model APIs
- Embeddings
- Vector search
- Evaluation sets

#### Verwandte Themen

- [Kuest AI, ein KI-Tutor, der Schritt für Schritt unterrichtet](https://www.etheon.com/de/work/kuest-ai)
- [Evaluierung](https://www.etheon.com/de/services/ai?detail=evaluation#evaluation)
- [Gehostete Modelle](https://www.etheon.com/de/services/ai?detail=hosted-models#hosted-models)

### Agenten. Software, die in Ihren Systemen handelt, innerhalb der Grenzen, die Sie setzen.

#### Was es ist

Ein Agent ist Software, die in Ihren Systemen handelt: Er liest eine Aufgabe, ruft die Tools auf, die er aufrufen darf, und protokolliert jeden Schritt. Wir bauen jeden Agenten in einem Harness aus Berechtigungen und Grenzen, die außerhalb des Modells liegen, mit einem Menschen, der die von Ihnen gewählten Schritte freigibt, sodass der Agent nur tun kann, was Sie festgelegt haben.

#### Was wir tun

- Die Aufgabe erfassen: ihre Schritte, die Systeme, die sie berührt, und wo ein Mensch freigibt.
- Die Tools bauen, die der Agent aufrufen darf, jedes mit eigener Berechtigung.
- Die Grenzen für Daten, Ausgaben und Umfang setzen, durchgesetzt außerhalb des Modells.
- Jeden Schritt protokollieren, damit Ihr Team nachvollziehen kann, was der Agent getan hat und warum.

#### Wie wir es tun

1. Die Aufgabe abgrenzen: Die Schritte, die Systeme und die Entscheidungen, die bei einem Menschen bleiben.
2. Die Tools bauen: Jedes Tool, das der Agent aufrufen darf, mit eigener Berechtigung.
3. Evaluieren: Ein Evaluierungsdatensatz aus Ihren eigenen Fällen, vor dem Release bewertet.
4. In Etappen freigeben: Zuerst gibt ein Mensch jede Aktion frei, dann nur noch die Ausnahmen.
5. Beobachten und verbessern: Traces, Alarme und ein regelmäßiges Review dessen, was schiefging.

#### Was Sie erhalten

- Der Agent und seine Tools in Ihrem Repository
- Eine Berechtigungsübersicht
- Ein Evaluierungsdatensatz und seine Werte
- Ein Trace jedes Laufs
- Ein Runbook für Ihr Team

#### Stack und Tools

- Model APIs
- Tool calling
- Sandboxes
- Tracing
- Evaluation sets

#### Verwandte Themen

- [Jeriko, ein Team persönlicher KI-Agenten](https://www.etheon.com/de/work/jeriko)
- [Das Agent-Harness](https://www.etheon.com/de/services/ai?detail=agent-harness#agent-harness)
- [ML-Daten](https://www.etheon.com/de/services/data?detail=ml-data#ml-data)

Agenten für Ihr Unternehmen. Nennen Sie uns die Aufgabe und die Systeme, die sie berührt. Wir antworten innerhalb eines Werktags.

### Dokumenten- und Bild-KI. Dokumente, Bilder und Video mit KI lesen.

#### Was es ist

Dokumenten- und Bild-KI liest, was Ihr Unternehmen als Dateien erhält: Formulare, Rechnungen, Verträge, gescannte Seiten, Bilder und Video. Wir bauen Systeme, die die Daten auslesen, die Sie brauchen, Scans in durchsuchbaren Text umwandeln, Bilder nach ihrem Inhalt sortieren und die Momente in einem Video finden, die Sie nennen, jeweils an Beispielen geprüft, die Sie freigeben.

#### Was wir tun

- Daten aus Formularen, Rechnungen und Verträgen auslesen
- Gescannte Seiten in durchsuchbaren Text umwandeln
- Bilder sortieren und ihren Inhalt erkennen
- Videos nach den Momenten durchsuchen, die Sie nennen

#### Wie wir es tun

1. Beispiele sammeln: Echte Dokumente, Bilder oder Videos aus Ihrer Arbeit.
2. Das Lesemodell bauen: Ein Modell, das sie liest, an Ihren Beispielen geprüft.
3. Unsichere Fälle prüfen: Ein Mensch prüft, worüber sich das Modell unsicher ist.
4. Anbinden: Die Ergebnisse fließen in das System, das sie braucht.

#### Fragen

**Kann ein Mensch die Ergebnisse prüfen?**

Ja. Alles, worüber sich das Modell unsicher ist, geht in eine Prüfwarteschlange, und ein Mensch entscheidet, bevor es weitergeht.

**Welche Arten von Dokumenten können Sie lesen?**

Formulare, Rechnungen, Verträge, gescannte Seiten, Bilder und Video. Wir testen an Beispielen von Ihnen, bevor wir bauen.

#### Was Sie erhalten

- Die Extraktions-Pipeline in Ihrem Repository
- Ein Evaluierungsdatensatz und seine Werte
- Eine Prüfwarteschlange für Ihr Team

#### Stack und Tools

- Document parsing
- Optical character recognition
- Vision models
- Evaluation sets

#### Verwandte Themen

- [Generative KI](https://www.etheon.com/de/services/ai?detail=generative-ai#generative-ai)
- [Evaluierung](https://www.etheon.com/de/services/ai?detail=evaluation#evaluation)

### Integration. KI, verbunden mit den Systemen, die Sie bereits betreiben.

#### Was es ist

Integration bringt KI in den Systemen zum Einsatz, die Sie bereits betreiben. Wir verbinden ein Modell mit Ihren Anwendungen, Ihren Daten und Ihrem Single Sign-on, wählen das Modell, das zu jeder Aufgabe passt, und messen Kosten und Antwortzeit, damit die Funktion bezahlbar bleibt, wenn die Nutzung wächst.

#### Was wir tun

- Das Modell, das zur Aufgabe passt
- Single Sign-on
- Kosten und Antwortzeit gemessen

#### Wie wir es tun

1. Die Systeme erfassen: Wo die Funktion eingebunden ist und was sie liest und schreibt.
2. Das Modell wählen: An Ihrer Aufgabe nach Qualität, Kosten und Antwortzeit bewertet.
3. Anbinden: Über Ihre APIs und Ihr Single Sign-on.
4. Messen: Kosten und Antwortzeit beobachtet, sobald sie live ist.

#### Was Sie erhalten

- Der Integrationscode in Ihrem Repository
- Ein Bericht zu Kosten und Antwortzeit
- Ein Runbook für Ihr Team

#### Stack und Tools

- Model APIs
- API gateways
- Single sign-on
- Monitoring

#### Verwandte Themen

- [Individualsoftware](https://www.etheon.com/de/services/software?detail=custom-software#custom-software)
- [Web-Apps](https://www.etheon.com/de/services/web?detail=web-apps#web-apps)

### MLOps. Modelle freigegeben, gemessen und funktionsfähig gehalten.

#### Was es ist

MLOps hält Modelle nach dem Launch funktionsfähig. Wir bauen die Pipelines, die ein Modell trainieren, evaluieren und freigeben, eine Registry, die jedes versioniert, ein Monitoring, das es in der Produktion beobachtet, und ein Neutraining, wenn sich die Daten verschieben, wobei jedes Release umkehrbar ist.

#### Was wir tun

- Pipelines
- Eine Model Registry
- Monitoring
- Neutraining
- Versionierte Releases mit Rollback
- Model Cards

#### Wie wir es tun

1. Die Pipeline bauen: Training, Evaluierung und Release, als Code geschrieben.
2. Jedes Modell registrieren: Jede Version mit ihren Daten und ihren Werten aufbewahrt.
3. Mit einem Rollback freigeben: Eine neue Version ersetzt die alte erst, wenn sie besteht.
4. Überwachen: Qualität und Drift in der Produktion beobachtet.
5. Neu trainieren: Wenn sich die Daten verschieben, durch dieselben Gates wie zuvor.

#### Fragen

**Können wir ein Modell zurückrollen?**

Ja. Jedes Release ist versioniert, sodass das vorherige Modell zurückkehren kann, wenn ein neues nicht standhält.

**Woran erkennen Sie, dass ein Modell gedriftet ist?**

Das Monitoring vergleicht Live-Eingaben und Ergebnisse mit dem Testdatensatz und alarmiert Ihr Team, wenn sie auseinanderlaufen.

#### Was Sie erhalten

- Die Pipelines in Ihrem Repository
- Eine Model Registry
- Monitoring und Alarme
- Eine Model Card für jedes Release

#### Stack und Tools

- Pipeline orchestration
- Model registries
- Experiment tracking
- Monitoring
- Evaluation sets

#### Verwandte Themen

- [Evaluierung](https://www.etheon.com/de/services/ai?detail=evaluation#evaluation)
- [ML-Daten](https://www.etheon.com/de/services/data?detail=ml-data#ml-data)

## Im Inneren eines Agenten: das Harness.

Das Modell ist ein Teil; das Harness darum herum entscheidet, was der Agent darf.

- Modell: Liest die Aufgabe und entscheidet den nächsten Schritt.
- Tools: Die Aktionen, die der Agent aufrufen darf, jede benannt und begrenzt.
- Berechtigungen: Worauf jedes Tool zugreifen darf, durchgesetzt außerhalb des Modells.
- Kontext: Die Dokumente und Daten, die der Agent für diese Aufgabe lesen darf.
- Sandbox: Wo der Agent läuft, getrennt von den Systemen, die er nicht erreichen darf.
- Freigabe: Die Schritte, die ein Mensch freigibt, bevor sie passieren.
- Trace: Jeder Schritt in ein Log geschrieben, das Ihr Team nachvollziehen kann.

### Das Agent-Harness. Alles um das Modell herum, was entscheidet, was ein Agent darf.

#### Was es ist

Ein Agent-Harness ist die Software um ein Modell herum, die entscheidet, was der Agent darf: die Tools, die er aufrufen darf, die Berechtigungen für jedes, den Kontext, den er lesen darf, wo er läuft, die Schritte, die ein Mensch freigibt, und das Log jedes Schritts. Wir bauen zuerst das Harness und den Agenten darin, damit seine Grenzen halten, was auch immer das Modell antwortet.

#### Was wir tun

- Jedes Tool benennen, das der Agent aufrufen darf
- Die Berechtigungen jedes Tools außerhalb des Modells setzen
- Den Agenten in einer Sandbox ausführen, getrennt von Ihren Systemen
- Einen Menschen vor die Schritte setzen, die Sie wählen
- Jeden Schritt in ein Log schreiben, das Ihr Team nachvollziehen kann

#### Was Sie erhalten

- Das Harness und seine Tools in Ihrem Repository
- Eine Berechtigungsübersicht
- Ein nachvollziehbarer Trace jedes Laufs

#### Stack und Tools

- Tool calling
- Sandboxes
- Policy enforcement
- Tracing

#### Verwandte Themen

- [Agenten](https://www.etheon.com/de/services/ai?detail=agents#agents)
- [Evaluierung](https://www.etheon.com/de/services/ai?detail=evaluation#evaluation)

## Modelle.

Vier Wege, ein Modell zum Einsatz zu bringen, und was jeder von Ihnen verlangt.

### Gehostetes Modell nutzen

Das Modell eines Anbieters, genutzt über seine API.

- Was Sie brauchen: Ein Konto beim Anbieter und Bedingungen, die zu Ihren Daten passen.
- Was Ihnen gehört: Ihre Prompts, Ihr Evaluierungsdatensatz und der Code um das Modell herum.
- Wann es passt: Wenn ein allgemeines Modell die Aufgabe schon gut genug erledigt.

### Offenes Modell betreiben

Offene Gewichte auf Infrastruktur, die Sie kontrollieren.

- Was Sie brauchen: Server oder ein Cloud-Konto mit geeigneter Hardware.
- Was Ihnen gehört: Das Deployment und wohin Ihre Daten gehen.
- Wann es passt: Wenn Ihre Daten in Ihrer eigenen Umgebung bleiben müssen.

### Modell feinabstimmen

Ein Basismodell, an Ihren Beispielen weitertrainiert.

- Was Sie brauchen: Gute Beispiele der Aufgabe und eine Möglichkeit, sie zu bewerten.
- Was Ihnen gehört: Die feinabgestimmten Gewichte, wo die Lizenz des Basismodells es erlaubt.
- Wann es passt: Wenn Prompting allein Ihre Qualitätsschwelle nicht erreicht.

### Eigenes Modell anlernen

Ein Modell für eine Aufgabe, an Ihren Daten trainiert, etwa Prognose oder Klassifikator.

- Was Sie brauchen: Genug gelabelte Daten für die Aufgabe.
- Was Ihnen gehört: Das Modell und sein Trainingscode.
- Wann es passt: Wenn die Aufgabe eng umrissen ist und die Daten Ihnen gehören.

### Gehostete Modelle. Das Modell eines Anbieters, genutzt über seine API, mit geprüften Bedingungen für Ihre Daten.

#### Was es ist

Ein gehostetes Modell ist das Modell eines Anbieters, das Sie über seine API nutzen, ohne eigene Server zu betreiben. Wir wählen zwischen Anbietern, indem wir sie an Ihrem eigenen Evaluierungsdatensatz bewerten, prüfen die Bedingungen jedes Anbieters gegen Ihre Daten und messen Kosten und Antwortzeit jedes Aufrufs.

#### Was wir tun

- Nach Ihrem Evaluierungsdatensatz wählen
- Die Bedingungen des Anbieters prüfen
- Kosten und Antwortzeit messen

#### Wie wir es tun

1. Den Evaluierungsdatensatz aufbauen: Echte Beispiele der Aufgabe, gleich bewertet.
2. Anbieter vergleichen: Jedes Modell an Ihrem Datensatz bewertet.
3. Die Bedingungen prüfen: Wohin Ihre Daten gehen und ob sie gespeichert werden dürfen.
4. Messen: Kosten und Antwortzeit bei Ihrem Volumen.

#### Was Sie erhalten

- Ein Vergleich der Anbieter an Ihrem Evaluierungsdatensatz
- Der Integrationscode in Ihrem Repository

#### Stack und Tools

- Model APIs
- Evaluation sets
- Prompt management
- Usage monitoring

#### Verwandte Themen

- [Offene Modelle](https://www.etheon.com/de/services/ai?detail=open-models#open-models)
- [Evaluierung](https://www.etheon.com/de/services/ai?detail=evaluation#evaluation)

### Offene Modelle. Offene Gewichte, betrieben dort, wo Ihre Daten schon liegen.

#### Was es ist

Ein offenes Modell ist ein Modell, dessen Gewichte Sie selbst betreiben, auf Servern oder in einem Cloud-Konto, das Sie kontrollieren. Es passt zu Arbeit, deren Daten in Ihrer Umgebung bleiben müssen. Wir wählen das Modell nach Ihrem Evaluierungsdatensatz, stellen es auf Ihrer Infrastruktur bereit und messen seine Qualität, Kosten und Geschwindigkeit.

#### Was wir tun

- Ein offenes Modell nach Ihrem Evaluierungsdatensatz wählen
- Es auf Infrastruktur bereitstellen, die Sie kontrollieren
- Seine Qualität, Kosten und Geschwindigkeit messen

#### Wie wir es tun

1. Vorauswahl: Offene Modelle, deren Lizenz zu Ihrer Nutzung passt.
2. Bewerten: Jedes an Ihrem Evaluierungsdatensatz.
3. Bereitstellen: Auf Ihren Servern oder in Ihrem Cloud-Konto.
4. Messen: Qualität, Kosten und Antwortzeit unter Last.

#### Was Sie erhalten

- Das Deployment als Code in Ihrem Repository
- Eine Evaluierung der Modelle, die Sie erwogen haben

#### Stack und Tools

- Model serving
- GPU infrastructure
- Evaluation sets
- Monitoring

#### Verwandte Themen

- [Gehostete Modelle](https://www.etheon.com/de/services/ai?detail=hosted-models#hosted-models)
- [Fine-Tuning](https://www.etheon.com/de/services/ai?detail=fine-tuning#fine-tuning)

### Fine-Tuning. Ein Basismodell, an Beispielen Ihrer Aufgabe weitertrainiert.

#### Was es ist

Fine-Tuning trainiert ein Basismodell an Beispielen Ihrer Aufgabe weiter, damit es in Ihrem Format und in Ihrer Domäne antwortet. Es lohnt sich, wenn Prompting allein Ihre Qualitätsschwelle nicht erreicht. Wir bereiten die Beispiele vor, trainieren und bewerten das feinabgestimmte Modell gegen das Basismodell an Ihrem Evaluierungsdatensatz.

#### Was wir tun

- Beispiele Ihrer Aufgabe vorbereiten
- Das Basismodell weitertrainieren
- Es gegen das Basismodell bewerten

#### Wie wir es tun

1. Beispiele sammeln: Gute Beispiele der Aufgabe, von Ihrem Team geprüft.
2. Trainieren: Das Basismodell daran weitertrainiert.
3. Bewerten: Das feinabgestimmte und das Basismodell an Ihrem Evaluierungsdatensatz verglichen.
4. Bereitstellen: Nur, wenn das feinabgestimmte Modell besser abschneidet.

#### Was Sie erhalten

- Die feinabgestimmten Gewichte, auf Ihren Namen, wo die Lizenz des Basismodells es erlaubt

#### Stack und Tools

- Training frameworks
- GPU infrastructure
- Evaluation sets
- Model registries

#### Verwandte Themen

- [Evaluierung](https://www.etheon.com/de/services/ai?detail=evaluation#evaluation)
- [ML-Daten](https://www.etheon.com/de/services/data?detail=ml-data#ml-data)

### Machine Learning. Ein Modell, an Ihren Daten für eine Aufgabe trainiert: eine Prognose, ein Ranking, ein Klassifikator.

#### Was es ist

Machine Learning bedeutet hier ein Modell, das an Ihren Daten für eine eng umrissene Aufgabe trainiert wird: eine Prognose, ein Ranking oder ein Klassifikator. Wir bereiten die Daten vor, trainieren und evaluieren das Modell und stellen es mit den Pipelines bereit, die es aktuell halten, wenn sich Ihre Daten ändern.

#### Was wir tun

- Ihre Daten für eine Aufgabe vorbereiten
- Das Modell trainieren und evaluieren
- Es mit Pipelines bereitstellen, die es aktuell halten

#### Wie wir es tun

1. Die Aufgabe eingrenzen: Was das Modell vorhersagt und wie es beurteilt wird.
2. Die Daten vorbereiten: Gelabelt, bereinigt und für Training und Test aufgeteilt.
3. Trainieren und evaluieren: Kandidaten an Daten verglichen, die sie nicht gesehen haben.
4. Bereitstellen: Mit der Pipeline, die es neu trainiert, wenn sich Ihre Daten ändern.

#### Was Sie erhalten

- Das Modell und sein Trainingscode
- Ein Evaluierungsbericht
- Eine Pipeline für das Neutraining

#### Stack und Tools

- Training frameworks
- Feature stores
- Experiment tracking
- Model registries

#### Verwandte Themen

- [ML-Daten](https://www.etheon.com/de/services/data?detail=ml-data#ml-data)
- [MLOps](https://www.etheon.com/de/services/ai?detail=mlops#mlops)

## Evaluierung: Release-Gates.

Jedes Modell besteht dieselben Prüfungen, bevor es Ihre Nutzer erreicht.

| Gate | Was wir messen | Wie | Schwellenwert | Läuft |
| --- | --- | --- | --- | --- |
| Aufgabenqualität | Richtige Antworten auf Ihrem Testdatensatz | Bewertet an einem gelabelten Datensatz, den Sie freigeben | Mit Ihnen festgelegt | Jeder Build |
| Verankerung | Jede Antwort zitiert Ihre Quellen | Jeder Satz auf eine abgerufene Passage zurückgeführt | Mit Ihnen festgelegt | Jeder Build |
| Sicherheit | Schädliche und regelwidrige Anfragen abgelehnt | Red-Team-Prompts und Jailbreak-Suiten | Mit Ihnen festgelegt | Vor dem Release |
| Datenschutz | Keine personenbezogenen Daten verlassen ihre Grenze | Schwärzung an eingeschleusten Testdatensätzen geprüft | Mit Ihnen festgelegt | Jeder Build |
| Latenz | Schnell genug für die Aufgabe | Antwortzeit unter Last gemessen | Mit Ihnen festgelegt | Vor dem Release |
| Kosten | Bezahlbar bei Ihrem Volumen | Kosten bei Ihrem erwarteten Volumen modelliert | Mit Ihnen festgelegt | Vor dem Release |
| Drift | Auch nächsten Monat noch richtig | Live-Eingaben mit dem Testdatensatz verglichen | Alarmschwelle mit Ihnen festgelegt | In der Produktion |

### Methode: Sicherheit

Eine feste Suite von Angriffs-Prompts, ergänzt um neue, für Ihre Domäne geschriebene, läuft gegen den Release-Kandidaten. Jede unsichere Antwort blockiert das Release und wird im Bericht aufgeführt, den Sie erhalten.

### Evaluierung. Jedes Modell besteht dieselben Gates, bevor es Ihre Nutzer erreicht.

#### Was es ist

Durch Evaluierung verdient sich ein Modell sein Release. Jedes Modell besteht dieselben Gates: Aufgabenqualität auf einem Testdatensatz, den Sie freigeben, Verankerung in Ihren Quellen, Sicherheit gegen Angriffs-Prompts, Datenschutz an eingeschleusten Testdatensätzen, Latenz unter Last, Kosten bei Ihrem Volumen und Drift, sobald es live ist. Die Methode jedes Gates ist schriftlich festgehalten und läuft jedes Mal gleich.

#### Wie wir es tun

1. Den Testdatensatz aufbauen: Gelabelte Beispiele Ihrer Aufgabe, von Ihnen freigegeben.
2. Die Schwellenwerte festlegen: Einer für jedes Gate, mit Ihnen vereinbart, bevor die Arbeit beginnt.
3. Bei jedem Build ausführen: Aufgabenqualität, Verankerung und Datenschutz, während sich der Code ändert.
4. Vor dem Release ausführen: Sicherheit, Latenz und Kosten, am Release-Kandidaten.
5. In der Produktion beobachten: Live-Eingaben mit dem Testdatensatz verglichen, damit Drift erkannt wird.

#### Fragen

**Wie evaluieren Sie ein Modell vor dem Launch?**

Anhand der Release-Gates auf dieser Seite: Aufgabenqualität, Verankerung, Sicherheit, Datenschutz, Latenz, Kosten und Drift. Wir vereinbaren jeden Schwellenwert mit Ihnen, bevor die Arbeit beginnt, und ein Release-Kandidat, der einen verfehlt, wartet, bis er besteht.

#### Was Sie erhalten

- Ein Bericht über das Ergebnis jedes Gates für jeden Release-Kandidaten

#### Verwandte Themen

- [So arbeiten wir](https://www.etheon.com/de/company/how-we-work)
- [QA](https://www.etheon.com/de/services/software?detail=qa#qa)

## Gebaut und im Betrieb.

Ein Produkt unseres eigenen Labs und Agenten, die wir für Kunden gebaut haben.

### Etheon Delta

Unser Lab

Ein Produkt des Etheon Labs.

[Delta entdecken](https://www.etheon.com/de/research#delta)

### Jeriko

Kundenprojekte

Ein Team persönlicher KI-Agenten.

Was es belegt: Agenten, die innerhalb der Berechtigungen handeln, die Sie setzen.

[Jeriko entdecken](https://www.etheon.com/de/work/jeriko)

### Kuest AI

Kundenprojekte

Ein Tutor, der Schritt für Schritt unterrichtet.

Was es belegt: Antworten, verankert in Ihrem eigenen Material.

[Kuest AI entdecken](https://www.etheon.com/de/work/kuest-ai)

## Aus dem Lab. Die Forschung hinter unserer Art, KI zu bauen.

[Alle Forschungsbeiträge ansehen](https://www.etheon.com/de/research/index)

- [Woran das Etheon Lab arbeitet](https://www.etheon.com/de/research/index/what-the-etheon-lab-works-on): Das Etheon Lab untersucht, was KI-Software sicher auslieferbar macht: Evaluierung, Leitplanken, Observability, sichere Releases und Governance.
- [Wie wir ein Modell vor dem Release testen](https://www.etheon.com/de/research/index/how-we-test-a-model-before-release): Jedes Modell, das wir bauen, besteht dieselben Release-Gates, bevor es Nutzer erreicht: Aufgabenqualität, Verankerung, Sicherheit, Datenschutz, Latenz, Kosten und Drift.
- [Zuerst das Harness](https://www.etheon.com/de/research/index/the-harness-comes-first): Ein Agent-Harness ist die Software um ein Modell herum, die entscheidet, was der Agent darf. Wir bauen zuerst das Harness und den Agenten darin.

## Fragen.

Was Auftraggeber vor einem KI-Projekt fragen.

### Wie evaluieren Sie ein Modell vor dem Launch?

Anhand der Release-Gates auf dieser Seite: Aufgabenqualität, Verankerung, Sicherheit, Datenschutz, Latenz, Kosten und Drift. Wir vereinbaren jeden Schwellenwert mit Ihnen, bevor die Arbeit beginnt, und ein Release-Kandidat, der einen verfehlt, wartet, bis er besteht.

### Trainieren Sie Modelle mit unseren Daten?

Wir trainieren nie Modelle mit Ihren Daten ohne Ihr Opt-in. Ihre Daten bleiben von anderen Kunden isoliert.

### Wem gehören der Code und die Modelle?

Ihnen. Der Code, die Modelle und die Konten laufen auf Ihren Namen, und das Repository gehört Ihnen vom ersten Commit an.

### Wie legen Sie den Preis für ein Projekt fest?

Nach Modell der Zusammenarbeit. Wir veröffentlichen keine Preise.

### Welches Modell sollten wir nutzen?

Das Modell, das Ihre Aufgabe am besten erledigt, zu Kosten, die Sie tragen können. Wir bewerten Kandidatenmodelle an Ihrem eigenen Evaluierungsdatensatz und wählen nach Qualität, Kosten und Antwortzeit; die vier Wege unter Modelle vergleichen die Optionen.

- [Daten](https://www.etheon.com/de/services/data): Pipelines, Plattformen und BI
- [Cloud](https://www.etheon.com/de/services/cloud): Cloud, DevOps und SRE