Welches KI-Modell sollten wir nutzen?
Das Modell, das Ihre Aufgabe am besten erledigt, zu Kosten, die Sie tragen können. Wir bewerten Kandidatenmodelle an Ihrem Evaluierungsdatensatz und wählen nach Qualität, Kosten und Antwortzeit.
- Publikation
Auf dieser Seite
Das Modell, das Ihre Aufgabe am besten erledigt, zu Kosten, die Sie tragen können. Wir bewerten Kandidatenmodelle an Ihrem eigenen Evaluierungsdatensatz und wählen nach Qualität, Kosten und Antwortzeit. Es gibt vier Wege, ein Modell zum Einsatz zu bringen, und jeder verlangt etwas anderes von Ihnen.
1. Was sind die vier Wege, ein Modell zum Einsatz zu bringen?
Das gehostete Modell eines Anbieters nutzen, ein offenes Modell betreiben, ein Modell feinabstimmen oder ein eigenes trainieren.
Weg | Was es ist | Was Sie brauchen | Was Ihnen gehört | Wann es passt |
|---|---|---|---|---|
Ein gehostetes Modell nutzen | Das Modell eines Anbieters, genutzt über seine API. | Ein Konto beim Anbieter und Bedingungen, die zu Ihren Daten passen. | Ihre Prompts, Ihr Evaluierungsdatensatz und der Code um das Modell herum. | Wenn ein allgemeines Modell die Aufgabe schon gut genug erledigt. |
Ein offenes Modell betreiben | Offene Gewichte auf Infrastruktur, die Sie kontrollieren. | Server oder ein Cloud-Konto mit geeigneter Hardware. | Das Deployment und wohin Ihre Daten gehen. | Wenn Ihre Daten in Ihrer eigenen Umgebung bleiben müssen. |
Ein Modell feinabstimmen | Ein Basismodell, an Ihren Beispielen weitertrainiert. | Gute Beispiele der Aufgabe und eine Möglichkeit, sie zu bewerten. | Die feinabgestimmten Gewichte, wo die Lizenz des Basismodells es erlaubt. | Wenn Prompting allein Ihre Qualitätsschwelle nicht erreicht. |
Ein eigenes Modell trainieren | Ein Modell, an Ihren Daten für eine Aufgabe trainiert, etwa eine Prognose oder ein Klassifikator. | Genug gelabelte Daten für die Aufgabe. | Das Modell und sein Trainingscode. | Wenn die Aufgabe eng umrissen ist und die Daten Ihnen gehören. |
2. Wie wählen wir zwischen gehosteten Modellen?
Indem wir sie an Ihrem eigenen Evaluierungsdatensatz bewerten. Ein gehostetes Modell ist das Modell eines Anbieters, das Sie über seine API nutzen, ohne eigene Server zu betreiben. Wir prüfen die Bedingungen jedes Anbieters gegen Ihre Daten und messen Kosten und Antwortzeit jedes Aufrufs.
- Den Evaluierungsdatensatz aufbauen: echte Beispiele der Aufgabe, gleich bewertet.
- Anbieter vergleichen: jedes Modell an Ihrem Datensatz bewertet.
- Die Bedingungen prüfen: wohin Ihre Daten gehen und ob sie gespeichert werden dürfen.
- Messen: Kosten und Antwortzeit bei Ihrem Volumen.
Sie erhalten einen Vergleich der Anbieter an Ihrem Evaluierungsdatensatz und den Integrationscode in Ihrem Repository.
3. Wann sollte das Modell in Ihrer eigenen Umgebung laufen?
Wenn Ihre Daten dort bleiben müssen. Ein offenes Modell ist ein Modell, dessen Gewichte Sie selbst betreiben, auf Servern oder in einem Cloud-Konto, das Sie kontrollieren. Wir wählen das Modell nach Ihrem Evaluierungsdatensatz, stellen es auf Ihrer Infrastruktur bereit und messen seine Qualität, Kosten und Geschwindigkeit.
- Vorauswahl: offene Modelle, deren Lizenz zu Ihrer Nutzung passt.
- Bewerten: jedes an Ihrem Evaluierungsdatensatz.
- Bereitstellen: auf Ihren Servern oder in Ihrem Cloud-Konto.
- Messen: Qualität, Kosten und Antwortzeit unter Last.
Sie erhalten das Deployment als Code in Ihrem Repository und eine Evaluierung der Modelle, die Sie erwogen haben.
4. Wann lohnt sich das Fine-Tuning eines LLM?
Wenn Prompting allein Ihre Qualitätsschwelle nicht erreicht. Fine-Tuning trainiert ein Basismodell an Beispielen Ihrer Aufgabe weiter, damit es in Ihrem Format und in Ihrer Domäne antwortet.
- Beispiele sammeln: gute Beispiele der Aufgabe, von Ihrem Team geprüft.
- Trainieren: das Basismodell daran weitertrainiert.
- Bewerten: das feinabgestimmte und das Basismodell an Ihrem Evaluierungsdatensatz verglichen.
- Bereitstellen: nur, wenn das feinabgestimmte Modell besser abschneidet.
Sie erhalten die feinabgestimmten Gewichte, auf Ihren Namen, wo die Lizenz des Basismodells es erlaubt.
5. Wann ist ein eigenes Modell sinnvoll?
Wenn die Aufgabe eng umrissen ist und die Daten Ihnen gehören: eine Prognose, ein Ranking oder ein Klassifikator. Wir bereiten die Daten vor, trainieren und evaluieren das Modell und stellen es mit den Pipelines bereit, die es aktuell halten, wenn sich Ihre Daten ändern.
- Die Aufgabe eingrenzen: was das Modell vorhersagt und wie es beurteilt wird.
- Die Daten vorbereiten: gelabelt, bereinigt und für Training und Test aufgeteilt.
- Trainieren und evaluieren: Kandidaten an Daten verglichen, die sie nicht gesehen haben.
- Bereitstellen: mit der Pipeline, die es neu trainiert, wenn sich Ihre Daten ändern.
Sie erhalten das Modell und seinen Trainingscode, einen Evaluierungsbericht und eine Pipeline für das Neutraining.
6. Was haben die vier Wege gemeinsam?
Den Evaluierungsdatensatz und die Release-Gates. Welcher Weg es auch ist, jedes Modell besteht dieselben Gates, bevor es Ihre Nutzer erreicht: Aufgabenqualität, Verankerung, Sicherheit, Datenschutz, Latenz, Kosten und Drift. Wir vereinbaren jeden Schwellenwert mit Ihnen, bevor die Arbeit beginnt, und ein Release-Kandidat, der einen verfehlt, wartet, bis er besteht. Unsere Forschungsnotiz Wie wir ein Modell vor dem Release testen erklärt jedes Gate.
7. Trainieren Sie Modelle mit unseren Daten?
Wir trainieren nie Modelle mit Ihren Daten ohne Ihr Opt-in. Ihre Daten bleiben von anderen Kunden isoliert.
8. Wem gehören der Code und die Modelle?
Ihnen. Der Code, die Modelle und die Konten laufen auf Ihren Namen, und das Repository gehört Ihnen vom ersten Commit an.
Die vier Wege sind dargestellt auf unserer KI-Seite unter Modelle, mit den Release-Gates daneben. Nennen Sie uns Ihren Anwendungsfall und Ihren Zeitplan. Wir antworten innerhalb eines Werktags.
Verwandte Forschung. Mehr aus unserem Lab zu KI.
Wie wir einen KI-Agenten bauen, in fünf Schritten
Ein Agent ist Software, die in Ihren Systemen handelt. Wir bauen ihn in fünf Schritten, innerhalb von Grenzen außerhalb des Modells, mit einem Menschen, wo es darauf ankommt.
Woran das Etheon Lab arbeitet
Das Etheon Lab untersucht, was KI-Software sicher auslieferbar macht: Evaluierung, Leitplanken, Observability, sichere Releases und Governance.
Wie wir ein Modell vor dem Release testen
Jedes Modell, das wir bauen, besteht dieselben Release-Gates, bevor es Nutzer erreicht: Aufgabenqualität, Verankerung, Sicherheit, Datenschutz, Latenz, Kosten und Drift.