Wenn KI nicht textet, sondern entscheidet: Jev und seine neuen Konkurrenten

Ein KI-Agent muss nicht bei jeder Weichenstellung einen Absatz formulieren. Soll er ein Werkzeug aufrufen, eine Anfrage an ein Team weiterleiten oder eine Aktion freigeben, kann ein Entscheidungsmodell direkt aus einer vorgegebenen Auswahl wählen – und dazu einen Score oder eine Wahrscheinlichkeit liefern. Das kann solche Schritte beschleunigen. Eine hohe Konfidenz ist aber keine Garantie, dass die Entscheidung richtig ist. 1112

Vier Ansätze im Vergleich

• TypeSafe AI: Jev. Das gehostete Modell ist auf strukturierte Entscheidungen ausgelegt und gibt typisierte Antworten, Scores und Wahrscheinlichkeiten zurück. Für die Latenz werden etwa 70 bis 500 Millisekunden angegeben. Der veröffentlichte Preis liegt bei 0,042 US-Dollar pro Million Eingabetokens; für Ausgabetokens wird nichts berechnet. Jev kann etwa für Routing und andere häufige Entscheidungen in Anwendungen eingesetzt werden. TypeSafe hat seine Architektur nicht ausreichend offengelegt und keine Modellgewichte veröffentlicht, um den behaupteten Leistungsvorsprung unabhängig nachvollziehen zu können. Die stärksten Kosten- und Leistungsvergleiche stammen weiterhin vom Unternehmen selbst. 3567

• OpenAI: Decisions API. Entwickler können Text oder Bilder als Kontext sowie Fragen und eine begrenzte Auswahl möglicher Antworten übergeben. Die API ist für Aufgaben wie Klassifizierung, Routing und die Auswahl des nächsten Agentenschritts gedacht. Sie befindet sich in einer begrenzten Vorschau. Berichte zum Start nennen rund 150 Millisekunden pro Entscheidung; einen direkt vergleichbaren Benchmark mit Jev und einen Preis hat OpenAI bislang nicht veröffentlicht. 1234

• AWS: Strands Decider 2B. Das Open-Source-Modell hat rund zwei Milliarden Parameter und ist auf Entscheidungen innerhalb vorgegebener Optionen, Ja/Nein-Wahrscheinlichkeiten und Scores ausgelegt. Entwickler können es lokal ausführen und die veröffentlichte Trainingsmethode einsehen. Das macht es interessant für Experimente, Anpassungen und Umgebungen, die nicht von einer gehosteten Entscheidungs-API abhängen sollen. Die berichtete mediane Latenz von etwa 106 bis 115 Millisekunden hängt von Hardware und Testbedingungen ab. Die Modellgewichte sind kostenlos – die nötige Rechenleistung nicht. 1181

• Cloudflare: Clef und Clef-flash. Die Modelle mit offenen Gewichten lassen sich selbst betreiben oder über Workers AI nutzen. Clef zielt auf leistungsfähigere Entscheidungen, Clef-flash auf geringere Latenz. Für den gehosteten Dienst werden 0,24 beziehungsweise 0,09 US-Dollar pro Million Eingabetokens genannt. Von Cloudflare verknüpfte Vergleiche geben für Clef-flash eine mediane Latenz von ungefähr 39 Millisekunden an. Das ist kein direkter Vergleich unter identischen Bedingungen mit Jev. 135

Was das für TypeSafe AI bedeutet

Die neuen Angebote bestätigen, dass es Bedarf an Modellen gibt, die innerhalb von Agenten schnelle, begrenzte Entscheidungen treffen. Zugleich wird Jev weniger alleinstehend: OpenAI bietet einen gehosteten Weg, AWS und Cloudflare stellen offene Alternativen bereit, und Cloudflare bietet sein Modell zusätzlich gehostet an.

Für TypeSafe zählt deshalb nicht nur ein besonders niedriger Latenzwert oder der Anspruch, zuerst am Markt gewesen zu sein. Das Unternehmen muss zeigen, dass Jev bei den tatsächlichen Aufgaben seiner Kunden eine bessere Kombination aus Entscheidungsqualität und Gesamtkosten liefert. Für TypeSafe AI werden 40 Millionen US-Dollar Finanzierung berichtet. Eine verlässliche Unternehmensbewertung lässt sich anhand der hier verfügbaren Belege jedoch nicht angeben; ebenso wenig ist unabhängig belegt, dass Jevs behaupteter Leistungsvorsprung in einem fairen, gleichartigen Test bestehen bleibt. 41115