Zurück zu den Neuigkeiten
IndustrieAI Understanding Briefing

KI-Startups wechseln zu Open-Source-Modellen, um Kosten zu senken

Steigende API-Gebühren von OpenAI und Anthropic veranlassen KI-Anwendungs-Startups wie Harvey und Abridge dazu, Open-Weight-Modelle einzuführen, um die Kostenkontrolle zurückzugewinnen und die Margen vor großen Börsengängen zu schützen.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
QuellenangabeQuelle aufgezeichnet
Herausgeber
eu.36kr.com
Quelllink
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Quelltyp
Verknüpfte Quelle – Der Status der Primärquelle wurde nicht festgelegt.
KontextVerstehen Sie dies in 60 Sekunden

Beginnen Sie hier

Schlüsselbegriffe

API (Anwendungsprogrammierschnittstelle)
Eine strukturierte Möglichkeit für ein Softwaresystem, Anfragen an ein anderes System zu senden und Antworten von diesem zu empfangen.
Open-Source-Modell
Ein Modell, das mit öffentlichen Gewichten oder Code zur Überprüfung, Anpassung und Wiederverwendung freigegeben wird.
Feinabstimmung
Fortgesetztes Training zu domänenspezifischen Daten, um ein vorab trainiertes Modell an eine bestimmte Aufgabe anzupassen.
Testen Sie sich selbstKI-Modelle erklärt Quiz

Was ist passiert?

Startups von KI-Anwendungen übernehmen zunehmend offene Modelle, um die steigenden API-Kosten von OpenAI und Anthropic abzumildern. Harvey, ein legales KI-Einhorn, verzeichnete im Juni aufgrund der hohen Nutzung von GPT-4 von OpenAI einen Rückgang seiner Bruttomarge auf -50 %. Als Reaktion darauf veröffentlichte Harvey ein eigenes Modell, das von Kimi K3 von Moonshot AI unterstützt wurde und wieder positive Margen erzielte. Andere Unternehmen, darunter Abridge, Decagon und Ramp, entwickeln oder passen ebenfalls ihre eigenen Modelle an, wobei einige bis zu 80 % des Datenverkehrs auf eigene Systeme migrieren. Diese Verschiebung wird durch aggressive Preisstrategien von Modellanbietern und die verbesserte Leistung von Open-Source-Alternativen vorangetrieben.

Harvey, ein legales KI-Startup mit einem Wert von 15,6 Milliarden US-Dollar, verzeichnete im Juni aufgrund der hohen API-Kosten von OpenAIs GPT-4 einen deutlichen Rückgang der Bruttomarge von 50 % auf -50 %. Um dieses Problem anzugehen, veröffentlichte Harvey im August ein eigenes Modell, das von Kimi K3 von Moonshot AI unterstützt wird und eine Leistung bietet, die den besten Produkten von Anthropic nahekommt, und das zu einem Bruchteil der Kosten, wodurch positive Margen wiederhergestellt werden.

Der Trend breitet sich über mehrere Branchen aus. Abridge erstellt mithilfe des Open-Source-Modells von NVIDIA ein grundlegendes Modell für klinische Szenarien, während Decagon 80 % seiner Abfrageanfragen mit seinem eigenen Modell verarbeitet. Im Fintech-Bereich erforschen Ramp und Rogo Selbsttraining, und im Bereich Programmiertools haben Cursor und Cognition maßgeschneiderte Modelle veröffentlicht.

OpenAI und Anthropic sind dazu übergegangen, Unternehmensbenutzern zusätzliche Gebühren für die Modellnutzung in Rechnung zu stellen und damit großvolumige „Token-Maximierungsmuster“ zu bestrafen. Darüber hinaus rekrutieren beide Unternehmen Talente in Start-up-Kernbereichen und führen branchenspezifische Plugins ein, um so einen direkten Wettbewerb mit ihren Kunden zu schaffen. Das Risiko einer Zugangssperre, wie es bei Cursor nach der Übernahme durch SpaceX zu beobachten war, ist ein weiterer Anreiz für Startups, nach Modellunabhängigkeit zu streben.

Trotz der Verschiebung rechnen die meisten Startups nicht damit, OpenAI und Anthropic vollständig aufzugeben. Für komplexe Aufgaben verlässt sich Harvey immer noch auf das Claude Opus von Anthropic, was auf eine gemischte Nutzungsstrategie hinweist. Es bleiben Herausforderungen bestehen, darunter hohe Talentkosten für Feinabstimmungsingenieure, der Bedarf an proprietären Daten und erhebliche Infrastrukturkosten für die Verwaltung offener Modelle.

Quellenangaben: eu.36kr.com

Warum es wichtig ist

Dieser Trend signalisiert einen strukturellen Wandel in der Kostendynamik der KI-Branche, da Unternehmen auf Anwendungsebene versuchen, die Abhängigkeit von teuren proprietären APIs zu verringern. Für OpenAI und Anthropic, die sich auf Börsengänge vorbereiten, könnte die Abwanderung von Unternehmenskunden zu Open-Weight-Modellen ihre primären Einnahmequellen untergraben. Der Schritt unterstreicht auch die zunehmende Brauchbarkeit von Open-Source-Modellen als kostengünstige Alternative, die möglicherweise die Wettbewerbslandschaft verändern und Modellanbieter dazu zwingen, ihre Preis- und Geschäftsstrategien anzupassen, um Unternehmenskunden zu binden.

Die Einführung offener Modelle durch große KI-Startups stellt eine erhebliche Kosteneinsparungsmaßnahme dar, die die Umsatzdynamik von OpenAI und Anthropic verändern könnte, insbesondere während sie sich auf Börsengänge vorbereiten. Dieser Wandel könnte Modellanbieter dazu zwingen, ihre Preisstrategien und Unternehmensangebote zu überdenken, um die Kundenbindung aufrechtzuerhalten.

Die verbesserte Leistung von Open-Source-Modellen wie Kimi K3 von Moonshot AI macht sie für viele Anwendungsfälle zu einer praktikablen Alternative zu proprietären APIs. Diese Entwicklung könnte die Demokratisierung der KI-Fähigkeiten beschleunigen und die Eintrittsbarriere für neue KI-Anwendungen verringern, wodurch Innovationen in Bereichen wie Recht, Gesundheitswesen und Finanzen gefördert werden.

Der Trend verdeutlicht auch die wachsende Bedeutung von Daten und Infrastruktur in der KI-Entwicklung. Startups müssen in proprietäre Daten- und Rechenressourcen investieren, um effektive Modelle zu trainieren. Dies könnte neue Möglichkeiten für Datenanbieter und Cloud-Infrastrukturunternehmen schaffen, während es kleinere Unternehmen mit begrenzten Ressourcen vor Herausforderungen stellt.

Interactive Mechanism

Interaktiver Mechanismus: Wie es tatsächlich funktioniert

Entdecken Sie interaktiv die zugrunde liegende Technologie, die dieser Entwicklung zugrunde liegt.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3B–8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
Interaktiver Konzeptcheck+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Was Sie als nächstes sehen sollten

Überwachen Sie die finanzielle Leistung von OpenAI und Anthropic, während sie sich ihren Börsengängen nähern, insbesondere etwaige Änderungen der API-Preise oder der Unternehmensbindungsstrategien. Verfolgen Sie die Akzeptanzraten offener Modelle bei großen KI-Anwendungs-Startups und die Entwicklung neuer eigenständiger Modelle in Sektoren wie Gesundheitswesen, Finanzen und Rechtsdienstleistungen. Beobachten Sie außerdem die Auswirkungen von Talent- und Infrastrukturkosten auf die Machbarkeit von Selbstschulungsmodellen für kleinere Startups.

Achten Sie auf Änderungen in den API-Preisen oder Unternehmensverträgen von OpenAI und Anthropic als Reaktion auf die zunehmende Einführung von Open-Weight-Modellen. Ihre Fähigkeit, Unternehmenskunden zu binden, wird für die Bewertung ihres Börsengangs und ihre langfristige Nachhaltigkeit von entscheidender Bedeutung sein.

Überwachen Sie die Leistung und Akzeptanz neuer Eigenmodelle von Startups wie Harvey, Abridge und Decagon. Ein Erfolg in diesen Bereichen könnte den Open-Source-Ansatz bestätigen und eine weitere Abkehr von proprietären APIs fördern.

Beobachten Sie die Auswirkungen von Talent- und Infrastrukturkosten auf die Machbarkeit von Selbstschulungsmodellen. Wenn diese Hürden weiterhin hoch bleiben, könnten kleinere Start-ups weiterhin auf eine Mischung aus Open- und Closed-Source-Modellen setzen, während größere Unternehmen sich möglicherweise vollständig auf eigene Lösungen konzentrieren.

Verwandte Leitfäden und Quizze

KI-Modelle erklärtKI-EthikZukunft der KITesten Sie, was Sie wissen – probieren Sie ein kostenloses KI-Quiz ausSuchen Sie in unserem Glossar nach einem KI-Begriff
Fanden Sie das nützlich?