Quay lại Tin tức
Công nghiệpAI Understanding tóm tắt

Các công ty khởi nghiệp AI chuyển sang mô hình nguồn mở để cắt giảm chi phí

Phí API tăng từ OpenAI và Anthropic đang thúc đẩy các công ty khởi nghiệp ứng dụng AI như Harvey và Abridge áp dụng các mô hình trọng lượng mở để lấy lại quyền kiểm soát chi phí và bảo vệ tỷ suất lợi nhuận trước các đợt IPO lớn.

4 min readRead the linked source
Source-provided image accompanying AI startups shift to open-source models to cut costs
Nguồn tham khảoNguồn đã ghi
Nhà xuất bản
eu.36kr.com
Liên kết nguồn
eu.36kr.comhttps://eu.36kr.com/en/p/3993902723201797
Loại nguồn
Nguồn được liên kết - trạng thái nguồn chính chưa được thiết lập.
Bối cảnhHiểu điều này trong 60 giây

Bắt đầu ở đây

Thuật ngữ chính

API (Giao diện lập trình ứng dụng)
Một cách có cấu trúc để một hệ thống phần mềm gửi yêu cầu và nhận phản hồi từ hệ thống khác.
Mô hình nguồn mở
Một mô hình được phát hành với trọng lượng hoặc mã công khai để kiểm tra, điều chỉnh và tái sử dụng.
Tinh chỉnh
Tiếp tục đào tạo về dữ liệu theo miền cụ thể để điều chỉnh mô hình được đào tạo trước cho phù hợp với một nhiệm vụ cụ thể.
Tự kiểm traCâu đố giải thích về mô hình AI

Chuyện gì đã xảy ra

Các công ty khởi nghiệp ứng dụng AI đang ngày càng áp dụng các mô hình trọng lượng mở để giảm thiểu chi phí API ngày càng tăng từ OpenAI và Anthropic. Harvey, một kỳ lân AI hợp pháp, đã chứng kiến ​​tỷ suất lợi nhuận gộp giảm xuống -50% trong tháng 6 do mức sử dụng GPT-4 của OpenAI cao. Để đáp lại, Harvey đã phát hành một mô hình tự sở hữu được hỗ trợ bởi Kimi K3 của Moonshot AI, giúp khôi phục tỷ suất lợi nhuận dương. Các công ty khác, bao gồm Abridge, Decagon và Ramp, cũng đang phát triển hoặc tùy chỉnh các mô hình của riêng họ, trong đó một số công ty đã chuyển tới 80% lưu lượng truy cập sang các hệ thống do chính họ sở hữu. Sự thay đổi này được thúc đẩy bởi các chiến lược định giá tích cực từ các nhà cung cấp mô hình và hiệu suất cải thiện của các lựa chọn thay thế nguồn mở.

Harvey, một công ty khởi nghiệp AI hợp pháp trị giá 15,6 tỷ USD, đã có tỷ suất lợi nhuận gộp giảm đáng kể từ 50% xuống -50% trong tháng 6 do chi phí API cao từ GPT-4 của OpenAI. Để giải quyết vấn đề này, Harvey đã phát hành một mô hình do chính họ sở hữu vào tháng 8, được hỗ trợ bởi Kimi K3 của Moonshot AI, mang lại hiệu suất gần bằng các sản phẩm tốt nhất của Anthropic với chi phí thấp, khôi phục tỷ suất lợi nhuận dương.

Xu hướng này đang lan rộng trên nhiều ngành công nghiệp. Abridge đang xây dựng một mô hình nền tảng cho các tình huống lâm sàng bằng mô hình nguồn mở của NVIDIA, trong khi Decagon xử lý 80% yêu cầu truy vấn bằng mô hình do chính mình sở hữu. Trong lĩnh vực fintech, Ramp và Rogo đang khám phá khả năng tự đào tạo và trong các công cụ lập trình, Cursor và Cognition đã phát hành các mô hình tùy chỉnh.

OpenAI và Anthropic đã chuyển sang tính phí nhiều hơn cho người dùng doanh nghiệp khi sử dụng mô hình, trừng phạt các xu hướng 'tối đa hóa mã thông báo' khối lượng lớn. Ngoài ra, cả hai công ty đều đang tuyển dụng nhân tài trong các lĩnh vực cốt lõi của công ty khởi nghiệp và tung ra các plugin dành riêng cho ngành, tạo ra sự cạnh tranh trực tiếp với khách hàng của họ. Nguy cơ đình chỉ quyền truy cập, như đã thấy với Cursor sau khi được SpaceX mua lại, càng khuyến khích các công ty khởi nghiệp tìm kiếm sự độc lập về mô hình.

Bất chấp sự thay đổi, hầu hết các công ty khởi nghiệp không mong đợi từ bỏ hoàn toàn OpenAI và Anthropic. Harvey vẫn dựa vào Claude Opus của Anthropic cho các tác vụ phức tạp, cho thấy chiến lược sử dụng hỗn hợp. Những thách thức vẫn còn, bao gồm chi phí nhân tài cao cho các kỹ sư tinh chỉnh, nhu cầu về dữ liệu độc quyền và chi phí cơ sở hạ tầng đáng kể để quản lý các mô hình trọng lượng mở.

Chi tiết nguồn: eu.36kr.com

Tại sao nó quan trọng

Xu hướng này báo hiệu sự thay đổi cấu trúc trong động lực chi phí của ngành AI, khi các công ty lớp ứng dụng tìm cách giảm sự phụ thuộc vào các API độc quyền đắt tiền. Đối với OpenAI và Anthropic, đang chuẩn bị IPO, dòng khách hàng doanh nghiệp đổ sang các mẫu xe có trọng lượng mở có thể làm xói mòn dòng doanh thu chính của họ. Động thái này cũng nêu bật khả năng tồn tại ngày càng tăng của các mô hình nguồn mở như một giải pháp thay thế hiệu quả về mặt chi phí, có khả năng định hình lại bối cảnh cạnh tranh và buộc các nhà cung cấp mô hình phải điều chỉnh chiến lược kinh doanh và giá cả của họ để giữ chân khách hàng doanh nghiệp.

Việc các công ty khởi nghiệp AI lớn áp dụng các mô hình trọng lượng mở là một biện pháp tiết kiệm chi phí đáng kể có thể thay đổi động lực doanh thu cho OpenAI và Anthropic, đặc biệt là khi họ chuẩn bị IPO. Sự thay đổi này có thể buộc các nhà cung cấp mô hình phải xem xét lại chiến lược định giá và dịch vụ doanh nghiệp của họ để duy trì lòng trung thành của khách hàng.

Hiệu suất được cải thiện của các mô hình nguồn mở, chẳng hạn như Kimi K3 của Moonshot AI, đang khiến chúng trở thành một giải pháp thay thế khả thi cho các API độc quyền trong nhiều trường hợp sử dụng. Sự phát triển này có thể đẩy nhanh quá trình dân chủ hóa các khả năng AI và giảm bớt rào cản gia nhập các ứng dụng AI mới, thúc đẩy sự đổi mới trong các lĩnh vực như pháp lý, y tế và tài chính.

Xu hướng này cũng nhấn mạnh tầm quan trọng ngày càng tăng của dữ liệu và cơ sở hạ tầng trong phát triển AI. Các công ty khởi nghiệp phải đầu tư vào dữ liệu độc quyền và tài nguyên điện toán để đào tạo các mô hình hiệu quả, điều này có thể tạo ra cơ hội mới cho các nhà cung cấp dữ liệu và các công ty cơ sở hạ tầng đám mây, đồng thời đặt ra thách thức cho các công ty nhỏ hơn với nguồn lực hạn chế.

Interactive Mechanism

Cơ chế tương tác: Nó thực sự hoạt động như thế nào

Khám phá công nghệ cơ bản đằng sau sự phát triển này một cách tương tác.

Model Parameter Size:8B Parameters
VRAM Required5.5 GBGPU memory footprint
Target HardwareMacBook / Single GPUDeployment tier
Privacy100% Air-GappedLocal device capability
Core takeaway: Small, quantized models (3B–8B) now run directly inside smartphones and laptops with complete data privacy, while mammoth 400B+ models remain the domain of datacenter clusters.
Kiểm tra khái niệm tương tác+10 Points
AI Models Explained Quiz

In AI, what are a model's "parameters"?

Xem gì tiếp theo

Theo dõi hiệu suất tài chính của OpenAI và Anthropic khi họ tiến hành IPO, đặc biệt là mọi thay đổi về giá API hoặc chiến lược duy trì doanh nghiệp. Theo dõi tỷ lệ áp dụng các mô hình trọng lượng mở trong số các công ty khởi nghiệp ứng dụng AI lớn và sự phát triển của các mô hình tự sở hữu mới trong các lĩnh vực như chăm sóc sức khỏe, tài chính và dịch vụ pháp lý. Ngoài ra, hãy quan sát tác động của chi phí nhân tài và cơ sở hạ tầng đến tính khả thi của các mô hình tự đào tạo cho các công ty khởi nghiệp nhỏ hơn.

Theo dõi mọi thay đổi về giá API hoặc hợp đồng doanh nghiệp của OpenAI và Anthropic để đáp ứng với việc áp dụng ngày càng nhiều các mô hình trọng lượng mở. Khả năng giữ chân khách hàng doanh nghiệp của họ sẽ rất quan trọng đối với việc định giá IPO và tính bền vững lâu dài của họ.

Giám sát hiệu suất và việc áp dụng các mô hình tự sở hữu mới từ các công ty khởi nghiệp như Harvey, Abridge và Decagon. Thành công trong các lĩnh vực này có thể xác thực cách tiếp cận nguồn mở và khuyến khích việc di chuyển xa hơn khỏi các API độc quyền.

Quan sát tác động của nhân tài và chi phí cơ sở hạ tầng đến tính khả thi của các mô hình tự đào tạo. Nếu những rào cản này vẫn còn cao, các công ty khởi nghiệp nhỏ hơn có thể tiếp tục dựa vào sự kết hợp giữa các mô hình nguồn mở và nguồn đóng, trong khi các công ty lớn hơn có thể cam kết hoàn toàn với các giải pháp tự sở hữu.

Hướng dẫn và câu hỏi liên quan

Giải thích về mô hình AIĐạo đức AITương lai của AIKiểm tra những gì bạn biết — thử một bài kiểm tra AI miễn phíTra cứu một thuật ngữ AI trong bảng thuật ngữ của chúng tôi
Tìm thấy điều này hữu ích?