Apa yang berlaku
Google mengumumkan bahawa SDK Antigraviti kini menyokong pelaksanaan model AI tempatan, membolehkan pembangun membina aplikasi agen yang berjalan sepenuhnya di luar talian. Kemas kini ini menampilkan sokongan awal untuk model Gemma 4 26B A4B menggunakan masa jalan LiteRT Google AI Edge. Ini membolehkan penggunaan sumber GPU dan RAM tempatan untuk tugas agen, seperti pengauditan kod dan penjanaan utiliti, tanpa bergantung pada sambungan awan. SDK juga termasuk sokongan pasang dan main untuk pelayan tempatan yang serasi dengan OpenAI seperti Ollama, LM Studio dan vLLM.
Google telah memperkenalkan sokongan untuk model AI tempatan dalam SDK Antigraviti, alat yang membolehkan pembangun membina aplikasi dengan keupayaan agen yang sama yang memperkasakan Antigraviti Google. Kemas kini ini membolehkan pelaksanaan aliran kerja agenik sepenuhnya di luar talian, menggunakan sumber perkakasan tempatan seperti GPU dan RAM.
Pelaksanaan awal menampilkan sokongan untuk model Gemma 4 26B A4B, dioptimumkan untuk masa jalan LiteRT Google AI Edge. Google menyatakan bahawa pengoptimuman ini dengan cekap memanfaatkan keupayaan mesin tempatan untuk meningkatkan apa yang boleh dihantar pada peranti. Pengumuman itu termasuk contoh skrip Python, agy_sample.py, untuk membantu pembangun bermula dengan aliran kerja setempat ini.
SDK juga menyediakan sokongan yang lancar untuk mana-mana pelayan yang serasi dengan OpenAI, termasuk Ollama, LM Studio dan vLLM, melalui LocalOpenAIAgentConfig. Fleksibiliti ini membolehkan pembangun mencuba dengan hujung belakang inferens tempatan yang berbeza sambil mengekalkan orkestrasi ejen, alatan dan aliran kerja yang konsisten.
Google menunjukkan utiliti persediaan ini melalui demo hibrid di mana model arkitek berasaskan awan (Gemini 3.8 Flash) bertindak sebagai perancang, manakala segerombolan kejadian Gemma 4 26B tempatan mengendalikan tugas pengauditan dan menampal kod. Contoh lain menunjukkan ejen tempatan secara autonomi membina pemantau sumber terminal pengemaskinian langsung menggunakan perpustakaan Python seperti psutil dan kaya, semuanya tanpa akses internet.
Butiran sumber: developers.googleblog.com ↗
Mengapa ia penting
Kemas kini ini merendahkan halangan untuk pembangun untuk menggunakan ejen AI dalam persekitaran yang privasi data, kependaman atau sambungan internet merupakan kekangan kritikal. Dengan menyokong pelaksanaan tempatan, SDK membenarkan seni bina hibrid yang mana model awan mengendalikan perancangan peringkat tinggi manakala model tempatan melakukan pengangkatan pengiraan berat pada peranti. Pendekatan ini boleh mengurangkan kos token dan memastikan data sensitif kekal pada mesin pengguna. Pengoptimuman khusus untuk LiteRT dan Gemma 4 26B menyediakan laluan konkrit yang diuji untuk pembangunan AI tepi, bergerak melangkaui konsep AI tempatan secara teori kepada alatan bersepadu yang praktikal dalam ekosistem pembangun syarikat teknologi utama.
Keupayaan untuk menjalankan AI agenik secara tempatan menangani kebimbangan penting mengenai privasi dan keselamatan data, kerana kod dan data sensitif tidak perlu dihantar ke pelayan awan luaran. Ini amat relevan untuk persekitaran perusahaan atau pembangun individu yang bekerja dengan maklumat proprietari atau sulit.
Dengan menyokong corak Arkitek-Pembina hibrid, SDK menawarkan penyelesaian praktikal untuk mengimbangi skala model awan dengan privasi dan kecekapan kos model tempatan. Seni bina ini membolehkan tugas perancangan yang kompleks dikendalikan oleh model awan yang berkuasa manakala tugas rutin atau tugas berat dilaksanakan secara tempatan, mengoptimumkan penggunaan token dan mengurangkan kependaman.
Pengesyoran khusus untuk perkakasan dengan lebih 24GB VRAM atau memori bersatu menetapkan garis dasar teknikal yang jelas untuk pengguna. Walaupun ini mengehadkan kebolehcapaian segera kepada mesin mewah, ia menyediakan sasaran konkrit untuk pembangun dan pengeluar perkakasan yang bertujuan untuk menyokong beban kerja AI tempatan yang maju.
Penyepaduan LiteRT dan sokongan untuk pelayan inferens tempatan standard seperti Ollama dan vLLM mengurangkan geseran untuk pembangun yang sudah biasa dengan alatan ini. Penyeragaman ini membantu menyatukan landskap berpecah-belah pembangunan AI tempatan, menawarkan antara muka bersatu untuk orkestrasi ejen tanpa mengira bahagian belakang model tempatan yang mendasari.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
crm_get_transaction(id='4092').What most distinguishes an AI agent from a basic chatbot?
Apa yang perlu ditonton seterusnya
Pembangun harus memantau repositori Antigravity Python SDK GitHub untuk kemas kini pada konfigurasi model tempatan dan penanda aras prestasi. Daya maju praktikal keperluan perkakasan yang disyorkan, khususnya mesin dengan lebih 24GB VRAM atau memori bersatu, akan menentukan kebolehcapaian ciri ini untuk pangkalan pembangun yang lebih luas. Selain itu, penggunaan corak Arkitek-Pembina, yang menggabungkan perancangan awan dengan pelaksanaan tempatan, mungkin mempengaruhi cara sistem AI hibrid direka dalam aplikasi perusahaan dan pengguna.
Prestasi dan kestabilan model Gemma 4 26B A4B apabila dijalankan pada perkakasan gred pengguna dengan 24GB+ VRAM yang disyorkan akan menjadi penunjuk utama utiliti praktikal ciri tersebut. Pengguna awal mungkin melaporkan kependaman, pengurusan ingatan dan kualiti keluaran agen dalam senario dunia sebenar.
Evolusi sokongan SDK Antigraviti untuk model tempatan lain dan bahagian belakang inferens akan menentukan perkaitan jangka panjangnya. Jika Google mengembangkan sokongan kepada model yang lebih kecil atau lebih cekap, keperluan perkakasan mungkin berkurangan, meluaskan pangkalan pengguna yang berpotensi.
Penggunaan aliran kerja tempatan awan hibrid dalam tetapan perusahaan akan menjadi trend penting untuk dipantau. Jika corak ini terbukti berkesan untuk mengekalkan privasi data sambil memanfaatkan kecerdasan awan, ia boleh menjadi seni bina standard untuk alat pembangunan dipacu AI.
Maklum balas komuniti tentang Antigravity Python SDK GitHub Issue Tracker akan memberikan cerapan tentang cabaran dan permintaan ciri biasa. Gelung maklum balas ini adalah penting untuk memahami had dunia sebenar pelaksanaan semasa dan membimbing kemas kini masa hadapan.