Agentic Cloud

Alibaba Cloud memperkenalkan serangkaian pembaruan menyeluruh dalam strategi agentic cloud yang berfokus pada tiga aspek utama: model, harness (lingkungan pendukung operasional agen), serta konteks. Pembaruan ini mencakup tiga lapisan yang saling melengkapi. AI Native Cloud mendukung pelatihan dan inferensi model dalam skala besar. Agent Native Cloud menyediakan lingkungan untuk penerapan, pengoperasian, dan keamanan agen dengan standar enterprise. Sementara itu, Context Engine menyediakan data real-time dan memori jangka panjang. Ketiganya membantu pelanggan menciptakan nilai nyata melalui AI dalam skala besar.

AI Native Cloud

Platform for AI (PAI) dari Alibaba Cloud telah mengintegrasikan optimalisasi yang menyelaraskan layanan inferensi, caching, pemutaran ulang sampel, dan pelatihan. Dalam penerapan nyata pada pascapelatihan model Qwen, PAI menyelesaikan pelatihan model mutakhir hanya dalam lima hari, memperluas kapabilitasnya dari prapelatihan menuju pembelajaran penguatan untuk agen AI atau Agentic Reinforcement Learning (Agentic RL).

Baca Juga: Riset Alibaba Cloud Ungkap Perusahaan di Asia Semakin Cepat Adopsi AI, Namun Butuh Solusi AI Menyeluruh yang Aman

Cloud Parallel File Storage (CPFS) merupakan sistem generasi baru yang dioptimalkan untuk mendukung pelatihan model AI. Sistem ini menghadirkan throughput pada skala ratusan terabita per detik dan operasi input/output per detik (IOPS) pada skala ratusan juta, serta membantu menekan biaya penyimpanan AI perusahaan sebesar 69%.

HPN 8.0 Pro, arsitektur jaringan AI terbaru yang dikembangkan Alibaba Cloud, menghadirkan bandwidth sebesar 100 petabit dengan latensi sangat rendah. Satu klaster dapat mendukung lebih dari 130.000 port jaringan berkecepatan 800G. Redundansi bawaan memastikan kegagalan transceiver optik maupun sambungan jaringan tidak menyebabkan gangguan layanan. Arsitektur ini juga mengurangi dampak pembaruan dan kegagalan jaringan dari 50% menjadi 25% dibandingkan generasi sebelumnya.

Agent Native Cloud

AgentCore merupakan platform enterprise terbaru untuk membangun, menjalankan, dan mengelola agen AI di seluruh siklus hidupnya. Platform ini memudahkan perusahaan membangun dan menjalankan perangkat AI, mengelola kolaborasi manusia dan agen secara aman, serta memantau performa untuk mendukung peningkatan berkelanjutan. Dengan keamanan berstandar enterprise yang terintegrasi pada lapisan operasional, AgentCore menyediakan satu fondasi yang terkendali bagi organisasi untuk menerapkan beragam agen AI dan mengintegrasikannya secara mulus ke dalam sistem bisnis penting dalam skala besar.

Agent Security Center menghadirkan pengelolaan keamanan dan kepatuhan di seluruh siklus hidup aplikasi agen AI perusahaan. Platform ini menyediakan sistem pertahanan berlapis yang didukung deteksi ancaman secara real-time untuk memastikan agen beroperasi dengan aman dalam batas yang dapat dikendalikan, termasuk saat diterapkan dalam skala besar.

Context Engine

Agent Context merupakan layanan data konteks berstandar enterprise yang memberikan konteks real-time dan memori jangka panjang kepada agen AI. Dengan menghubungkan dokumen perusahaan, sistem bisnis, riwayat percakapan, dan data multimodal dalam satu fondasi, layanan ini memungkinkan agen mengingat tugas sebelumnya, berbagi pengetahuan lintas tim, dan terus belajar. Dalam skenario yang membutuhkan banyak pengetahuan, seperti layanan pelanggan, pemrograman berbantuan AI, dan analitik data, Agent Context mengurangi penggunaan token hingga 67%.

OpenLake telah ditingkatkan menjadi data lakehouse terpadu yang mendukung berbagai modalitas. Satu salinan data, baik terstruktur, semi-terstruktur, tidak terstruktur, vektor, maupun streaming, dapat digunakan oleh berbagai mesin komputasi untuk pemrosesan, pencarian, analisis, dan pelatihan model. Dibandingkan arsitektur konvensional, OpenLake mengurangi total biaya sebesar 38% dan memangkas waktu respons kueri sebesar 40%.