AI đa tác nhân đang thay đổi cách doanh nghiệp tự động hóa quy trình như thế nào?

Việc quản lý chi phí và hiệu quả vận hành của các hệ thống AI đa tác nhân (multi-agent AI) đang trở thành yếu tố then chốt quyết định tính khả thi về tài chính của các quy trình tự động hóa trong doanh nghiệp hiện đại.

Khi các tổ chức bắt đầu chuyển từ những chatbot đơn giản sang các hệ thống AI có nhiều tác nhân phối hợp với nhau, họ thường phải đối mặt với hai thách thức lớn về chi phí và hiệu suất.

“Thuế suy luận” và hiện tượng bùng nổ ngữ cảnh

Thách thức đầu tiên được gọi là “thinking tax” – tạm hiểu là chi phí cho quá trình suy luận của AI. Các tác nhân tự động cần thực hiện nhiều bước lập luận để hoàn thành nhiệm vụ, và nếu mỗi bước đều dựa vào các mô hình AI cực lớn thì chi phí tính toán sẽ tăng nhanh, đồng thời làm giảm tốc độ xử lý.

Bên cạnh đó là vấn đề “context explosion” (bùng nổ ngữ cảnh). Trong các quy trình phức tạp, hệ thống thường phải liên tục gửi lại toàn bộ lịch sử hội thoại, dữ liệu trung gian và kết quả từ các công cụ khác nhau cho mô hình AI. Điều này khiến lượng token được sử dụng có thể tăng tới 1.500% so với các hệ thống AI thông thường.

Khối lượng dữ liệu lớn như vậy không chỉ khiến chi phí vận hành tăng mạnh mà còn dẫn tới nguy cơ “goal drift” – tình trạng các tác nhân AI dần lệch khỏi mục tiêu ban đầu khi nhiệm vụ kéo dài.

Những kiến trúc AI mới dành cho hệ thống đa tác nhân

Để giải quyết các vấn đề về hiệu quả và quản trị này, nhiều công ty công nghệ đang phát triển các kiến trúc AI tối ưu hơn cho môi trường doanh nghiệp.

Một ví dụ là mô hình Nemotron 3 Super do NVIDIA giới thiệu gần đây. Đây là kiến trúc mở với 120 tỷ tham số, nhưng trong quá trình suy luận chỉ kích hoạt 12 tỷ tham số, giúp giảm đáng kể chi phí tính toán.

Mô hình được thiết kế theo cấu trúc mixture-of-experts (kết hợp nhiều “chuyên gia” AI). Nhờ đó, hệ thống có thể đạt tốc độ xử lý cao gấp 5 lần và độ chính xác gấp đôi so với thế hệ trước.

Ngoài ra, kiến trúc còn kết hợp nhiều cải tiến kỹ thuật:

• Các lớp Mamba giúp tăng hiệu quả bộ nhớ và tính toán lên khoảng bốn lần.
• Các lớp transformer truyền thống xử lý những tác vụ suy luận phức tạp.
• Cơ chế “latent experts” cho phép huy động nhiều chuyên gia AI cùng lúc trong quá trình sinh token.
• Khả năng dự đoán nhiều từ tiếp theo cùng lúc giúp tăng tốc độ suy luận.

Mô hình chạy trên nền tảng phần cứng NVIDIA Blackwell, sử dụng chuẩn tính toán NVFP4 để giảm nhu cầu bộ nhớ và tăng tốc độ suy luận so với các hệ thống trước đó.

Ứng dụng trong tự động hóa doanh nghiệp

Một điểm đáng chú ý của hệ thống là cửa sổ ngữ cảnh lên tới một triệu token, cho phép các tác nhân AI ghi nhớ toàn bộ trạng thái của quy trình làm việc. Điều này giúp giảm nguy cơ goal drift trong các nhiệm vụ kéo dài.

Trong phát triển phần mềm, một tác nhân AI có thể tải toàn bộ mã nguồn của dự án vào ngữ cảnh, từ đó hỗ trợ viết mã, phân tích lỗi và gỡ lỗi trên toàn bộ hệ thống mà không cần chia nhỏ tài liệu.

Trong lĩnh vực tài chính, mô hình có thể phân tích hàng nghìn trang báo cáo cùng lúc, giúp rút ngắn đáng kể thời gian nghiên cứu và phân tích dữ liệu.

Nhờ độ chính xác cao trong việc gọi công cụ (tool calling), các tác nhân AI cũng có thể vận hành các thư viện chức năng lớn trong những môi trường yêu cầu độ tin cậy cao, ví dụ như tự động hóa hệ thống an ninh mạng.

Nhiều tập đoàn công nghệ và công nghiệp lớn đang thử nghiệm và triển khai mô hình này, bao gồm Amdocs , Palantir , Cadence , Dassault Systèmes và Siemens.

Các nền tảng phát triển phần mềm như CodeRabbit , Factory và Greptile cũng đang tích hợp mô hình này nhằm nâng cao độ chính xác và giảm chi phí vận hành.

Trong lĩnh vực khoa học đời sống, các công ty như Edison Scientific và Lila Sciences dự kiến sử dụng nó để phát triển các tác nhân AI phục vụ tìm kiếm tài liệu khoa học, phân tích dữ liệu và nghiên cứu phân tử.

Hướng tới triển khai linh hoạt trong doanh nghiệp

Một lợi thế khác của mô hình là tính linh hoạt trong triển khai. NVIDIA phát hành hệ thống với trọng số mở (open weights) theo giấy phép khá linh hoạt, cho phép các doanh nghiệp tùy chỉnh và triển khai trên nhiều môi trường khác nhau như máy trạm, trung tâm dữ liệu hoặc nền tảng đám mây.

Mô hình cũng được đóng gói dưới dạng microservice NVIDIA NIM, giúp dễ dàng tích hợp vào hạ tầng doanh nghiệp hiện có.

Quá trình huấn luyện của hệ thống sử dụng dữ liệu tổng hợp được tạo ra từ các mô hình suy luận tiên tiến, với tổng cộng hơn 10 nghìn tỷ token dữ liệu đào tạo, cùng nhiều môi trường học tăng cường khác nhau. Các nhà nghiên cứu và doanh nghiệp có thể tiếp tục tinh chỉnh mô hình thông qua nền tảng NVIDIA NeMo.

Theo các chuyên gia, bất kỳ tổ chức nào muốn triển khai các hệ thống tự động hóa dựa trên AI đa tác nhân đều cần tính toán kỹ hai yếu tố: chi phí suy luận và bùng nổ ngữ cảnh.

Nếu không được kiểm soát, hai yếu tố này có thể khiến chi phí vận hành tăng mạnh và làm các tác nhân AI mất định hướng trong quá trình làm việc.

Do đó, việc xây dựng kiến trúc AI phù hợp và giám sát chặt chẽ hoạt động của các tác nhân sẽ đóng vai trò quan trọng trong việc đảm bảo các hệ thống tự động hóa mang lại hiệu quả bền vững cho doanh nghiệp.