DeLM của Stanford cắt giảm 50% chi phí tác vụ đa tác nhân — mà không cần người điều phối trung tâm
One of the assumptions behind today’s AI frameworks is that agents require a “boss” at the center; this orchestrator runs the show, routes requests, and makes sure the whole system doesn’t descend into chaos. That assumption may be wrong, and the cost of carrying it could be measured in inference dollars and coordination latency. A new Stanford framework called a decentralized language model, or DeLM, is built on the premise that agents can coordinate directly, without routin
Một trong những giả định đằng sau các khung AI hiện tại là các tác nhân yêu cầu một "sếp" ở trung tâm; người điều phối này điều hành mọi thứ, định tuyến các yêu cầu và đảm bảo toàn bộ hệ thống không rơi vào hỗn loạn. Giả định đó có thể sai, và chi phí để duy trì nó có thể được đo bằng đô la suy luận và độ trễ phối hợp. Một khung mới của Stanford có tên mô hình ngôn ngữ phi tập trung, hoặc DeLM, được xây dựng dựa trên tiền đề rằng các tác nhân có thể phối hợp trực tiếp, mà không cần định tuyến mọi cập nhật thông qua bộ điều phối trung tâm. Cơ sở kiến thức chung của DeLM đóng vai trò là "chất nền giao tiếp chung" để các tác nhân có thể xây dựng dựa trên tiến trình đã được xác minh của nhau mà không cần định tuyến mọi tương tác thông qua một tác nhân chính để "hợp nhất, lọc và phát lại", Yuzhen Mao và Azalia Mirhoseini, đồng phát triển của khung này, giải thích trong một bài báo nghiên cứu. Đó là một hệ thống không chỉ khả thi mà còn mong muốn trong một số trường hợp nhất định. "Các tác nhân có thể xây dựng dựa trên các phát hiện trước đó, tránh các thất bại lặp đi lặp lại, bảo tồn các ràng buộc và khôi phục bằng chứng chi tiết khi cần thiết."
Khung DeLM của Stanford có thể cách mạng hóa cách các hệ thống AI hoạt động, giảm chi phí và tăng hiệu quả bằng cách loại bỏ sự phụ thuộc vào bộ điều phối trung tâm.
📌 Kaynak
Bu haber XML kaynağından derlenmiştir. Tamamı için orijinal habere gidin.
Orijinal haberi oku →