Khi nào thì sử dụng bộ tích lũy?

Mục lục:

Khi nào thì sử dụng bộ tích lũy?
Khi nào thì sử dụng bộ tích lũy?
Anonim

Bộ tích lũy là các biến chỉ được “thêm vào” thông qua một phép toán kết hợp và do đó, có thể được hỗ trợ song song một cách hiệu quả. Chúng có thể được sử dụng để triển khai bộ đếm(như trong MapReduce) hoặc tính tổng. Spark nguyên bản hỗ trợ tích lũy kiểu số và lập trình viên có thể thêm hỗ trợ cho các kiểu mới.

Tại sao chúng tôi sử dụng bộ tích lũy?

Tích lũy thủy lực được sử dụng trong nhiều ngành công nghiệp để tích trữ năng lượng; duy trì áp suất; giảm rung động, xung và cú sốc; và nhiều hơn nữa. Lưu trữ năng lượng - Bộ tích lũy có thể tiếp nhận, lưu trữ và giải phóng năng lượng ở dạng chất lỏng có áp để cải thiện hiệu quả hệ thống thủy lực của bạn.

Sự khác biệt giữa bộ phát sóng và bộ tích lũy trong Spark là gì?

Sự khác biệt chính giữa biến quảng bá và bộ tích lũy là rằng trong khi biến quảng bá ở chế độ chỉ đọc, bộ tích lũy có thể được thêm vào. … Mỗi nút công nhân chỉ có thể truy cập và thêm vào giá trị bộ tích lũy cục bộ của chính nó và chỉ chương trình trình điều khiển mới có thể truy cập giá trị chung.

Bộ tích lũy tia lửa hoạt động như thế nào?

Bộ tích lũy là các biến được sử dụng để tổng hợp thông tin trên các bộ thực thi. Ví dụ: thông tin này có thể liên quan đến dữ liệu hoặc chẩn đoán API như số lượng bản ghi bị hỏng hoặc số lần một API thư viện cụ thể đã được gọi.

Tại sao biến bộ tích lũy trong Spark không được sử dụng bởi worker cho các hoạt động chuyển đổi?

Bộ tích lũy sẽ cho đầu ra sai. Nếu một tác vụ chạy chậm sau đó, Spark có thể khởi chạy một bản sao suy đoán của tác vụ đó trên một nút khác. Văn án: Không xử lý. Bộ tích lũy sẽ đưa ra kết quả sai.

Đề xuất: