CPU的浮點運算能力一般在10 Gflops以下每秒可進行10億次浮點運算,而GeForce6系列的浮點運算能力已經在40 Gflops左右。
作用:
浮點運算是指得到的結果是一個浮點數,計算結果中的小數部分將保留下來。浮點運算雖然可以運算一個較大的數值范圍,但其表示只是近似的。因為計算機只能存儲整數,所以實數都是約數,這樣浮點運算是很慢的而且會有誤差。
整數運算用于CPU中央處理器,在科學計算中,中央處理器可以通過整數運算,加快運算速度和提高系統執行效率。
在大多數情況下,浮點運算用于CPU輔助處理器,完成中央處理器完成其無法執行或執行效率、效果低下的處理工作。