なぜこのコードは
const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8,
1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6};
const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812,
1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690};
float y[16];
for (int i = 0; i < 16; i++)
{
y[i] = x[i];
}
for (int j = 0; j < 9000000; j++)
{
for (int i = 0; i < 16; i++)
{
y[i] *= x[i];
y[i] /= z[i];
y[i] = y[i] + 0.1f; // <--
y[i] = y[i] - 0.1f; // <--
}
}
次のビットよりも 10 倍以上高速に実行されます (特に記載がない限り同一)。
const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8,
1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6};
const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812,
1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690};
float y[16];
for (int i = 0; i < 16; i++)
{
y[i] = x[i];
}
for (int j = 0; j < 9000000; j++)
{
for (int i = 0; i < 16; i++)
{
y[i] *= x[i];
y[i] /= z[i];
y[i] = y[i] + 0; // <--
y[i] = y[i] - 0; // <--
}
}
Visual Studio 2010 SP1 でコンパイルする場合。最適化レベルは有効になっています-02
。sse2
他のコンパイラではテストしていません。
ベストアンサー1
の世界へようこそ非正規化浮動小数点数!パフォーマンスに大きな悪影響を与える可能性があります!!!
非正規化数 (または非正規化数未満) は、浮動小数点表現からゼロに非常に近い追加の値を取得するための一種のハックです。非正規化浮動小数点の操作は、正規化浮動小数点よりも数十倍から数百倍遅くなる可能性があります。これは、多くのプロセッサがそれらを直接処理できず、マイクロコードを使用してそれらをトラップして解決する必要があるためです。
0
10,000 回の反復後に数値を印刷すると、またはが使用されているかどうかに応じて異なる値に収束していることがわかります0.1
。
以下は x64 でコンパイルされたテスト コードです。
int main() {
double start = omp_get_wtime();
const float x[16]={1.1,1.2,1.3,1.4,1.5,1.6,1.7,1.8,1.9,2.0,2.1,2.2,2.3,2.4,2.5,2.6};
const float z[16]={1.123,1.234,1.345,156.467,1.578,1.689,1.790,1.812,1.923,2.034,2.145,2.256,2.367,2.478,2.589,2.690};
float y[16];
for(int i=0;i<16;i++)
{
y[i]=x[i];
}
for(int j=0;j<9000000;j++)
{
for(int i=0;i<16;i++)
{
y[i]*=x[i];
y[i]/=z[i];
#ifdef FLOATING
y[i]=y[i]+0.1f;
y[i]=y[i]-0.1f;
#else
y[i]=y[i]+0;
y[i]=y[i]-0;
#endif
if (j > 10000)
cout << y[i] << " ";
}
if (j > 10000)
cout << endl;
}
double end = omp_get_wtime();
cout << end - start << endl;
system("pause");
return 0;
}
出力:
#define FLOATING
1.78814e-007 1.3411e-007 1.04308e-007 0 7.45058e-008 6.70552e-008 6.70552e-008 5.58794e-007 3.05474e-007 2.16067e-007 1.71363e-007 1.49012e-007 1.2666e-007 1.11759e-007 1.04308e-007 1.04308e-007
1.78814e-007 1.3411e-007 1.04308e-007 0 7.45058e-008 6.70552e-008 6.70552e-008 5.58794e-007 3.05474e-007 2.16067e-007 1.71363e-007 1.49012e-007 1.2666e-007 1.11759e-007 1.04308e-007 1.04308e-007
//#define FLOATING
6.30584e-044 3.92364e-044 3.08286e-044 0 1.82169e-044 1.54143e-044 2.10195e-044 2.46842e-029 7.56701e-044 4.06377e-044 3.92364e-044 3.22299e-044 3.08286e-044 2.66247e-044 2.66247e-044 2.24208e-044
6.30584e-044 3.92364e-044 3.08286e-044 0 1.82169e-044 1.54143e-044 2.10195e-044 2.45208e-029 7.56701e-044 4.06377e-044 3.92364e-044 3.22299e-044 3.08286e-044 2.66247e-044 2.66247e-044 2.24208e-044
2 回目の実行では数値がゼロに非常に近いことに注意してください。
非正規化数は一般にまれであるため、ほとんどのプロセッサはそれを効率的に処理しようとしません。
これがすべて非正規化数と関係していることを示すために、コードの先頭に以下を追加して非正規化数をゼロにフラッシュします。
_MM_SET_FLUSH_ZERO_MODE(_MM_FLUSH_ZERO_ON);
すると、バージョンは0
10 倍遅くなることはなくなり、実際に速くなります。(これには、SSE を有効にしてコードをコンパイルする必要があります。)
つまり、これらの奇妙な低精度のほぼゼロの値を使用するのではなく、代わりにゼロに丸めるだけです。
タイミング: Core i7 920 @ 3.5 GHz:
// Don't flush denormals to zero.
0.1f: 0.564067
0 : 26.7669
// Flush denormals to zero.
0.1f: 0.587117
0 : 0.341406
結局のところ、これは整数か浮動小数点かとはまったく関係ありません。0
or は0.1f
両方のループの外側でレジスタに変換/保存されます。そのため、パフォーマンスには影響しません。