データベース内の数値の精度とスケールをどのように解釈すればよいですか? 質問する

データベース内の数値の精度とスケールをどのように解釈すればよいですか? 質問する

データベースに次の列が指定されています:decimal(5,2)

これをどう解釈すればいいのでしょうか?

SQL Server Management Studio で表示される列のプロパティによると、これは 10 進数 (数値の有効桁数、数値のスケール) を意味することがわかります。

精度とスケールは実際には何を意味するのでしょうか?

これを5桁の小数点2桁の小数として解釈するのは簡単です...つまり12345.12

追伸: 同僚から正しい答えを聞き出すことはできましたが、オンラインで答えを見つけるのは非常に困難でした。そのため、今後の参考のために、質問と回答をここで stackoverflow に記録しておきたいと思います。

ベストアンサー1

数値の精度とは、数値に含まれる最大桁数を指します。

つまり、1234567.89の精度は9です。

数値スケールは小数点以下の最大桁数を指します

つまり、123456.789のスケールは3です。

したがって、decimal(5,2)の最大値は999.99です。

おすすめ記事