6 1/2桁DMMの読み値の確度と分解能について | キーサイト

アプリケーションノート

はじめに

このアプリケーション・ノートでは、デジタル・マルチメータ(DMM)の分解能とDC雑音の仕様の基となる測定と理論について説明します。これらの仕様は、与えられた分解能と使用可能な桁数に直接関係しています。本書では、例として6½桁 Keysight 34410A DMMを使用します。

DMMの確度と分解能

図1は、34410A DMMのDC電圧確度の仕様です。10Vレンジで、積分時間を100PLC(Power Kine Cycles、60HzのAC電源周波数を使用する国の場合1PLCは16.667msです)に設定すると、仕様が±(0.0015%×読み値+0.0004%×レンジ)となります。

図2から、10Vレンジで100PLC未満の積分時間の場合、DC雑音誤差を含めるには確度にレンジの0.0003%を加算する必要があることもわかります。あらかじめ校正された、NIST標準にトレーサブルな電圧5.000000Vを正確に読み取りたいとします。測定は、10Vレンジで、0.06PLC(1ms)で行います。予測確度は±(5.0×0.000015+10×0.000004+10×0.000003)、すなわち±145μVなので、DMMは、実行した校正の確度に応じて、4.999855~5.000145Vの範囲の安定した読み値を表示するはずです。確度仕様には仕様化されていないベース・レベルのDC雑音がすでに存在し、それに30μVの追加雑音を加算しているので、DC雑音のみに起因する読み値の変動は、±30μVを超えることが予想されます。このためp-p雑音は60μVを超えます。本書で示すように、これは約60μV/6、すなわち10μVのrms雑音を表します。