Tính chính xác được chỉ định cho 1 năm sau khi hiệu chỉnh, tại nhiệt độ vận hành 18 C đến 28 C, độ ẩm tương đối tại 0 % đến 75 %. Thông số kỹ thuật về tính chính xác có dạng ±([% kết quả đo] + [Số lượng chữ số có nghĩa tối thiểu])
| Thông số kỹ thuật về độ chính xác |
AC Volt
(40 Hz đến 500Hz)1 |
Dải đo |
Độ phân giải |
Độ chính xác |
6,000 V
60,00 V
600,0 V |
0,001 V
0,01 V
0,1 V |
1,0 % + 3 |
| Volt DC |
6,000 V
60,00 V
600,0 V |
0,001 V
0,01 V
0,1 V |
0,5 % + 3 |
| Millivolt AC |
600.0 mV |
0,1 mV |
3,0 % + 3 |
| Kiểm tra đi-ốt2 |
2,000 V |
0,001 V |
10% |
Điện trở
(Ohms) |
400,0 Ω
4,000 kΩ
40,00 kΩ
400,0 kΩ
4,000 MΩ
40,00 MΩ |
0,1 Ω
0,001 kΩ
0,01 kΩ
0,1 kΩ
0,001 MΩ
0,01 MΩ |
0.,5% + 3
0,5 % + 2
0,5 % + 2
0,5 % + 2
0,5 % + 2
1,5% + 3 |
| Điện dung3 |
50,00 nF
500,0 nF
5,000 μF
50,00 μF
500,0 μF
1000 μF |
0,01 nF
0,1 nF
0,001 μF
0,01 μF
0,1 μF
1 μF |
2 % + 5
2 % + 5
5 % + 5
5 % + 5
5 % + 5
5 % + 5 |
Tần số4 Hz
(10 Hz – 100 kHz) |
50,00 Hz
500,0 Hz
5,000 kHz
50,00 kHz
100,0 kHz |
0,01 Hz
0,1 Hz
0,001 kHz
0,01 kHz
0,1 kHz |
0,1 % + 3 |
| Chu trình làm việc4 |
1 % đến 99 % |
0.10% |
1 % điển hình5 |
Dòng AC
(40 Hz đến 200 Hz) |
4,000 A
10,00 A |
0,001 A
0,01 A |
1,5 % + 3 |
| Dòng điện DC |
4,000 A
10,00 A |
0,001 A
0,01 A |
1,5 % + 3 |
|