Kualitas data pengukuran ditentukan oleh sifat statistik dari berbagai pengukuran yang dilakukan oleh sistem pengukuran dalam kondisi stabil. Sifat statistik yang paling umum digunakan untuk mengkarakterisasi kualitas data adalah akurasi dan presisi.

1. Akurasi (Accuracy) 

Adalah nilai yang tidak bias, ini mengacu tingkat ketepatan yaitu pengukuran rentang antara nilai rata-rata dan nilai aktual dari sampel data. Proses pengukuran harus menggunakan statistika yang terkontrol, jika tidak keakuratan proses tidak berarti. ISO (International Organization for Standardization) dan ASTM (American Society for Testing and Materials) menggunakan ketepatan waktu untuk merangkul bias dan pengulangan. Untuk menghindari kebingungan penggunaan istilah, ASTM merekomendasikan bias digunakan hanya untuk mendeskripsikan  kesalahan lokasi. Langkah berikut ini bisa membantu Anda untuk mendapatkan tingkat akurasi data terbaik :

  • Terima semua data yang terkumpul, tetapkan apa saja penyebab khususnya dan periksa data yang diterima selanjutnya
  • Lakukan pencatatan data di setiap waktu kejadian
  • Hindari pembulatan data (ini dapat menciptakan masalah resolusi)
  • Catat sebanyak mungkin detail di sekitar Anda secara mudah dan hati-hati
  • Verifikasi alat ukur sehingga akurat

Akurasi sendiri terbagi menjadi dua bagian, yaitu offset dan linearity.

Offset, yaitu selisih nilai yang didapat dari hasil pengukuran alat dengan nilai sebenarnya. Istilah ini dipakai ketika kita mengkalibrasi alat ukur. Besar perbedaan antara alat ukur dengan nilai sebenarnya inilah yang disebut offset.

Linearity, yaitu tingkat penyimpangan offset dalam range tertentu atau ukuran konsistensi bias selama rentang pengukuran. Misalnya, jika skala kamar mandi ketika mengukur seseorang dengan berat badan 150 pound adalah 10 pound, tapi berbeda saat mengukur orang dengan berat badan 200 pound dan skala kamar mandinya menjadi 5 pound, skala bias nya adalah non-linear yang berarti tingkat bias berubah tergantung penggunaan.

2. Presisi (Precision) 

Baca juga  Sejarah Six Sigma

Ini menggambarkan efek terbebas dari semua bentuk diskriminasi dalam sistem pengukuran. Presisi digunakan untuk menyatakan tingkat konsistensi alat ukur dengan menggambarkan variasi dari pengukuran yang dilakukan secara berulang dalam rentang pengukuran, rentang tersebut bisa berupa alat ukur ataupun waktu. ASTM mendefinisikan presisi dalam arti yang lebih luas untuk memasukkan variasi dari berbagai interpretasi, ukuran, orang, lab atau kondisi yang berbeda. Presisi dibedakan menjadi dua golongan, yaitu repeatability dan reproducibility. 

Repeatability menyatakan konsistensi dari alat pengukuran. Ini tercapai ketika orang yang sama melakukan beberapa pengukuran pada item atau karakteristik yang sama mendapatkan hasil yang identik setiap saat. Repeatability sering disebut sebagai variasi peralatan (EV), meskipun juga menjadi penyebab umum terjadinya variasi. Terdapat beberapa kemungkinan yang bisa menyebabkan repeatability menjadi buruk, diantaranya adalah masalah sampel yaitu karena benda yang diukur memiliki bentuk yang sulit diukur, masalah instrument di dalamnya termasuk kualitas alat yang digunakan, masalah operator (pengukur) karena kurangnya pengalaman, pelatihan dan bisa karena kelelahan.

Reproducibility menyatakan konsistensi dari orang yang melakukan pengukuran. Reprodusibilitas ini tercapai ketika orang lain, instrument, atau laboratorium lain mendapatkan hasil seperti yang Anda dapatkan ketika mengukur item atau karakteristik yang sama. Misalnya,  dengan membandingkan hasil operator yang berbeda yang diambil pada waktu yang berbeda. Reprodusibilitas juga disebut sebagai penilai diantara variabilitas, sebagai variasi dalam rata-rata pengukuran yang dibuat oleh penilai yang berbeda dengan menggunakan alat ukur yang sama ketika mengukur karakteristik pada bagian yang sama. Ini tepat jika digunakan untuk mengukur instrumen manual yang dipengaruhi oleh keterampilan operator. Namun, tidak untuk proses pengukuran atau sistem otomatis dimana operator bukan merupakan sumber utama variasi.