Dữ liệu thiếu và giá trị bất thường: quyết định trước khi nhìn kết quả

Mọi bộ dữ liệu thật đều có giá trị thiếu và giá trị bất thường. Cách bạn xử lý chúng ảnh hưởng tới kết quả.

Và đây là điểm mấu chốt: nếu bạn quyết định cách xử lý sau khi đã thấy kết quả, đó là vấn đề về liêm chính — kể cả khi bạn không cố ý.

Nguyên tắc bao trùm

• Quyết định trước khi nhìn kết quả và ghi lại.
• Ghi rõ trong bài bạn đã xử lý thế nào và vì sao.
• Báo cáo bao nhiêu dữ liệu bị thiếu và ở biến nào.
• Nếu đổi cách xử lý giữa chừng, nêu rõ vì sao.
• Kiểm kết quả có đổi không khi dùng cách xử lý khác — và báo cáo điều đó.

Ba loại dữ liệu thiếu

Thiếu hoàn toàn ngẫu nhiên — việc thiếu không liên quan gì tới bất kỳ biến nào. Ít gây vấn đề nhất, nhưng cũng hiếm.

Thiếu ngẫu nhiên có điều kiện — việc thiếu liên quan tới các biến khác bạn đã đo. Xử lý được bằng các phương pháp phù hợp.

Thiếu không ngẫu nhiên — việc thiếu liên quan tới chính giá trị bị thiếu. Đây là loại khó nhất, và nó gây sai lệch không sửa được hoàn toàn.

Phân biệt được ba loại này quyết định cách xử lý phù hợp — và bạn thường phải suy luận từ bối cảnh chứ không kiểm chứng trực tiếp được.

Các cách xử lý

• Loại toàn bộ trường hợp có thiếu — đơn giản nhất nhưng mất nhiều dữ liệu và có thể gây sai lệch.
• Loại theo từng phân tích — giữ được nhiều dữ liệu hơn nhưng cỡ mẫu khác nhau giữa các phân tích, cần báo cáo rõ.
• Thay bằng giá trị ước lượng — có nhiều phương pháp với mức phức tạp khác nhau; cần hiểu giả định của phương pháp bạn dùng.
• Nếu thiếu quá nhiều ở một biến, cân nhắc bỏ biến đó — và nêu rõ trong bài.
• Hỏi người có chuyên môn thống kê nếu tỷ lệ thiếu cao hoặc bạn không chắc.

Giảm dữ liệu thiếu từ đầu

• Bảng hỏi ngắn — tỷ lệ bỏ dở tăng nhanh theo độ dài.
• Câu hỏi rõ ràng — người ta bỏ trống câu họ không hiểu.
• Có lựa chọn không áp dụng hoặc không muốn trả lời — ép trả lời tạo dữ liệu sai chứ không tạo dữ liệu tốt.
• Với thu dữ liệu điện tử, kiểm tính hợp lệ ngay khi nhập.
• Với nghiên cứu theo dõi dài, có kế hoạch giữ liên lạc.
• Phòng luôn tốt hơn xử lý sau.

Giá trị bất thường

• Kiểm trước xem có phải lỗi nhập liệu không — đây là nguyên nhân phổ biến nhất, và sửa được bằng cách quay lại nguồn.
• Kiểm có phải lỗi đo không — thiết bị hỏng, đơn vị sai.
• Nếu là giá trị thật, đừng vội loại — nó có thể là trường hợp thú vị nhất trong dữ liệu của bạn.
• Đặt tiêu chí loại trước khi nhìn dữ liệu và ghi lại.
• Báo cáo bao nhiêu trường hợp bị loại và vì sao.
• Chạy phân tích cả có và không có chúng, và báo cáo nếu kết quả khác nhau.

Ghi lại quyết định

• Một tệp nhật ký — bạn đã làm gì với dữ liệu, khi nào, vì sao.
• Giữ dữ liệu thô nguyên vẹn — mọi xử lý làm trên bản sao.
• Dùng mã lệnh thay vì thao tác tay — nó tự ghi lại và cho phép tái tạo.
• Tiêu chí: sáu tháng sau bạn tái tạo được kết quả từ dữ liệu thô.
• Người bình duyệt có thể hỏi — và câu trả lời phải sẵn.

Báo cáo trong bài

• Nêu tỷ lệ dữ liệu thiếu tổng thể và theo biến quan trọng.
• Nêu cách xử lý và lý do chọn cách đó.
• Nêu số trường hợp bị loại và tiêu chí loại.
• Nêu cỡ mẫu cho từng phân tích nếu chúng khác nhau.
• Nếu có thể, so sánh nhóm có dữ liệu đầy đủ với nhóm bị thiếu — nó cho biết việc thiếu có gây sai lệch không.
• Nêu trong phần hạn chế nếu tỷ lệ thiếu cao.

Một điều đáng nhớ

Phép thử đơn giản: bạn đã quyết định cách xử lý trước hay sau khi thấy kết quả?

Nếu là sau, hãy quay lại quy tắc đã định trước — và nếu chưa từng định, hãy báo cáo trung thực rằng bạn đã thử nhiều cách và kết quả khác nhau ra sao. Điều đó vẫn tốt hơn nhiều so với chỉ báo cáo cách cho kết quả đẹp nhất.

Câu hỏi thường gặp