Data Science & AI hoạt động

Machine learning ứng dụng

Machine Learning — Học máy

Đã chạy được. Mục này có công cụ tính toán thật trên nền tảng, không phải mô tả lộ trình.

Ma trận nhầm lẫn Precision, recall, F1, MCC và cái bẫy accuracy

Mọi chỉ số phân loại từ bốn con số. Mặc định ở đây là một bài toán mất cân bằng để thấy ngay vì sao accuracy gây hiểu nhầm.

Precision 0.2250
Recall 0.8182
F1 0.3529
MCC 0.4270
Kết luận Có tín hiệu nhưng yếu
① Tham số

Các chỉ số cạnh nhau

Các chỉ số cạnh nhau1.1180.7450.37250Precision: 0.2250Recall: 0.8182Specificity: 0.9938F1: 0.3529Balanced acc: 0.9060MCC: 0.4270Accuracy: 0.9934Baseline số đông: 0.9978PrecisionRecallSpecificityF1Balanced accMCCAccuracyBaseline số đông

Cùng một ma trận, tám cách đọc. Khoảng cách giữa cột Accuracy và cột Baseline mới là phần mô hình thực sự đóng góp; MCC là cột duy nhất dùng cả bốn ô.

Diễn giải nhanh

Accuracy 0.9934 so với baseline luôn đoán số đông 0.9978

Mô hình đang THUA quy tắc 'luôn trả lời số đông' trên chính chỉ số mà nhiều báo cáo đem đi khoe.

Precision 0.2250 — cứ 4.4 lần báo dương mới có 1 lần đúng

Đây là con số người vận hành cảm nhận được, vì mỗi lần báo sai là một lần mất công kiểm tra. Nâng ngưỡng sẽ tăng precision và hạ recall — không có cách nào tăng cả hai.

Recall 0.8182 — bỏ sót 40 trên 220 ca dương thật

Chi phí của một ca bỏ sót và của một báo động giả gần như không bao giờ bằng nhau. Ngưỡng phải chọn theo tỷ lệ chi phí đó, không phải theo F1 tối ưu.

MCC 0.4270

MCC dùng cả bốn ô nên nó không thể được nâng bằng cách đoán số đông. Đây là chỉ số nên đưa vào báo cáo khi dữ liệu mất cân bằng, thay cho accuracy và cả F1 (F1 bỏ qua ô TN).

Khi nào con số này sai: Accuracy vô dụng khi dữ liệu mất cân bằng: với 0.1% dương tính, mô hình luôn nói 'không' đạt 99.9%. MCC là chỉ số duy nhất ở đây dùng cả bốn ô của ma trận, nên nó khó bị đánh lừa nhất.

Chi tiết

Accuracy 0.9934 — gây hiểu nhầm
Balanced accuracy 0.9060
Specificity 0.9938
Tỷ lệ dương tính thật 0.22%
Baseline luôn đoán số đông 0.9978 accuracy

Các chỉ số cạnh nhau

Các chỉ số cạnh nhau1.1180.7450.37250Precision: 0.2250Recall: 0.8182Specificity: 0.9938F1: 0.3529Balanced acc: 0.9060MCC: 0.4270Accuracy: 0.9934Baseline số đông: 0.9978PrecisionRecallSpecificityF1Balanced accMCCAccuracyBaseline số đông

Cùng một ma trận, tám cách đọc. Khoảng cách giữa cột Accuracy và cột Baseline mới là phần mô hình thực sự đóng góp; MCC là cột duy nhất dùng cả bốn ô.

Ba ô nhỏ: thực tế so với khi dự đoán độc lập với sự thật

thực tếnếu độc lập
Ba ô nhỏ: thực tế so với khi dự đoán độc lập với sự thật910606.7303.30TP — nếu độc lập: 1.8TP — thực tế: 180.0FP — nếu độc lập: 798.2FP — thực tế: 620.0FN — nếu độc lập: 218.2FN — thực tế: 40.0TPFPFN

Cùng tổng hàng và tổng cột, chỉ bỏ liên hệ giữa dự đoán và sự thật. Ô TN bị bỏ khỏi hình vì thang đo (99,160 thực tế so với 98,982 kỳ vọng) làm ba cột kia biến mất — và chính nó là thứ thổi phồng accuracy.

MCC trên thang đầy đủ −1 tới 1

MCC trên thang đầy đủ −1 tới 1tệ hơn đoán mòtệ hơn đoán mògần như vô dụnggần như vô dụngcó tín hiệucó tín hiệumạnhmạnh0.4270-11

0 nghĩa là dự đoán không liên quan gì tới sự thật, kể cả khi accuracy trông rất đẹp. Các mốc 0,3 và 0,6 là quy ước đọc chứ không phải kiểm định.

Ma trận nhầm lẫn kèm tổng biên

Dự đoán dươngDự đoán âmTổng
Thực tế dương180 (TP)40 (FN)220
Thực tế âm620 (FP)99,160 (TN)99,780
Tổng80099,200100,000

Toàn bộ chỉ số

Accuracy 0.9934 — gây hiểu nhầm
Balanced accuracy 0.9060
Specificity 0.9938
Tỷ lệ dương tính thật 0.22%
Baseline luôn đoán số đông 0.9978 accuracy

Công thức đang dùng

MCC = (TP·TN − FP·FN)/√((TP+FP)(TP+FN)(TN+FP)(TN+FN))

Đây là công thức thật mà mã nguồn chạy, không phải mô tả gần đúng. API tại /api/v1/tools/confusion gọi đúng hàm này, nên kết quả trên trang và qua API không thể lệch nhau.

Cách dùng

  1. Điền tham số ở cột trái. Mọi ô đã có sẵn giá trị ví dụ chạy được, nên bạn có thể bấm Tính ngay trước rồi sửa sau.
  2. Đọc thẻ số ở trên cùng, rồi mục Diễn giải nhanh để biết con số đó nói gì.
  3. Đọc dòng “Khi nào con số này sai” trước khi dùng kết quả để quyết định — đó là giả định vỡ đầu tiên.
Giới hạn chung. Công cụ này tính đúng công thức của nó trên dữ liệu bạn đưa vào. Nó không kiểm tra dữ liệu của bạn có phù hợp với giả định của phương pháp hay không — phần đó vẫn là việc của người dùng, và mục “sai ở đâu” bên dưới trang liệt kê các chỗ hỏng thường gặp.

Machine learning ứng dụng là gì

Machine learning tìm hàm ánh xạ từ đặc trưng sang mục tiêu bằng cách tối ưu trên dữ liệu. Điều quyết định thành bại hiếm khi là thuật toán — nó là chất lượng nhãn, tính đại diện của dữ liệu, và việc quy trình đánh giá có mô phỏng đúng điều kiện triển khai hay không.

Làm thế nào

  1. Định nghĩa bài toán và chỉ số thành công gắn với quyết định kinh doanh.
  2. Xây baseline đơn giản trước — thường đã đủ tốt.
  3. Chia dữ liệu theo cách phản ánh cách mô hình sẽ được dùng.
  4. Điều chỉnh siêu tham số trên tập validation, chỉ chạm tập test một lần.
  5. Theo dõi trôi dữ liệu sau khi triển khai.

Đo bằng chỉ số nào

Chỉ số phù hợp bài toán AUC, RMSE, F1 — chọn theo chi phí sai lầm
Chênh lệch train/test khoảng cách lớn là overfit
Hiệu suất theo phân nhóm kiểm tra công bằng và điểm yếu

Sai ở đâu

Phần quan trọng nhất của trang này. Một phương pháp được mô tả mà không nói chỗ nó hỏng là phiên bản quảng cáo của phương pháp đó.

! Rò rỉ dữ liệu là lỗi phổ biến và nguy hiểm nhất; nó luôn làm kết quả đẹp lên nên hiếm khi bị nghi ngờ.
! Chọn mô hình theo tập test rồi báo cáo chính con số đó — tập test đã trở thành tập validation.
! Tối ưu chỉ số kỹ thuật không gắn với giá trị kinh doanh.

Mô hình định lượng dùng trong Data Science

Chưa có mô hình nào gắn riêng cho chủ đề này. Đây là những mô hình của cả ngành — liên quan ở cấp ngành, không phải cấp chủ đề.

Tất cả mô hình →
Transformersắp có

Cơ chế attention, nắm quan hệ xa.

Temporal Convolutional Networksắp có

Tích chập nhân quả với receptive field kiểm soát được.

Deflated Sharpe Ratiohoạt động

Sharpe sau khi phạt vì số lần thử và độ lệch/nhọn của đuôi.

Probability of Backtest Overfittinghoạt động

Tỉ lệ cấu hình thắng in-sample lại xếp dưới trung vị ngoài mẫu.

Câu hỏi thường gặp

Machine learning ứng dụng là gì?

Machine learning tìm hàm ánh xạ từ đặc trưng sang mục tiêu bằng cách tối ưu trên dữ liệu. Điều quyết định thành bại hiếm khi là thuật toán — nó là chất lượng nhãn, tính đại diện của dữ liệu, và việc quy trình đánh giá có mô phỏng đúng điều kiện triển khai hay không.

Machine learning ứng dụng được làm như thế nào?

1. Định nghĩa bài toán và chỉ số thành công gắn với quyết định kinh doanh. 2. Xây baseline đơn giản trước — thường đã đủ tốt. 3. Chia dữ liệu theo cách phản ánh cách mô hình sẽ được dùng. 4. Điều chỉnh siêu tham số trên tập validation, chỉ chạm tập test một lần. 5. Theo dõi trôi dữ liệu sau khi triển khai.

Machine learning ứng dụng hay sai ở đâu?

Rò rỉ dữ liệu là lỗi phổ biến và nguy hiểm nhất; nó luôn làm kết quả đẹp lên nên hiếm khi bị nghi ngờ. Chọn mô hình theo tập test rồi báo cáo chính con số đó — tập test đã trở thành tập validation. Tối ưu chỉ số kỹ thuật không gắn với giá trị kinh doanh.

Đo machine learning ứng dụng bằng chỉ số nào?

Chỉ số phù hợp bài toán — AUC, RMSE, F1 — chọn theo chi phí sai lầm; Chênh lệch train/test — khoảng cách lớn là overfit; Hiệu suất theo phân nhóm — kiểm tra công bằng và điểm yếu.

Machine learning ứng dụng trên QuantHub đã dùng được chưa?

Đang thử nghiệm: chạy được nhưng phương pháp chưa kiểm định đầu-cuối, nên đừng dựa vào nó để ra quyết định tiền thật.

Chủ đề khác trong Data Science

Toàn bộ Data Science
Time Series Deep Learning NLP Computer Vision AutoML Feature Engineering Anomaly Detection Optimization