Data Science & AI hoạt động

AutoML — tự động chọn và huấn luyện mô hình

AutoML — Tự động hoá mô hình

Đã chạy được. Mục này có công cụ tính toán thật trên nền tảng, không phải mô tả lộ trình.

Hiệu chỉnh nhiều kiểm định Bonferroni và Benjamini–Hochberg

Thử càng nhiều thì càng dễ tìm ra thứ 'có ý nghĩa' hoàn toàn do ngẫu nhiên. Đây là cùng một vấn đề với Deflated Sharpe trong trading, chỉ khác tên gọi.

Đang chạy trên dữ liệu mẫu, không phải dữ liệu của bạn. Các ô còn nguyên mẫu dựng sẵn: Danh sách p-value. Chọn nguồn dữ liệu khác ở cột bên trái rồi chạy lại để có kết quả của riêng bạn.
Số test 10
Có ý nghĩa nếu KHÔNG hiệu chỉnh 6
Sau Bonferroni 1
Sau Benjamini–Hochberg 3
Kết luận Còn 3 phát hiện sau BH
① Nguồn dữ liệu

Nhận dấu phẩy, chấm phẩy hoặc tab; tự nhận dòng tiêu đề; hiểu cả 1.234.567 lẫn 1.234,56.

Chỉ tải http/https tới địa chỉ công khai; địa chỉ nội bộ bị từ chối.

② Tham số

Giá trị mặc định là ví dụ chạy được — bấm Tính ngay để xem kết quả, rồi thay dữ liệu của bạn vào.

p-value đã sắp xếp so với ba ngưỡng

p-value đã sắp xếpNgưỡng BH α·i/mNgưỡng Bonferroni α/mKỳ vọng nếu mọi giả thuyết null đều đúng
p-value đã sắp xếp so với ba ngưỡng1.0180.64270.2674-0.10812345678910

BH cắt ở điểm CUỐI CÙNG mà đường p còn nằm dưới đường α·i/m, rồi giữ lại toàn bộ phần trước đó. Đường thứ tư là vị trí trung bình của p-value khi không có hiệu ứng nào tồn tại — p nằm dưới hẳn đường đó mới là dấu hiệu có tín hiệu thật.

Diễn giải nhanh

6 kết quả qua ngưỡng α = 5.00% khi chưa hiệu chỉnh, trong khi ngẫu nhiên thuần cũng cho khoảng 0.5

Đây là toàn bộ vấn đề: chạy nhiều kiểm định thì 'có ý nghĩa' trở thành chuyện thường. Con số kỳ vọng α·m không phụ thuộc vào dữ liệu, chỉ phụ thuộc vào việc bạn đã thử bao nhiêu lần.

Bonferroni giữ lại 1 test (ngưỡng 0.005000)

Bonferroni kiểm soát xác suất mắc DÙ CHỈ MỘT sai lầm. Nó đúng nhưng rất chặt: với m lớn, hiệu ứng thật vừa phải cũng bị loại.

Benjamini–Hochberg giữ lại 3 test (ngưỡng 0.015000)

BH chấp nhận rằng khoảng 5% trong nhóm được chọn là sai, đổi lại giữ được nhiều phát hiện thật hơn. Đó là lựa chọn đúng khi bước sau còn có kiểm chứng, và là lựa chọn sai khi kết luận này đi thẳng vào sản xuất.

p nhỏ nhất = 0.001000 trên 10 test

So với ngưỡng Bonferroni 0.005000. Cùng một p-value có thể là phát hiện chắc chắn khi thử một lần và là nhiễu khi thử hàng nghìn lần — bối cảnh quyết định, không phải con số.

Khi nào con số này sai: Chạy m kiểm định ở mức α thì kỳ vọng có α·m kết quả 'có ý nghĩa' hoàn toàn do ngẫu nhiên. Đây chính xác là vấn đề của AutoML và của việc dò tham số — cùng logic với Deflated Sharpe trong trading.

Chi tiết

Ngưỡng Bonferroni 0.005000
Ngưỡng BH 0.015000
Kỳ vọng dương tính giả nếu không hiệu chỉnh 0.5
Bonferroni kiểm soát xác suất có ÍT NHẤT một sai — rất chặt
BH kiểm soát TỶ LỆ sai trong nhóm được chọn — thực dụng hơn

p-value đã sắp xếp so với ba ngưỡng

p-value đã sắp xếpNgưỡng BH α·i/mNgưỡng Bonferroni α/mKỳ vọng nếu mọi giả thuyết null đều đúng
p-value đã sắp xếp so với ba ngưỡng1.0180.64270.2674-0.10812345678910

BH cắt ở điểm CUỐI CÙNG mà đường p còn nằm dưới đường α·i/m, rồi giữ lại toàn bộ phần trước đó. Đường thứ tư là vị trí trung bình của p-value khi không có hiệu ứng nào tồn tại — p nằm dưới hẳn đường đó mới là dấu hiệu có tín hiệu thật.

Số kết luận 'có ý nghĩa' theo từng cách đếm

Số kết luận 'có ý nghĩa' theo từng cách đếm6.724.482.24-8.882e-16Không hiệu chỉnh: 6.00Benjamini–Hochberg: 3.00Bonferroni: 1.00Kỳ vọng dương tính giả: 0.50Không hiệu chỉnhBenjamini–HochbergBonferroniKỳ vọng dương tính giả

Cột cuối là α·m = 0.5: số kết quả 'có ý nghĩa' bạn sẽ thu được kể cả khi không có hiệu ứng nào tồn tại. So nó với cột đầu trước khi tin cột đầu.

Từng p-value sau khi sắp xếp

Hạng ip-valueNgưỡng BH α·i/mNgưỡng BonferroniKết luận
10.0010000.0050000.005000qua cả hai
20.0080000.0100000.005000chỉ qua BH
30.0120000.0150000.005000chỉ qua BH
40.0210000.0200000.005000bị loại
50.0350000.0250000.005000bị loại
60.0400000.0300000.005000bị loại
70.0600000.0350000.005000bị loại
80.1100000.0400000.005000bị loại
90.2300000.0450000.005000bị loại
100.4700000.0500000.005000bị loại

Toàn bộ chỉ số

Ngưỡng Bonferroni 0.005000
Ngưỡng BH 0.015000
Kỳ vọng dương tính giả nếu không hiệu chỉnh 0.5
Bonferroni kiểm soát xác suất có ÍT NHẤT một sai — rất chặt
BH kiểm soát TỶ LỆ sai trong nhóm được chọn — thực dụng hơn

Công thức đang dùng

Bonferroni: p ≤ α/m · BH: p₍ᵢ₎ ≤ α·i/m

Đây là công thức thật mà mã nguồn chạy, không phải mô tả gần đúng. API tại /api/v1/tools/multiple-testing gọi đúng hàm này, nên kết quả trên trang và qua API không thể lệch nhau.

Cách dùng

  1. Điền tham số ở cột trái. Mọi ô đã có sẵn giá trị ví dụ chạy được, nên bạn có thể bấm Tính ngay trước rồi sửa sau.
  2. Với ô dữ liệu: dán vài chục dòng để thử, hoặc tải file CSV/TXT lên để chạy thật. File tối đa 32 MB, 200.000 dòng; bộ đọc nhận dấu phẩy, chấm phẩy hoặc tab, tự nhận dòng tiêu đề, và hiểu cả 1.234.567 lẫn 1.234,56.
  3. Đọc thẻ số ở trên cùng, rồi mục Diễn giải nhanh để biết con số đó nói gì.
  4. Đọc dòng “Khi nào con số này sai” trước khi dùng kết quả để quyết định — đó là giả định vỡ đầu tiên.
Giới hạn chung. Công cụ này tính đúng công thức của nó trên dữ liệu bạn đưa vào. Nó không kiểm tra dữ liệu của bạn có phù hợp với giả định của phương pháp hay không — phần đó vẫn là việc của người dùng, và mục “sai ở đâu” bên dưới trang liệt kê các chỗ hỏng thường gặp.

AutoML — tự động chọn và huấn luyện mô hình là gì

AutoML tự động hoá việc chọn mô hình, tiền xử lý và siêu tham số. Nó rút ngắn đáng kể thời gian tới baseline tốt, nhưng không thay được ba việc quan trọng nhất: đặt đúng bài toán, thiết kế đúng cách chia dữ liệu, và hiểu chi phí của từng loại sai lầm.

Làm thế nào

  1. Chuẩn bị dữ liệu và định nghĩa chỉ số trước khi chạy AutoML.
  2. Cấu hình cách chia dữ liệu đúng với bài toán — đặc biệt với chuỗi thời gian.
  3. Giới hạn ngân sách tìm kiếm và ghi lại số cấu hình đã thử.
  4. Kiểm định kết quả tốt nhất trên tập chưa từng dùng.

Đo bằng chỉ số nào

Chỉ số mục tiêu do bạn chọn, không do công cụ chọn
Số cấu hình đã thử đầu vào bắt buộc để đánh giá overfit

Sai ở đâu

Phần quan trọng nhất của trang này. Một phương pháp được mô tả mà không nói chỗ nó hỏng là phiên bản quảng cáo của phương pháp đó.

! AutoML thử hàng nghìn cấu hình, nên xác suất tìm được cấu hình tốt do may mắn rất cao. Không hiệu chỉnh theo số lần thử là sai lầm cốt lõi khi dùng AutoML.
! Cấu hình chia dữ liệu mặc định thường là ngẫu nhiên — sai với mọi dữ liệu có thời gian.

Mô hình định lượng dùng trong Data Science

Chưa có mô hình nào gắn riêng cho chủ đề này. Đây là những mô hình của cả ngành — liên quan ở cấp ngành, không phải cấp chủ đề.

Tất cả mô hình →
Transformersắp có

Cơ chế attention, nắm quan hệ xa.

Temporal Convolutional Networksắp có

Tích chập nhân quả với receptive field kiểm soát được.

Deflated Sharpe Ratiohoạt động

Sharpe sau khi phạt vì số lần thử và độ lệch/nhọn của đuôi.

Probability of Backtest Overfittinghoạt động

Tỉ lệ cấu hình thắng in-sample lại xếp dưới trung vị ngoài mẫu.

Sản phẩm liên quan

Nhãn trạng thái gắn theo thực tế.

AutoML Platform sắp có Tự động chọn và huấn luyện mô hình

Câu hỏi thường gặp

AutoML — tự động chọn và huấn luyện mô hình là gì?

AutoML tự động hoá việc chọn mô hình, tiền xử lý và siêu tham số. Nó rút ngắn đáng kể thời gian tới baseline tốt, nhưng không thay được ba việc quan trọng nhất: đặt đúng bài toán, thiết kế đúng cách chia dữ liệu, và hiểu chi phí của từng loại sai lầm.

AutoML — tự động chọn và huấn luyện mô hình được làm như thế nào?

1. Chuẩn bị dữ liệu và định nghĩa chỉ số trước khi chạy AutoML. 2. Cấu hình cách chia dữ liệu đúng với bài toán — đặc biệt với chuỗi thời gian. 3. Giới hạn ngân sách tìm kiếm và ghi lại số cấu hình đã thử. 4. Kiểm định kết quả tốt nhất trên tập chưa từng dùng.

AutoML — tự động chọn và huấn luyện mô hình hay sai ở đâu?

AutoML thử hàng nghìn cấu hình, nên xác suất tìm được cấu hình tốt do may mắn rất cao. Không hiệu chỉnh theo số lần thử là sai lầm cốt lõi khi dùng AutoML. Cấu hình chia dữ liệu mặc định thường là ngẫu nhiên — sai với mọi dữ liệu có thời gian.

Đo automl — tự động chọn và huấn luyện mô hình bằng chỉ số nào?

Chỉ số mục tiêu — do bạn chọn, không do công cụ chọn; Số cấu hình đã thử — đầu vào bắt buộc để đánh giá overfit.

AutoML — tự động chọn và huấn luyện mô hình trên QuantHub đã dùng được chưa?

Chưa xây dựng. Mục này hiện là điều hướng và tài liệu tham chiếu; chúng tôi không gắn nhãn 'live' cho thứ chưa chạy.

Sản phẩm nào của QuantHub phục vụ automl — tự động chọn và huấn luyện mô hình?

AutoML Platform (chưa xây dựng).

Chủ đề khác trong Data Science

Toàn bộ Data Science
Time Series Machine Learning Deep Learning NLP Computer Vision Feature Engineering Anomaly Detection Optimization