Linear regression là gì? Cách đọc kết quả hồi quy tuyến tính
Linear regression là gì
Linear regression, hay hồi quy tuyến tính, là phương pháp dùng một hoặc nhiều biến độc lập để giải thích hoặc dự đoán giá trị của một biến phụ thuộc. Trong luận văn định lượng, bạn thường dùng nó để trả lời câu hỏi như: chất lượng dịch vụ có ảnh hưởng đến sự hài lòng không, giá cả và niềm tin giải thích ý định mua ở mức nào, hoặc yếu tố nào có tác động mạnh hơn đến quyết định sử dụng.
Nếu chỉ có một biến độc lập, đó là simple linear regression. Nếu có từ hai biến độc lập trở lên, đó là multiple linear regression. Các biến này có thể là điểm trung bình của các thang đo sau khi bạn đã kiểm định Cronbach's Alpha và EFA, chẳng hạn CLDV, GC, NT và SHL.
Công thức tổng quát của multiple linear regression là:
Y = β0 + β1X1 + β2X2 + ... + βkXk + ε
Trong đó, Y là biến phụ thuộc, X1 đến Xk là các biến độc lập, β0 là hằng số, β1 đến βk là hệ số hồi quy và ε là sai số. Ví dụ, mô hình nghiên cứu có thể được viết như sau:
SHL = β0 + β1CLDV + β2GC + β3NT + ε
Phương trình này không tự chứng minh quan hệ nhân quả chỉ vì bạn chạy được hồi quy. Kết luận còn phụ thuộc vào thiết kế nghiên cứu, cơ sở lý thuyết, chất lượng thang đo và cách bạn kiểm tra các giả định của mô hình.
Nếu bạn đang đọc các khái niệm nền như scale, có thể xem thêm bài scale là gì. Các bài thuộc nhóm Thống kê cũng giúp bạn đặt hồi quy vào đúng thứ tự phân tích trong luận văn.
Ý nghĩa của linear regression trong nghiên cứu định lượng
Linear regression giúp bạn xem xét đồng thời nhiều biến độc lập trong cùng một mô hình. Chẳng hạn, nếu chỉ so sánh tương quan giữa chất lượng dịch vụ và sự hài lòng, bạn chưa kiểm soát được ảnh hưởng của giá cả hoặc niềm tin. Hồi quy cho phép đánh giá tác động riêng của từng biến khi các biến còn lại cùng xuất hiện trong mô hình.
Có bốn câu hỏi bạn cần trả lời khi đọc kết quả:
- Mô hình có phù hợp với dữ liệu không.
- Các biến độc lập có giải thích được biến phụ thuộc không.
- Từng biến độc lập có ảnh hưởng có ý nghĩa thống kê không.
- Mức độ và chiều tác động của từng biến là gì.
R Square trong bảng Model Summary cho biết tỷ lệ biến thiên của biến phụ thuộc được giải thích bởi các biến độc lập trong mô hình. Ví dụ, R Square = 0.48 có thể được diễn giải là các biến độc lập trong mô hình giải thích 48% sự biến thiên của biến phụ thuộc trong mẫu nghiên cứu. Phần còn lại đến từ các yếu tố chưa đưa vào mô hình và sai số.
Adjusted R Square thường được ưu tiên khi so sánh các mô hình có số lượng biến độc lập khác nhau, vì chỉ số này có điều chỉnh theo số biến và cỡ mẫu. Bạn không nên chỉ nhìn R² rồi kết luận mô hình tốt. Một mô hình có R² cao vẫn có thể gặp vấn đề đa cộng tuyến, vi phạm giả định hoặc sử dụng biến chưa có cơ sở lý thuyết.
Trong hồi quy, Sig. hoặc p-value của từng biến giúp bạn đánh giá giả thuyết. Nếu p-value nhỏ hơn mức ý nghĩa đã chọn, thường là 0.05, bạn có cơ sở thống kê để bác bỏ H0 về hệ số bằng 0. Chiều tác động được đọc từ dấu của B hoặc Beta: hệ số dương cho thấy quan hệ cùng chiều, hệ số âm cho thấy quan hệ ngược chiều trong phạm vi mô hình.
Hồi quy tuyến tính khác với việc chỉ xem một mối quan hệ hai biến. Nó cũng khác với moderator, moderating hoặc mediator, vì các phân tích đó tập trung vào vai trò điều tiết hoặc trung gian và cần cách xây dựng mô hình riêng.
Linear regression bao nhiêu là đạt
Không có một con số duy nhất quyết định toàn bộ mô hình hồi quy đạt hay không. Bạn cần xem đồng thời mức ý nghĩa của mô hình, hệ số từng biến, R², đa cộng tuyến, phần dư và cơ sở lý thuyết. Bảng dưới đây là các ngưỡng thường được dùng trong luận văn, kèm nguồn để bạn không chép một con số không rõ xuất xứ.
| Nội dung cần kiểm tra | Ngưỡng hoặc cách đọc thường dùng | Nguồn |
|---|---|---|
| Ý nghĩa chung của mô hình | Bảng ANOVA có Sig. nhỏ hơn 0.05 | (Field, 2013) |
| Ý nghĩa của từng biến | Sig. nhỏ hơn 0.05, nếu nghiên cứu chọn mức ý nghĩa 5% | (Field, 2013) |
| Đa cộng tuyến | VIF dưới 5 | (Hair và cộng sự, 2019) |
| Tự tương quan phần dư | Durbin-Watson trong khoảng 1 đến 3 | (Field, 2013) |
| Cỡ mẫu cho hồi quy | n từ 50 + 8m trở lên, với m là số biến độc lập | (Tabachnick và Fidell, 2013) |
| Cỡ ảnh hưởng | f² = 0.02 nhỏ, 0.15 trung bình, 0.35 lớn | (Cohen, 1988) |
Các ngưỡng trên cần được dùng đúng ngữ cảnh. Ví dụ, VIF dưới 5 là một dấu hiệu về đa cộng tuyến, nhưng không có nghĩa mô hình tự động tốt ở mọi mặt. Tương tự, p-value lớn hơn 0.05 không chứng minh rằng biến độc lập hoàn toàn không có quan hệ trong thực tế. Nó chỉ cho thấy dữ liệu hiện có chưa đủ bằng chứng thống kê ở mức ý nghĩa bạn đã chọn.
Với cỡ mẫu, m là số biến độc lập đưa vào phương trình, không phải số biến quan sát trong bảng hỏi. Nếu mô hình có 5 biến độc lập, quy tắc 50 + 8m cho ra mức tối thiểu 90 quan sát. Bạn vẫn cần cân nhắc số biến quan sát, kế hoạch loại mẫu, dữ liệu thiếu và yêu cầu riêng của đề tài.
Cách đọc linear regression trên output
Trong SPSS, bạn vào Analyze > Regression > Linear. Đưa biến phụ thuộc vào ô Dependent, các biến độc lập vào ô Independent(s). Ở nút Statistics, nên chọn Estimates, Model fit, Collinearity diagnostics và Durbin-Watson. Ở nút Plots, có thể đưa *ZPRED vào trục X và *ZRESID vào trục Y để quan sát phần dư. Nếu cần lưu phần dư chuẩn hóa hoặc giá trị dự đoán, dùng nút Save.
SPSS thường trả về ba bảng chính: Model Summary, ANOVA và Coefficients. Bảng dưới đây là số liệu minh họa, được dựng để bạn nhận diện vị trí và tên cột trên output. Đây không phải kết quả của một nghiên cứu thực tế.
| Bảng SPSS | Chỉ số hoặc dòng | Số liệu minh họa | Cách đọc |
|---|---|---|---|
| Model Summary | R Square | 0.462 | Các biến độc lập giải thích 46.2% biến thiên của Y |
| Model Summary | Adjusted R Square | 0.449 | R² đã điều chỉnh theo số biến và cỡ mẫu |
| Model Summary | Durbin-Watson | 1.874 | Nằm trong khoảng 1 đến 3 theo tiêu chí tham khảo |
| ANOVA | F | 31.506 | Giá trị kiểm định sự phù hợp chung của mô hình |
| ANOVA | Sig. | 0.000 | Mô hình có ý nghĩa thống kê ở mức 5% |
| Coefficients | CLDV, Unstandardized B | 0.381 | CLDV tăng một đơn vị thì Y dự kiến tăng 0.381 đơn vị, khi biến khác giữ nguyên |
| Coefficients | CLDV, Standardized Beta | 0.402 | Dùng để so sánh độ mạnh tương đối giữa các biến |
| Coefficients | CLDV, Sig. | 0.000 | CLDV có ý nghĩa thống kê trong mô hình minh họa |
| Coefficients | CLDV, VIF | 1.642 | Chưa có dấu hiệu đa cộng tuyến theo ngưỡng VIF dưới 5 |
Đọc bảng Model Summary
Bắt đầu với R Square và Adjusted R Square. Trong ví dụ, Adjusted R Square là 0.449. Bạn có thể viết rằng mô hình giải thích khoảng 44.9% sự biến thiên của biến phụ thuộc sau khi điều chỉnh theo số biến độc lập và cỡ mẫu. Phần diễn giải này chỉ được dùng cho số liệu thật của bạn sau khi kiểm tra mô hình.
Tiếp theo, xem Durbin-Watson. Chỉ số 1.874 nằm trong khoảng 1 đến 3, là khoảng tham khảo thường được dùng để xem xét tự tương quan phần dư trong hồi quy (Field, 2013). Nếu chỉ số nằm sát biên hoặc ngoài khoảng, bạn cần kiểm tra thêm phần dư và cách thu thập dữ liệu, thay vì tự động sửa dữ liệu.
Đọc bảng ANOVA
Trong bảng ANOVA, dòng Regression và cột Sig. cho biết mô hình tổng thể có ý nghĩa thống kê hay không. Với Sig. = 0.000, cách viết phù hợp là p < 0.001, vì SPSS hiển thị 0.000 do làm tròn. Bạn không nên viết p = 0.000, vì p-value không bằng đúng 0.
Nếu Sig. lớn hơn 0.05, mô hình tổng thể chưa có đủ bằng chứng thống kê ở mức 5%. Khi đó, chưa nên chuyển thẳng sang kết luận từng giả thuyết. Hãy kiểm tra lại mô hình, dữ liệu, giả định và sự phù hợp giữa mô hình lý thuyết với biến đã đo.
Đọc bảng Coefficients
Bảng Coefficients có các cột quan trọng là B, Std. Error, Beta, t, Sig., Tolerance và VIF. Unstandardized B dùng để viết phương trình hồi quy theo đơn vị gốc. Standardized Beta giúp so sánh tương đối biến nào có hệ số lớn hơn trong cùng mô hình.
Ví dụ, nếu CLDV có B = 0.381, Beta = 0.402 và Sig. = 0.000, bạn có thể nói CLDV có tác động cùng chiều và có ý nghĩa thống kê đến Y trong mô hình minh họa. Kết luận về giả thuyết cần đối chiếu thêm với dấu tác động được dự đoán trong mô hình nghiên cứu.
Cách viết vào luận văn: “Kết quả hồi quy cho thấy [tên biến độc lập] tác động [cùng chiều/ngược chiều] đến [tên biến phụ thuộc] với hệ số Beta = [giá trị], Sig. = [giá trị]. Do Sig. [nhỏ hơn/lớn hơn] 0.05, giả thuyết H[ ] được [chấp nhận/không được chấp nhận] ở mức ý nghĩa 5%.” Bạn thay toàn bộ phần trong ngoặc vuông bằng kết quả thật, đồng thời dùng cách gọi giả thuyết mà đề tài của bạn đã quy ước.
Khi linear regression không đạt thì xử lý thế nào
Bạn nên xử lý theo thứ tự từ nguyên nhân dễ kiểm tra đến vấn đề khó thay đổi trong thiết kế nghiên cứu.
Kiểm tra mã hóa và dữ liệu đầu vào
Xem lại biến đảo chiều, giá trị thiếu, mã ngoài phạm vi và cách tính biến đại diện. Một biến quan sát bị nhập ngược có thể làm điểm trung bình của thang đo sai hướng. Kiểm tra thêm các trường hợp bất thường bằng outliers, nhưng không xóa một dòng chỉ vì nó làm p-value đẹp hơn.
Kiểm tra đa cộng tuyến
Nếu VIF cao, xem ma trận tương quan, nội dung khái niệm của các biến và bảng Coefficients. Hai biến độc lập đo gần như cùng một nội dung có thể làm hệ số riêng của từng biến dao động mạnh. Bạn có thể cân nhắc loại một biến, gộp biến khi có cơ sở lý thuyết, hoặc giữ nguyên và giải trình rõ nếu các biến đại diện cho khái niệm khác nhau.
Kiểm tra phần dư và dạng quan hệ
Hồi quy tuyến tính giả định quan hệ phù hợp giữa biến độc lập và biến phụ thuộc, phần dư không có mẫu hình bất thường và phương sai phần dư không thay đổi quá mạnh. Xem scatterplot giữa ZPRED và ZRESID, biểu đồ phân phối phần dư và các chỉ báo chẩn đoán. Nếu quan hệ thực tế không tuyến tính, việc ép dữ liệu vào mô hình tuyến tính có thể làm diễn giải thiếu thuyết phục.
Xem lại mô hình lý thuyết
Nếu một giả thuyết không có ý nghĩa, bạn không nên chạy lại nhiều lần chỉ để tìm một p-value dưới 0.05. Có thể biến đó thật sự không giải thích được Y trong bối cảnh mẫu của bạn, hoặc thang đo, cỡ mẫu và cách chọn mẫu chưa phù hợp. Giữ kết quả không có ý nghĩa và giải thích có căn cứ thường an toàn hơn việc chỉnh dữ liệu.
Khi dữ liệu không đạt, các lựa chọn như biến đổi biến, thêm biến kiểm soát hoặc dùng mô hình khác phải xuất phát từ câu hỏi nghiên cứu. Bạn có thể dùng JASP hoặc R để kiểm tra lại, nhưng phần mềm khác không biến một mô hình sai giả định thành mô hình đúng. AMOS phù hợp với CB-SEM và có nhóm chỉ số fit riêng, còn SmartPLS dùng PLS-SEM, vì vậy không nên đổi công cụ chỉ để tìm ngưỡng đẹp hơn.
Phân biệt linear regression với correlation
Correlation đo mức độ và chiều liên hệ giữa hai biến, thường không đặt một biến vào vai trò phụ thuộc và biến kia vào vai trò độc lập theo cách đầy đủ như hồi quy. Hệ số tương quan không cho bạn biết một nhóm nhiều biến độc lập giải thích Y bao nhiêu phần trăm, cũng không cung cấp phương trình dự đoán như hồi quy.
Linear regression cũng dễ bị nhầm với mediation và moderation. Trong mediation, một biến trung gian giải thích cơ chế từ X đến Y. Trong moderation, biến điều tiết làm thay đổi độ mạnh hoặc chiều của quan hệ X và Y. Hai khái niệm này cần biến tương tác hoặc hiệu ứng gián tiếp tùy mô hình, không thể kết luận chỉ bằng việc nhìn một hệ số hồi quy đơn lẻ.
Bạn cũng cần phân biệt B và Beta. B nằm trên thang đo gốc, nên dùng để viết phương trình. Beta đã chuẩn hóa, phù hợp hơn khi so sánh độ mạnh tương đối giữa các biến độc lập. Không nên dùng Beta để nói Y tăng chính xác bao nhiêu đơn vị gốc.
Lỗi thường gặp
Lỗi đầu tiên là nhìn thấy Sig. = 0.000 rồi ghi p = 0.000. Hãy ghi p < 0.001. Lỗi thứ hai là gọi mọi hệ số có p-value nhỏ hơn 0.05 là “tác động mạnh”. Ý nghĩa thống kê và độ lớn tác động là hai nội dung khác nhau.
Lỗi thứ ba là chỉ báo cáo R² mà bỏ qua Adjusted R², ANOVA, VIF và Durbin-Watson. Một bảng kết quả đủ cần cho người đọc thấy mô hình có ý nghĩa, từng biến ra sao và giả định cơ bản được xem xét thế nào.
Lỗi thứ tư là xóa outlier hoặc loại biến sau nhiều lần chạy nhưng không lưu lịch sử. Bạn nên giữ file dữ liệu gốc, tạo phiên bản làm sạch riêng và ghi lý do mỗi thay đổi. Khi được hỏi, bạn cần giải thích được biến nào bị loại, tiêu chí nào được dùng và kết quả thay đổi ra sao.
Lỗi cuối là đưa hồi quy vào luận văn khi các biến chưa có cơ sở lý thuyết. SPSS chỉ tính toán theo những cột bạn đưa vào. Nó không xác định giúp bạn quan hệ nghiên cứu, chiều giả thuyết hay ý nghĩa của khái niệm.
Câu hỏi thường gặp
Linear regression là gì, giải thích dễ hiểu thế nào?
Bạn có thể hiểu đây là cách ước lượng xem một hoặc nhiều yếu tố liên quan đến một kết quả như thế nào, đồng thời cho biết mô hình giải thích được bao nhiêu phần biến thiên của kết quả. Ví dụ, bạn dùng chất lượng dịch vụ, giá cả và niềm tin để giải thích sự hài lòng.
Linear regression bao nhiêu là đạt?
Không có một ngưỡng duy nhất cho toàn bộ hồi quy. Bạn cần xem Sig. của ANOVA, Sig. của từng biến, R² hoặc Adjusted R², VIF, Durbin-Watson và các biểu đồ phần dư. Các ngưỡng chỉ là tiêu chí tham khảo, không thay thế cho lập luận lý thuyết và kiểm tra dữ liệu.
P-value trong hồi quy lớn hơn 0.05 thì phải làm sao?
Trước hết, kiểm tra mã hóa, dữ liệu thiếu, outlier, đa cộng tuyến và giả định mô hình. Nếu các kiểm tra đều hợp lý, hãy báo cáo rằng biến chưa có ý nghĩa thống kê trong mẫu nghiên cứu, thay vì tự động xóa biến hoặc sửa số liệu.
R Square thấp có chạy hồi quy được không?
R² thấp không tự động làm mô hình vô dụng. Mức chấp nhận phụ thuộc lĩnh vực, mục tiêu nghiên cứu và các biến đã đưa vào. Bạn cần diễn giải đúng rằng mô hình giải thích một phần biến thiên của Y, đồng thời nêu các yếu tố khác chưa được xem xét nếu có cơ sở.
Có cần kiểm tra VIF khi chạy hồi quy không?
Có, đặc biệt khi mô hình có nhiều biến độc lập hoặc các khái niệm có nội dung gần nhau. Trong bảng Coefficients, xem VIF và Tolerance, sau đó kết hợp với tương quan giữa các biến và ý nghĩa lý thuyết. VIF là chỉ báo chẩn đoán, không phải lý do duy nhất để xóa biến.
Mở file .sav của bạn, ghi lại tên biến phụ thuộc và các biến độc lập, sau đó chạy lần lượt Model Summary, ANOVA và Coefficients trước khi viết kết luận. Nếu cần chạy hồi quy trên dữ liệu thật và chuyển output thành phần phân tích, bạn có thể dùng module M4 phân tích dữ liệu.