OLS là gì? Cách đọc và đánh giá hồi quy tuyến tính

OLS là gì

OLS là viết tắt của Ordinary Least Squares, thường được gọi là phương pháp bình phương tối thiểu thông thường. Trong nghiên cứu định lượng, OLS được dùng để ước lượng mối quan hệ giữa một biến phụ thuộc và một hoặc nhiều biến độc lập trong mô hình hồi quy tuyến tính.

Bạn có thể hình dung mô hình cơ bản như sau:

Y = β0 + β1X1 + β2X2 + ... + βkXk + ε

Trong đó, Y là biến phụ thuộc, X1 đến Xk là các biến độc lập, β0 là hằng số, β1 đến βk là hệ số hồi quy và ε là phần sai số. OLS tìm các hệ số sao cho tổng bình phương phần dư giữa giá trị quan sát và giá trị dự báo là nhỏ nhất.

Nói cụ thể hơn, với mỗi người trả lời, mô hình tạo ra một giá trị Y dự báo. Khoảng cách giữa Y thực tế và Y dự báo được gọi là phần dư. OLS lựa chọn bộ hệ số làm cho tổng bình phương các phần dư này nhỏ nhất. Việc bình phương khiến phần dư dương và âm không triệt tiêu nhau trong quá trình ước lượng.

Khi bạn chạy Linear Regression trong SPSS, phần mềm dùng OLS để ước lượng các hệ số trong mô hình. Vì vậy, OLS không phải là tên của một bảng kết quả riêng trong SPSS. Bạn sẽ đọc nó thông qua các bảng như Model Summary, ANOVA và Coefficients.

Nếu đề tài của bạn có nhiều biến tiềm ẩn được đo bằng nhiều biến quan sát, OLS thường được chạy sau khi bạn đã xử lý thang đo. Bạn có thể xem thêm scale là gì để phân biệt thang đo, biến quan sát và biến tổng hợp trước khi tạo biến đưa vào hồi quy.

Ý nghĩa của OLS trong nghiên cứu định lượng

OLS giúp bạn trả lời câu hỏi: khi một biến độc lập thay đổi, biến phụ thuộc thay đổi theo hướng nào và mức độ bao nhiêu, trong điều kiện các biến độc lập còn lại được giữ trong mô hình. Đây là điểm khác giữa việc chỉ xem tương quan và việc ước lượng một mô hình hồi quy nhiều biến.

Ví dụ, bạn nghiên cứu ý định mua hàng trực tuyến. Các biến độc lập có thể là nhận thức hữu ích, niềm tin và chất lượng thông tin. Biến phụ thuộc là ý định mua. OLS cho phép bạn xem biến nào có hệ số dương hoặc âm, hệ số đó có ý nghĩa thống kê hay không, đồng thời mô hình giải thích được bao nhiêu biến thiên của ý định mua.

Trong thực hành, bạn thường cần đọc bốn nhóm thông tin:

• R Square cho biết tỷ lệ biến thiên của biến phụ thuộc được giải thích bởi các biến độc lập trong mẫu nghiên cứu.
• ANOVA và giá trị Sig. cho biết mô hình tổng thể có ý nghĩa thống kê hay không.
• B trong bảng Coefficients là hệ số hồi quy chưa chuẩn hóa, dùng để viết phương trình hồi quy theo đơn vị gốc.
• Beta là hệ số hồi quy chuẩn hóa, thường được dùng để so sánh mức độ ảnh hưởng tương đối giữa các biến độc lập.

Bạn cũng cần phân biệt OLS với các phân tích có biến điều tiết hoặc trung gian. Khi kiểm tra biến điều tiết, bạn thường thêm biến tương tác vào mô hình. Khi kiểm tra biến trung gian, bạn đánh giá thêm tác động gián tiếp. Hai tình huống này được giải thích cụ thể hơn trong bài moderating và bài mediator.

OLS phù hợp khi biến phụ thuộc được mô hình hóa theo dạng liên tục và quan hệ giữa các biến có thể biểu diễn gần đúng bằng đường thẳng. Nếu biến phụ thuộc là biến nhị phân, chẳng hạn có mua hoặc không mua, logistic regression có thể phù hợp hơn. Nếu biến phụ thuộc là thứ bậc, đếm hoặc tỷ lệ đặc biệt, bạn cần cân nhắc mô hình phù hợp với dạng dữ liệu thay vì ép vào hồi quy tuyến tính.

Nếu bạn sử dụng dữ liệu khảo sát Likert, nhiều luận văn tạo điểm trung bình cho từng thang đo rồi đưa các điểm tổng hợp vào OLS. Cách làm này cần được mô tả rõ trong chương phương pháp, gồm cách tính điểm, số biến quan sát còn lại và lý do giữ hoặc loại từng biến. Một bảng hồi quy đẹp không bù được cho quy trình tạo biến thiếu minh bạch.

OLS bao nhiêu là đạt

OLS không có một con số duy nhất gọi là “đạt”. Bạn cần đánh giá cả mô hình, từng hệ số và các giả định của hồi quy. Một mô hình có R Square cao nhưng bị đa cộng tuyến nghiêm trọng hoặc phần dư không phù hợp vẫn cần được giải trình.

Các ngưỡng dưới đây là mốc tham khảo thường dùng trong luận văn. Mỗi hàng đều ghi nguồn để bạn không tách con số khỏi tài liệu phương pháp.

Mốc p-value < 0.05 cần được hiểu cùng giả thuyết nghiên cứu và mức ý nghĩa bạn đã chọn trong chương phương pháp. Không nên chỉ nhìn một biến có p-value nhỏ rồi kết luận toàn bộ mô hình tốt. Sig. của bảng ANOVA trả lời câu hỏi về mô hình tổng thể, còn Sig. trong bảng Coefficients trả lời câu hỏi về từng hệ số.

Đối với R Square, không có mức đạt chung cho mọi đề tài. Hành vi con người thường chịu ảnh hưởng của nhiều yếu tố, nên R² cần được đặt trong bối cảnh nghiên cứu, số lượng biến và nền tảng lý thuyết. Bạn nên báo cáo cả R² hiệu chỉnh, vì chỉ số này có tính đến số biến độc lập trong mô hình.

Cỡ mẫu cũng cần được kiểm tra trước khi chạy. Với m biến độc lập, công thức tham khảo n từ 50 + 8m theo (Tabachnick và Fidell, 2013) chỉ là một mốc phương pháp. Bạn còn phải tính đến số biến quan sát, tỷ lệ bảng hỏi không hợp lệ và kế hoạch phân tích bổ sung như mediator hoặc moderator.

Cách đọc OLS trên output

Mở SPSS, chọn Analyze > Regression > Linear. Đưa biến phụ thuộc vào ô Dependent, các biến độc lập vào ô Independent(s). Trong Statistics, nên chọn Estimates, Model fit, Collinearity diagnostics và Durbin-Watson. Nếu muốn kiểm tra phần dư, dùng thêm các tùy chọn biểu đồ trong Plots.

Trong Plots, bạn có thể đặt *ZPRED vào trục X và *ZRESID vào trục Y để quan sát phần dư chuẩn hóa so với giá trị dự báo chuẩn hóa. Bạn cũng có thể chọn biểu đồ xác suất chuẩn để xem phần dư có lệch nhiều khỏi dạng kỳ vọng hay không. Những biểu đồ này không biến một mô hình thành “đạt” chỉ bằng mắt nhìn, nhưng giúp bạn phát hiện dấu hiệu cần kiểm tra thêm.

Dưới đây là bảng số liệu minh họa, không phải kết quả của một nghiên cứu thật. Tên cột được giữ theo cách SPSS thường hiển thị để bạn đối chiếu với file đang mở.

Model Summary

R Square = 0.468 nghĩa là ba biến độc lập trong ví dụ giải thích khoảng 46.8% biến thiên của biến phụ thuộc trong mẫu. Adjusted R Square = 0.452 là con số nên ưu tiên khi mô hình có nhiều biến. Durbin-Watson = 1.842 nằm trong khoảng tham khảo từ 1 đến 3.

ANOVA

Ở ví dụ này, Sig. = .000 được SPSS làm tròn. Khi viết, bạn nên ghi p < 0.001, không ghi p bằng 0. Mô hình tổng thể có ý nghĩa thống kê ở mức 5%. Kết quả ANOVA này chưa cho biết biến nào có ý nghĩa, nên bạn phải đọc tiếp bảng Coefficients.

Coefficients

Trong ví dụ, cả ba biến có hệ số B dương và Sig. nhỏ hơn 0.05. Nếu các biến được đo cùng chiều, bạn có thể diễn giải rằng các biến này có mối quan hệ cùng chiều với biến phụ thuộc. Beta = 0.341 của nhận thức hữu ích lớn hơn hai Beta còn lại, nên đây là biến có ảnh hưởng tương đối mạnh hơn trong mô hình minh họa.

Phương trình hồi quy chưa chuẩn hóa của ví dụ là: Y = 0.842 + 0.318X1 + 0.241X2 + 0.176X3. Diễn giải B = 0.318 cần giữ nguyên đơn vị đo: khi nhận thức hữu ích tăng một đơn vị, giá trị dự báo của Y tăng trung bình 0.318 đơn vị, trong điều kiện các biến còn lại không đổi. Đây là diễn giải theo mô hình, không phải cam kết về quan hệ nhân quả ngoài dữ liệu.

Bạn cần đọc VIF để kiểm tra đa cộng tuyến. Các VIF minh họa đều nhỏ hơn 5. Kết quả này chưa đủ để chứng minh mọi giả định đều hoàn hảo, nhưng không cho thấy dấu hiệu vượt mốc VIF đang sử dụng.

Cách viết vào luận văn: “Kết quả hồi quy cho thấy mô hình có ý nghĩa thống kê, F([df1], [df2]) = [giá trị F], p [< hoặc =] [p-value]. Mô hình giải thích [R² hiệu chỉnh]% biến thiên của [biến phụ thuộc]. Biến [tên biến] có tác động [cùng chiều/ngược chiều] đến [biến phụ thuộc], với β = [Beta], p = [p-value].” Bạn thay toàn bộ phần trong ngoặc vuông bằng số liệu thật từ file của mình.

Khi OLS không đạt thì xử lý thế nào

Hãy xử lý theo thứ tự từ dữ liệu đến mô hình, thay vì xóa biến chỉ vì muốn bảng kết quả đẹp hơn. Trước mỗi lần chạy lại, lưu file output hoặc syntax và ghi rõ bạn đã thay đổi điều gì. Lịch sử này giúp bạn trả lời khi giảng viên hỏi vì sao một biến biến mất khỏi mô hình cuối cùng.

Kiểm tra dữ liệu và mã hóa biến

Xem lại giá trị thiếu, mã hóa thang đo và các biến đảo chiều. Một biến đảo chiều chưa được recode có thể làm tương quan và hệ số hồi quy đổi dấu. Kiểm tra bảng tần số, min, max và mean trước khi chạy lại. Các giá trị ngoài khoảng Likert dự kiến thường là dấu hiệu cần kiểm tra dữ liệu gốc.

Nếu có quan sát bất thường, hãy kiểm tra outliers. Bạn cần xác định đó là lỗi nhập liệu, câu trả lời không hợp lệ hay một trường hợp thực tế nhưng khác biệt. Việc xóa một dòng dữ liệu chỉ vì nó làm p-value xấu đi là khó giải trình với giảng viên. Nếu loại quan sát, hãy ghi tiêu chí, số dòng bị loại và kết quả trước, sau khi xử lý.

Kiểm tra đa cộng tuyến

Nếu VIF cao, xem ma trận tương quan giữa các biến độc lập và kiểm tra nội dung khái niệm. Hai thang đo gần như đo cùng một khái niệm có thể tạo ra đa cộng tuyến. Bạn có thể cân nhắc loại biến có cơ sở lý thuyết yếu hơn, gộp khái niệm chỉ khi mô hình lý thuyết cho phép, hoặc thu thập lại dữ liệu nếu vấn đề nằm ở thiết kế bảng hỏi.

Không nên xóa biến độc lập chỉ vì hệ số của nó không có ý nghĩa thống kê. Biến kiểm soát hoặc biến có vai trò lý thuyết vẫn có thể cần giữ lại. Quyết định cuối cùng phải dựa trên mô hình nghiên cứu, chất lượng đo lường và kế hoạch phân tích đã nêu.

Xem lại giả định và dạng mô hình

Kiểm tra quan hệ tuyến tính, phần dư và phương sai không đổi qua biểu đồ phù hợp. Nếu quan hệ giữa X và Y có dạng cong, mô hình tuyến tính đơn giản có thể không mô tả tốt dữ liệu. Khi đó, cần trao đổi lại mô hình nghiên cứu, không nên biến đổi số liệu tùy tiện.

Nếu p-value của một hệ số lớn hơn 0.05, hãy báo cáo kết quả không có ý nghĩa thống kê và đối chiếu với giả thuyết. Không tự đổi mức ý nghĩa sau khi thấy kết quả. Việc loại biến cần dựa trên lý thuyết, chất lượng đo lường và tiêu chí đã nêu trước đó.

Phân biệt OLS với SEM và các chỉ số dễ nhầm

OLS và SEM đều có thể dùng để nghiên cứu quan hệ giữa các biến, nhưng phạm vi khác nhau. OLS thường đưa các biến quan sát hoặc biến tổng hợp trực tiếp vào phương trình hồi quy. SEM có thể đồng thời đánh giá mô hình đo lường, biến tiềm ẩn và mô hình cấu trúc.

Trong CB-SEM, các chỉ số như CFI, TLI, RMSEA và SRMR được dùng để đánh giá độ phù hợp mô hình theo (Hu và Bentler, 1999). Các chỉ số này không nên được đưa vào bài viết về OLS hoặc gán cho kết quả SmartPLS. Với PLS-SEM, bạn thường đọc outer loading, CR, AVE, HTMT, VIF, R², f² và Q².

OLS phù hợp khi mục tiêu là ước lượng một hoặc vài phương trình với biến phụ thuộc dạng liên tục. SEM phù hợp hơn khi câu hỏi nghiên cứu yêu cầu đánh giá đồng thời biến tiềm ẩn, biến quan sát và nhiều quan hệ cấu trúc. SEM không tự động tốt hơn OLS. Mô hình phức tạp hơn cũng đòi hỏi bạn giải thích nhiều lớp kết quả hơn khi bảo vệ.

OLS cũng khác với kiểm định trung gian và điều tiết. Mediator trả lời câu hỏi một biến truyền dẫn tác động như thế nào. Moderator trả lời câu hỏi mối quan hệ có thay đổi theo mức của một biến khác hay không. Bạn có thể xem bài moderator để phân biệt moderator với mediator trước khi lập phương trình có biến tương tác.

Một khác biệt thực tế là OLS dễ triển khai trong SPSS và phù hợp với mô hình hồi quy quan sát được. SEM yêu cầu bạn xác định mô hình đo lường, mô hình cấu trúc và cách đánh giá giá trị hội tụ, giá trị phân biệt. Vì vậy, không nên chọn SEM chỉ vì muốn có nhiều chỉ số hơn. Bạn cũng có thể tham khảo nhóm bài về Thống kê để đặt hồi quy trong quy trình phân tích định lượng rộng hơn.

Lỗi thường gặp

Lỗi đầu tiên là gọi R Square là phần trăm tác động của từng biến. R² là mức giải thích của cả mô hình, không phải phần trăm ảnh hưởng riêng của một biến. Muốn so sánh ảnh hưởng tương đối, bạn xem Standardized Beta, nhưng cũng cần đặt trong bối cảnh thang đo và mô hình.

Lỗi thứ hai là viết Sig. = 0.000. SPSS hiển thị ba chữ số thập phân và giá trị này nên được hiểu là p nhỏ hơn 0.001. Lỗi thứ ba là kết luận quan hệ nhân quả chỉ từ hồi quy với dữ liệu khảo sát cắt ngang. Hãy dùng cách diễn đạt phù hợp với thiết kế nghiên cứu, chẳng hạn “có mối quan hệ” hoặc “có ảnh hưởng theo mô hình giả thuyết”, nếu thiết kế và lý thuyết cho phép.

Lỗi tiếp theo là bỏ qua biến kiểm soát, không báo cáo cỡ mẫu, hoặc chạy nhiều mô hình nhưng chỉ giữ mô hình có kết quả đẹp. Bạn nên lưu syntax, bảng kết quả từng vòng và lý do loại hoặc giữ biến. Nếu dùng một công cụ khác ngoài SPSS, chẳng hạn R, JASP hoặc AMOS, hãy ghi rõ phần mềm và quy trình. Thuê dịch vụ chạy SPSS có thể tiết kiệm thời gian trước mắt nhưng làm tăng rủi ro khi bạn không giải thích được bảng output lúc bảo vệ.

Một lỗi khác là trộn tiêu chí của PLS-SEM và CB-SEM vào OLS. Chẳng hạn, outer loading, AVE và HTMT thuộc nhóm đánh giá mô hình đo lường trong SEM, không phải tiêu chí để kết luận một bảng hồi quy OLS đạt. Hãy lập danh sách chỉ số cần báo cáo trước khi chạy để tránh đưa những con số không có vai trò vào chương 4.

Câu hỏi thường gặp

OLS là gì trong hồi quy tuyến tính?

OLS là phương pháp bình phương tối thiểu thông thường, dùng để ước lượng các hệ số trong mô hình hồi quy tuyến tính. Phương pháp này chọn hệ số sao cho tổng bình phương phần dư giữa giá trị thực tế và giá trị dự báo là nhỏ nhất.

OLS có phải là một kiểm định trong SPSS không?

OLS là phương pháp ước lượng đứng phía sau hồi quy tuyến tính, không phải tên một kiểm định riêng trong menu SPSS. Khi bạn chọn Analyze > Regression > Linear, SPSS tạo các bảng Model Summary, ANOVA và Coefficients để bạn đánh giá mô hình OLS.

OLS bao nhiêu là đạt?

Không có một ngưỡng OLS duy nhất. Bạn cần xem p-value của mô hình và hệ số, R² hiệu chỉnh, VIF, Durbin-Watson, phần dư và sự phù hợp giữa mô hình với lý thuyết. Mốc VIF nhỏ hơn 5 được nêu trong (Hair và cộng sự, 2019), còn Durbin-Watson từ 1 đến 3 được tham khảo theo (Field, 2013).

Vì sao hồi quy OLS không có ý nghĩa thống kê?

Có thể do mối quan hệ thật sự yếu, cỡ mẫu chưa đủ, thang đo có vấn đề, các biến độc lập trùng lặp hoặc mô hình bỏ sót biến quan trọng. Bạn hãy kiểm tra dữ liệu, độ tin cậy thang đo, tương quan, VIF và giả định trước khi quyết định điều chỉnh mô hình.

Nếu mô hình tổng thể có ý nghĩa nhưng một hệ số riêng lẻ không có ý nghĩa, hai kết quả này không mâu thuẫn. ANOVA đánh giá toàn bộ tập biến độc lập, còn bảng Coefficients đánh giá từng biến trong điều kiện các biến khác cùng xuất hiện.

OLS khác SEM như thế nào?

OLS thường ước lượng quan hệ giữa các biến quan sát hoặc biến tổng hợp. SEM cho phép đánh giá đồng thời mô hình đo lường và mô hình cấu trúc, đặc biệt khi đề tài có biến tiềm ẩn. Việc chọn OLS hay SEM phải dựa trên câu hỏi nghiên cứu, loại dữ liệu và mô hình lý thuyết.

Có thể dùng OLS để kiểm tra mediator hoặc moderator không?

Có thể dùng các phương trình hồi quy OLS để kiểm tra một số mô hình mediator hoặc moderator trong SPSS, nhưng cách diễn giải và số phương trình cần thiết sẽ khác hồi quy đơn giản. Với tác động gián tiếp, bạn cần chú ý khoảng tin cậy bootstrap và không chỉ nhìn p-value của một phương trình.

Hãy mở lại file .sav, xác định biến phụ thuộc và các biến độc lập, sau đó chạy lại Analyze > Regression > Linear với các tùy chọn Model fit, Collinearity diagnostics và Durbin-Watson, rồi ghi kết quả theo đúng bảng output. Nếu bạn cần chạy phân tích trên chính file dữ liệu của mình, M4 phân tích của DoThesis hỗ trợ quy trình SPSS và SmartPLS, không thay số liệu thật bằng số liệu mẫu.