Tự động hóa hoàn toàn là một viễn cảnh đầy hấp dẫn. Tuy nhiên, trong các quyết định kinh doanh quan trọng – những quyết định liên quan đến rủi ro, lợi nhuận, tuân thủ quy định và khách hàng – chỉ riêng trí tuệ nhân tạo (AI) thường là chưa đủ. Trong bối cảnh CNTT của Ý, việc áp dụng các quy trình Human-in-the-Loop đang tăng tốc: tại các doanh nghiệp công nghệ có dưới 250 nhân viên, việc sử dụng AI HITL để phân tích dữ liệu đã tăng 40% trong sáu tháng, từ 6,3% lên 8,8% tính đến tháng 9 năm 2025, theo dữ liệu được báo cáo bởi Software Oasis. Đây không phải là một chi tiết kỹ thuật. Đây là một tín hiệu chiến lược.
Lý do rất đơn giản. Trí tuệ nhân tạo (AI) rất giỏi trong việc xử lý khối lượng dữ liệu lớn, tốc độ và tính lặp lại. Con người lại tỏa sáng khi cần đến bối cảnh, khả năng phán đoán và trách nhiệm. Nếu tách biệt hai lĩnh vực này, bạn sẽ phải đối mặt với tình trạng chậm chạp hoặc sai sót. Nếu kết hợp chúng một cách hài hòa, bạn sẽ biến phân tích dữ liệu thành một hệ thống ra quyết định vững chắc hơn.
Chính vì vậy, phân tích AI có sự tham gia của con người (human-in-the-loop) đang trở thành một mô hình vận hành, chứ không chỉ đơn thuần là một lĩnh vực công nghệ. Đối với nhiều doanh nghiệp vừa và nhỏ (SME) tại Ý, đây cũng là cách thực tế nhất để áp dụng AI mà không cần phải xây dựng một đội ngũ chuyên gia dữ liệu từ đầu. Điều này giải thích tại sao việc thiết kế lời nhắc (prompt engineering) một mình không mang lại nhiều giá trị khi vấn đề thực sự không phải là tạo ra một câu trả lời, mà là đưa ra một quyết định đáng tin cậy.
Một hệ thống hoàn toàn tự động sẽ hoạt động hiệu quả miễn là mọi thứ diễn ra đúng như dự kiến. Vấn đề là hoạt động kinh doanh, khách hàng, chuỗi cung ứng và các hành vi gian lận không bao giờ tuân theo một kịch bản rõ ràng. Chỉ cần một sự bất thường, một thay đổi về quy định hoặc một tín hiệu mơ hồ, kết quả đúng về mặt thống kê cũng có thể trở thành một quyết định sai lầm về mặt kinh doanh.
Đó chính là logic đằng sau HITL. Hệ thống này không bổ sung thêm một nhân viên kiểm duyệt “ở giai đoạn sau” chỉ vì lý do thận trọng về mặt thủ tục hành chính. Thay vào đó, nó tái cấu trúc quy trình để AI hoạt động ở những lĩnh vực mà nó mạnh nhất và chỉ yêu cầu sự can thiệp của con người khi thực sự cần thiết.
Mục tiêu không phải là làm chậm quá trình tự động hóa. Mà là ngăn chặn việc tự động hóa đưa ra những quyết định sai lầm, vốn gây tốn kém nhất.
Đối với một nhà lãnh đạo doanh nghiệp giàu kinh nghiệm, điều này thay đổi bản chất của câu hỏi. Không còn là “tôi có thể tự động hóa đến mức nào?”, mà là “phần nào của quyết định cần phải mang tính bối cảnh, có thể giải thích được và có thể kiểm soát được?”. Chính ở điểm này, phân tích AI kết hợp con người (human-in-the-loop) trở thành lợi thế cạnh tranh, đặc biệt trong lĩnh vực tài chính và bán lẻ, nơi tốc độ và sự phán đoán cần phải song hành.
Đối với một doanh nghiệp, HITL không chỉ là một chức năng kỹ thuật bổ sung. Đây là một mô hình vận hành giúp xác định ai sẽ đảm nhận nhiệm vụ gì giữa hệ thống và con người trong suốt quy trình phân tích.
Trong phân tích AI có sự tham gia của con người (human-in-the-loop), AI sẽ phân tích khối lượng lớn dữ liệu, đưa ra phân loại, dự báo hoặc cảnh báo, sau đó chỉ chuyển những trường hợp cần đến phán đoán dựa trên bối cảnh sang cho con người xử lý. Điều này thường xảy ra, ví dụ như khi tín hiệu không rõ ràng, giá trị kinh tế của quyết định là rất cao, hoặc rủi ro về mặt pháp lý không cho phép đưa ra phản hồi tự động mà không qua kiểm tra.
Mối quan hệ này giống như mối quan hệ giữa một phi công thương mại và hệ thống lái tự động. Máy móc xử lý tốt những phần tiêu chuẩn và lặp đi lặp lại. Con người thì đảm nhiệm những khâu quan trọng đòi hỏi kinh nghiệm, sự am hiểu bối cảnh và tinh thần trách nhiệm.
Cụ thể, chu trình này hoạt động như sau:
Đây chính là điểm khác biệt giữa lý thuyết và ROI. Một hệ thống HITL hiệu quả sẽ không chuyển toàn bộ công việc sang kiểm tra thủ công. Nếu làm vậy, hệ thống sẽ đánh mất lợi thế về quy mô mà tự động hóa mang lại. Ngược lại, nếu luôn để mô hình tự quyết định, doanh nghiệp sẽ phải đối mặt với những sai sót gây tổn thất lớn. Giá trị thực sự đến từ việc lựa chọn thông minh những điểm mà sự can thiệp của con người thực sự có thể thay đổi kết quả kinh tế hoặc cấu trúc rủi ro.
Đối với một doanh nghiệp vừa và nhỏ (SME) của Ý, khía cạnh này còn quan trọng hơn cả mức độ tinh vi của thuật toán. Trong lĩnh vực tài chính, điều này có nghĩa là chỉ để nhà phân tích xem xét các hồ sơ có biểu hiện bất thường hoặc tài liệu không nhất quán. Trong lĩnh vực bán lẻ, điều này có nghĩa là chỉ chuyển đến người quản lý danh mục sản phẩm hoặc người phụ trách thương mại điện tử những cảnh báo về giá cả, hàng tồn kho hoặc tỷ lệ khách hàng rời bỏ mà hệ thống không thể phân tích với độ chính xác đủ cao. Các nền tảng như ELECTE mô hình này ELECTE khả thi ngay cả khi không có đội ngũ chuyên gia dữ liệu nội bộ, bởi vì chúng biến phản hồi hoạt động thành một phần có cấu trúc của quy trình.
Để tránh nhầm lẫn, nên phân biệt ba mô hình này.
| Mẫu | Cách thức hoạt động | Nơi nào phù hợp nhất |
|---|---|---|
| Con người tham gia vào quy trình | Người đó chủ động can thiệp vào các trường hợp được lựa chọn | Các quyết định có tác động lớn, tài chính, lĩnh vực bán lẻ then chốt |
| Hệ thống có sự can thiệp của con người | Người này chỉ giám sát và can thiệp khi tình huống leo thang | Các quy trình đã được hoàn thiện với khối lượng lớn |
| Không có sự can thiệp của con người | Hệ thống tự động quyết định | Các công việc lặp đi lặp lại và có mức độ rủi ro thấp |
Sự khác biệt nằm ở khía cạnh cấu trúc, chứ không phải về mặt ngữ nghĩa. Nó xác định thời gian phản hồi, chi phí vận hành, chất lượng quyết định và mức độ kiểm soát mà ban lãnh đạo duy trì đối với quy trình.
Một nguyên tắc hữu ích rất đơn giản. Phương pháp HITL chỉ thực sự hiệu quả khi chi phí cho một lần kiểm tra có mục tiêu thấp hơn chi phí tiềm ẩn do một lỗi tự động gây ra. Chính vì vậy, phương pháp này thường được áp dụng dễ dàng hơn trong các quy trình mà chỉ cần một vài trường hợp sai sót cũng có thể làm giảm lợi nhuận, gây ra mâu thuẫn với khách hàng hoặc dẫn đến vấn đề tuân thủ.
Tóm lại, phân tích AI có sự tham gia của con người (human-in-the-loop) không bổ sung thêm nhân lực chỉ vì lý do thận trọng. Thay vào đó, nó giao cho con người những công đoạn mà sự phán đoán của họ mang lại nhiều giá trị kinh tế nhất và giúp tăng cường khả năng kiểm soát quản lý.
Đối với một nhà lãnh đạo doanh nghiệp, vấn đề không phải là tăng cường sự kiểm soát của con người chỉ vì thận trọng. Vấn đề là phân bổ sự phán đoán của con người vào những nơi mà tự động hóa mất đi tính hiệu quả về mặt kinh tế. HITL phát huy hiệu quả khi nó giúp giảm chi phí do sai sót gây ra nhiều hơn so với việc làm tăng chi phí của quy trình.
Điều này thay đổi cách chúng ta đánh giá giá trị của phân tích AI. Một mô hình thuần túy tối ưu hóa quy mô và tốc độ. Trong khi đó, mô hình “human-in-the-loop” tối ưu hóa sự cân bằng giữa tự động hóa và chất lượng ra quyết định ở những giai đoạn ảnh hưởng trực tiếp đến biên lợi nhuận, rủi ro và niềm tin nội bộ. Đối với nhiều doanh nghiệp vừa và nhỏ (SME) của Ý, đặc biệt là trong lĩnh vực tài chính và bán lẻ, đây là một sự khác biệt chiến lược. Không cần phải theo đuổi tự động hóa hoàn toàn. Cần tự động hóa tốt các luồng công việc có khối lượng lớn và để con người can thiệp trong những trường hợp có thể gây ra tổn thất, tranh chấp hoặc các quyết định kinh doanh sai lầm.
Giá trị nằm ở những điểm gây cản trở trong quy trình, chứ không phải ở việc kiểm soát của con người.
Có ba lợi ích luôn được nhắc đến:
Kết quả kinh doanh rất rõ ràng: sẽ có ít quyết định được chấp nhận tự động mà không qua kiểm tra hơn ở những khâu mà sai sót có thể gây ra tổn thất lớn nhất.
Một ví dụ minh họa hữu ích là quy trình kiểm soát chất lượng trong công nghiệp. Không có doanh nghiệp nào nghiêm túc lại cử nhân viên kiểm tra từng sản phẩm nếu lỗi đó hiếm gặp và chi phí khắc phục thấp. Tuy nhiên, không có doanh nghiệp nào lại bỏ qua việc kiểm tra các lô hàng mà ở đó một sai sót có thể dẫn đến việc khách hàng trả hàng, bị phạt hoặc tổn hại đến uy tín. HITL áp dụng cùng một logic này cho các quyết định dựa trên dữ liệu. Hệ thống này chỉ tiến hành lấy mẫu, lọc và báo cáo lên cấp trên khi rủi ro thực sự đòi hỏi phải làm như vậy.
Chính vì vậy, phương pháp này cũng rất hữu ích đối với các doanh nghiệp không có đội ngũ chuyên gia phân tích dữ liệu. Các nền tảng như ELECTE sự phức tạp trong vận hành bằng cách biến phản hồi từ những người làm việc trong các lĩnh vực tín dụng, định giá, hàng tồn kho hoặc khách hàng thành một bước xử lý dễ quản lý trong quy trình làm việc, thay vì một dự án kỹ thuật riêng biệt.
Những lợi ích không tự động xuất hiện. Một quy trình được thiết kế kém vẫn chỉ là một quy trình được thiết kế kém, ngay cả khi có sự tham gia của một người kiểm tra.
Những rủi ro phổ biến nhất là:
Một dự án HITL thường thất bại vì một lý do rất cụ thể. Doanh nghiệp đưa nhân viên vào một quy trình tự động mà không điều chỉnh lại các điểm ra quyết định, thời gian can thiệp và các tiêu chí để một trường hợp được chuyển sang giai đoạn xem xét.
Còn có một sai lầm trong cách tiếp cận quản lý. Một số đội ngũ coi HITL như một giai đoạn tạm thời, chỉ hữu ích cho đến khi mô hình đủ “hoàn thiện” để tự vận hành. Trong các quy trình có tác động lớn, giả định này hiếm khi đúng. Trong lĩnh vực tín dụng, chống gian lận, lựa chọn sản phẩm hoặc định giá khuyến mãi, việc giám sát có chọn lọc không phải là một chi phí dư thừa cần loại bỏ. Đây là một thành phần ổn định của mô hình hoạt động, vì nó bảo vệ báo cáo kết quả kinh doanh và giúp các quyết định trở nên hợp lý.
Vì vậy, câu hỏi không phải là liệu có nên loại bỏ hoàn toàn sự giám sát hay không. Câu hỏi ở đây là: ở đâu thì sự giám sát mang lại lợi tức đầu tư (ROI) cao nhất, và ở đâu thì nó lại cản trở tiến trình mà không tạo ra giá trị. Phần lớn lợi tức đầu tư phụ thuộc vào sự phân biệt này, đặc biệt là đối với các doanh nghiệp vừa và nhỏ (SME) – những đơn vị phải triển khai phân tích trí tuệ nhân tạo (AI) với nguồn lực hạn chế và các mục tiêu có thể đo lường được trong thời gian ngắn.
Trong lĩnh vực tài chính, giá trị của HITL thể hiện rõ nhất trong những trường hợp có tác động lớn nhất đến báo cáo kết quả kinh doanh và trách nhiệm pháp lý. Không phải ở các quy trình tiêu chuẩn – vốn đã được tự động hóa xử lý hiệu quả – mà là ở những quyết định mang tính mơ hồ cao, nơi một sai sót có thể gây ra tổn thất về thời gian, uy tín hoặc dẫn đến các cuộc kiểm toán.
Ví dụ rõ ràng nhất là công tác phòng chống rửa tiền. Mô hình này phân tích khối lượng giao dịch khổng lồ, xác định các mẫu bất thường và xếp hạng mức độ ưu tiên cho từng trường hợp. Chuyên viên phân tích chỉ can thiệp khi cần đến sự phán đoán chủ quan. Trên thực tế, trí tuệ nhân tạo (AI) hoạt động như một hệ thống phân loại tốc độ cao, trong khi nhân viên tuân thủ sẽ xử lý các trường hợp ngoại lệ đòi hỏi bối cảnh cụ thể, kinh nghiệm và khả năng đưa ra lý do cho quyết định.
Hãy xem xét trường hợp một khách hàng doanh nghiệp có các giao dịch bất thường so với lịch sử giao dịch trước đó. Một hệ thống tự động có thể phân loại trường hợp này là đáng ngờ do phát hiện sự chênh lệch về mặt thống kê. Ngược lại, một nhà phân tích có thể liên hệ sự chênh lệch đó với việc tái cơ cấu doanh nghiệp, một giai đoạn kinh doanh theo mùa hoặc các tài liệu đã có sẵn trong hệ thống nội bộ.
Đây chính là nơi tạo ra ROI thực sự.
Nếu mọi trường hợp bất thường đều được coi là rủi ro cao, ngân hàng sẽ làm gia tăng số lượng kết quả dương tính giả, làm chậm tiến độ của các đội kiểm soát và làm mất thời gian dành cho những trường hợp thực sự nghiêm trọng. Ngược lại, nếu mô hình lọc ra và nhân viên kiểm tra xác nhận các trường hợp nằm trong vùng xám, tổ chức sẽ giảm được chi phí vận hành của quá trình kiểm tra mà không làm ảnh hưởng đến chất lượng giám sát. Đối với một doanh nghiệp tài chính quy mô vừa và nhỏ hoặc một tổ chức có đội ngũ tuân thủ quy mô nhỏ, điều này ảnh hưởng đến tính bền vững của quy trình nhiều hơn là độ chính xác lý thuyết của mô hình.
Đối với những ai muốn xem chủ đề này được áp dụng như thế nào trong thực tế, video này sẽ là một tài liệu tham khảo hữu ích:
Trong lĩnh vực tín dụng, logic cũng tương tự, nhưng lợi ích về mặt quản lý lại càng rõ ràng hơn. Một mô hình chấm điểm có thể xử lý nhanh chóng nhiều biến số có cấu trúc. Tuy nhiên, một số hồ sơ vẫn khó đánh giá bằng các quy tắc tiêu chuẩn, ví dụ như người làm việc tự do, doanh nghiệp siêu nhỏ, các công ty có tính mùa vụ rõ rệt hoặc tình hình tài sản không ổn định.
Trong những trường hợp này, HITL giúp cải thiện ba chỉ số hoạt động:
Đối với một nhà lãnh đạo doanh nghiệp giàu kinh nghiệm, điểm mấu chốt về mặt chiến lược nằm ở đây. HITL không chỉ đơn thuần thêm một bước phê duyệt thủ công vào cuối quy trình. Nó tái cấu trúc quy trình ra quyết định để tập trung sự chuyên môn chỉ vào những nơi mà tự động hóa có khả năng xảy ra sai sót cao nhất hoặc nơi tác động về mặt quy định là lớn nhất.
Về mặt pháp lý, cần duy trì một lập trường thận trọng. Không nên coi một quy định cụ thể của Consob về HITL trong lĩnh vực phân tích trí tuệ nhân tạo (AI) là điều hiển nhiên nếu không có căn cứ pháp lý trực tiếp và có thể kiểm chứng tại chính điều khoản đó. Tuy nhiên, xu hướng là rõ ràng: trong các hoạt động tuân thủ, kiểm soát và cấp tín dụng, các yêu cầu về khả năng truy vết, giám sát của con người và việc giải thích lý do cho các quyết định tự động đang ngày càng gia tăng.
Đối với các doanh nghiệp vừa và nhỏ (SME) của Ý, sự khác biệt này rất quan trọng. Một dự án HITL được thiết kế tốt không nhất thiết phải có một đội ngũ chuyên gia dữ liệu nội bộ. Dự án này cần một nền tảng có thể chuyển tiếp các trường hợp nghi vấn, thu thập phản hồi, duy trì dấu vết kiểm toán và đơn giản hóa công việc của các đội ngũ tài chính và rủi ro. Đây chính là nơi các công cụ như ELECTE rào cản tiếp cận. Chúng đưa HITL từ một kiến trúc lý thuyết thành một quy trình có thể đo lường được, mang lại những lợi ích cụ thể về thời gian kiểm toán, chất lượng quyết định và chi phí tuân thủ.
Trong lĩnh vực bán lẻ, sai lầm tốn kém nhất không xuất phát từ một dự báo thiếu chính xác về mặt lý thuyết. Nó xuất phát từ một dự báo chính xác dựa trên dữ liệu lịch sử nhưng lại sai lệch so với bối cảnh thực tế của cửa hàng, khu vực hoặc tuần khuyến mãi. Chính vì vậy, phương pháp “human-in-the-loop” mang lại giá trị thực tiễn trực tiếp. Phương pháp này đưa yếu tố đánh giá thương mại vào những trường hợp mà mô hình, nếu hoạt động độc lập, có nguy cơ phân tích quá khứ một cách chính xác nhưng lại chậm trễ trong việc phản ánh hiện tại.
Một nhà bán lẻ sử dụng trí tuệ nhân tạo (AI) để dự báo nhu cầu, đặt hàng bổ sung và phân bổ hàng tồn kho giữa các kênh và cửa hàng. Mô hình này nhận diện được tính mùa vụ, xu hướng bán hết hàng, tác động của các chương trình khuyến mãi trước đó và tốc độ luân chuyển theo SKU. Tuy nhiên, người quản lý danh mục sản phẩm lại nhận thấy những tín hiệu hiếm khi xuất hiện ngay trong bộ dữ liệu: một nội dung trên mạng xã hội làm tăng nhu cầu, một lễ hội địa phương, sự chậm trễ từ nhà cung cấp, hoặc một chiến dịch quảng cáo mạnh mẽ của đối thủ cạnh tranh trong cùng khu vực.
Vấn đề không phải là luôn luôn điều chỉnh mô hình. Vấn đề là chỉ can thiệp khi chi phí của sai sót cao hơn chi phí của việc kiểm tra thủ công. Trong lĩnh vực bán lẻ, điều này thường xảy ra với các sản phẩm theo mùa, các mặt hàng có biên lợi nhuận cao, các đợt ra mắt khuyến mãi và các bộ sưu tập sản phẩm địa phương.
Đối với một doanh nghiệp vừa và nhỏ (SME) của Ý, lợi ích mang lại là rất thiết thực. Ít tình trạng hết hàng hơn đối với những sản phẩm thực sự bán chạy. Ít vốn bị ứ đọng hơn vào các mặt hàng bán chậm. Ít phải giảm giá ép buộc vào cuối chu kỳ hơn. Nói cách khác, HITL hoạt động như một tháp điều khiển: Trí tuệ nhân tạo (AI) quản lý các hoạt động thường ngày, còn người phụ trách kinh doanh sẽ xử lý các trường hợp ngoại lệ có thể ảnh hưởng đến lợi nhuận và chất lượng dịch vụ.
Sự chậm trễ trong việc áp dụng khiến phương pháp này càng trở nên quan trọng hơn. Theo ISTAT, chỉ có một tỷ lệ hạn chế các doanh nghiệp có ít nhất 10 nhân viên sử dụng công nghệ trí tuệ nhân tạo, với sự chênh lệch lớn về quy mô doanh nghiệp và ngành nghề, như được nêu trong báo cáo chính thức về việc sử dụng CNTT trong các doanh nghiệp: ISTAT, Doanh nghiệp và CNTT. Đối với nhiều doanh nghiệp vừa và nhỏ, vấn đề không phải là liệu AI có hữu ích hay không. Mà là làm thế nào để áp dụng nó mà không cần xây dựng một đội ngũ kỹ thuật chuyên trách. Một nền tảng đưa nhà quản lý vào vòng lặp ra quyết định sẽ giúp giảm bớt rào cản này.
Quy tắc này cũng áp dụng cho lĩnh vực định giá và tiếp thị, nơi việc tự động hóa hoàn toàn có thể giúp tăng tốc độ nhưng cũng có thể dẫn đến những quyết định thiếu tầm nhìn.
Ở đây, một yếu tố chiến lược thường bị đánh giá thấp được nêu ra. Trong lĩnh vực bán lẻ, mục tiêu không phải là tối ưu hóa từng dự báo riêng lẻ. Mục tiêu là đưa ra những quyết định có thể lặp lại nhằm bảo vệ biên lợi nhuận, đảm bảo hàng hóa luôn có sẵn trên kệ và duy trì tính nhất quán trong hoạt động kinh doanh. HITL giúp chuyển hướng công việc của con người từ các hoạt động lặp đi lặp lại sang xử lý các trường hợp ngoại lệ có tác động lớn.
Đối với một doanh nghiệp thương mại điện tử hay một chuỗi cửa hàng địa phương, sự khác biệt này còn quan trọng hơn cả mức độ phức tạp của mô hình. Một hệ thống dự đoán chỉ đưa ra cảnh báo. Trong khi đó, hệ thống có sự tham gia của con người (human-in-the-loop) giúp đội ngũ ra quyết định sớm hơn, dựa trên bối cảnh đầy đủ hơn và giảm thiểu các rào cản vận hành. Và chính ở điểm này, các giải pháp như ELECTE hấp dẫn đối với các doanh nghiệp vừa và nhỏ (SME). Chúng giúp hiện thực hóa một quy trình mà chỉ vài năm trước đây dường như chỉ dành riêng cho các nhà bán lẻ có chuyên gia phân tích dữ liệu nội bộ và ngân sách quy mô doanh nghiệp.
Một mô hình HITL chỉ thực sự hữu ích khi quy trình vận hành có thể được những người ra quyết định dễ dàng nắm bắt. Nếu việc kiểm tra yêu cầu sự tham gia của các nhà khoa học dữ liệu, các truy vấn thủ công hoặc các bước kỹ thuật phức tạp, nhiều doanh nghiệp vừa và nhỏ sẽ từ bỏ ngay từ khi chưa bắt đầu.
Trên một nền tảng được thiết kế tốt, quy trình sẽ diễn ra như sau:
Kết nối với các nguồn dữ liệu
: CRM, ERP, thương mại điện tử, bảng tính và hệ thống tài chính được tích hợp vào cùng một luồng thông tin.
Phân tích tín hiệu tự động
Trí tuệ nhân tạo (AI) xử lý dữ liệu và tạo ra các dự báo, cảnh báo, báo cáo và phát hiện các bất thường.
Xác định mức độ tin cậy và mức độ ưu tiên
Không phải mọi thông tin chi tiết đều có giá trị như nhau. Một số thông tin rất rõ ràng, trong khi một số khác cần được xem xét lại.
Chuyển tiếp có chọn lọc đến người dùng
Các trường hợp chưa rõ ràng hoặc có tác động lớn sẽ được chuyển đến bảng điều khiển xem xét.
Phản hồi từ con người
Người quản lý sẽ xác nhận, chỉnh sửa hoặc từ chối thông tin chi tiết dựa trên bối cảnh hiển thị.
Học tập liên tục
Hệ thống sử dụng phản hồi đó để tinh chỉnh mô hình theo thời gian.
Cách tiếp cận này phù hợp với kiến trúc vòng lặp phản hồi chủ động được mô tả trong các tài liệu tham khảo đã được xác minh: hệ thống AI yêu cầu sự xác nhận của con người tại những điểm có mức độ không chắc chắn cao nhất, thay vì đòi hỏi sự kiểm soát trên toàn bộ tập dữ liệu. Đây chính là yếu tố giúp HITL trở nên khả thi, chứ không chỉ đúng về mặt lý thuyết.
Đối với một doanh nghiệp vừa và nhỏ, vấn đề cốt lõi không phải là “sử dụng AI”. Mà là có thể sử dụng nó mà không cần thành lập một bộ phận kỹ thuật riêng. Đó là lý do tại sao giao diện lại quan trọng không kém gì mô hình.
Một phương pháp hiệu quả nên bao gồm:
Nếu người đánh giá phải phân tích một mô hình mà không có bối cảnh, vòng lặp sẽ bị gián đoạn. Nếu họ nhận ra những thông tin sâu sắc, động lực và tác động trong cùng một bối cảnh, vòng lặp đó sẽ trở thành quyết định.
Đây chính là điểm mấu chốt. HITL không nên yêu cầu các doanh nghiệp vừa và nhỏ phải thích ứng với công nghệ. Thay vào đó, chính nền tảng này phải chuyển hóa sự phức tạp trong phân tích thành một quy trình mà người phụ trách tài chính, vận hành hoặc bán lẻ có thể quản lý chỉ trong vài bước đơn giản.
Các dự án HITL tạo ra giá trị khi chúng giúp giảm chi phí ra quyết định, chứ không phải khi chúng thêm vào một cấp độ kiểm soát mới. Đối với một doanh nghiệp vừa và nhỏ (SME) của Ý, vấn đề không phải là đưa yếu tố con người vào kiểm tra ở mọi khâu. Mà là lựa chọn những bước cụ thể mà ở đó sự phán đoán của con người có thể khắc phục những sai sót tốn kém, xử lý nhanh chóng các trường hợp ngoại lệ và giúp mô hình trở nên hữu ích hơn theo thời gian.
Chính vì vậy, thứ tự ưu tiên mới là yếu tố quan trọng hơn so với tham vọng ban đầu. Một trường hợp sử dụng đầu tiên tốt phải hội tụ ba đặc điểm: tác động kinh tế rõ ràng, dữ liệu lịch sử đầy đủ và một quyết định hiện nay đã phụ thuộc vào kinh nghiệm của một cá nhân. Tài chính và bán lẻ thường thuộc vào hồ sơ này. Trong tín dụng thương mại, ví dụ, việc rà soát có mục tiêu các trường hợp mơ hồ có thể giảm thiểu sai sót trong đánh giá mà không làm chậm toàn bộ quy trình. Trong bán lẻ, nguyên tắc tương tự áp dụng cho việc đặt hàng lại, định giá khuyến mãi và quản lý các bất thường về hàng tồn kho.
| Tiêu chí | Tại sao điều đó lại quan trọng |
|---|---|
| Tác động kinh tế của sai sót | Doanh nghiệp có thể đánh giá được giá trị của việc điều chỉnh |
| Tình trạng sẵn có của dữ liệu lịch sử | Mô hình có thể dựa trên các tín hiệu đã có sẵn trong các quy trình |
| Sự hiện diện của phán đoán con người vốn đã tồn tại | Phản hồi không nên bị bịa đặt. Nó cần được tổ chức một cách có hệ thống |
Đây chính là yếu tố quyết định tỷ suất lợi nhuận trên vốn đầu tư (ROI).
Nếu đội ngũ con người can thiệp vào mọi quyết định, trí tuệ nhân tạo (AI) sẽ chỉ trở thành một bước trung gian. Ngược lại, nếu AI chỉ can thiệp trong những trường hợp có độ không chắc chắn cao hoặc tác động lớn, doanh nghiệp sẽ đạt được hiệu quả hoàn toàn khác biệt: giảm bớt gánh nặng vận hành đối với các trường hợp đơn giản và tập trung nhiều hơn vào những trường hợp thực sự ảnh hưởng đến kết quả kinh doanh. Đây chính là logic đã được đề cập trước đó. Bằng cách tập trung phản hồi vào những điểm đúng đắn, tổ chức sẽ tận dụng hiệu quả hơn cả thời gian của nhân viên lẫn khả năng của mô hình.
Thực tiễn tốt nhất thứ hai liên quan đến thiết kế điểm can thiệp của con người. Trong nhiều trường hợp triển khai, vấn đề không nằm ở thuật toán, mà là sự mơ hồ của quy trình. Nếu không rõ ai là người phê duyệt, với các ngưỡng nào và dựa trên những thông tin nào, thì vòng lặp sẽ không thể học hỏi được. Nó chỉ đơn thuần chuyển sự cản trở từ bước này sang bước khác.
Trước khi đưa vào vận hành, cần xác định bốn yếu tố vận hành sau:
Một nguyên tắc thực tiễn giúp xác định xem dự án đã sẵn sàng hay chưa: nếu người đánh giá không biết lý do tại sao trường hợp đó lại được giao cho họ, thì việc triển khai vẫn chưa hoàn thiện.
Còn có một sai lầm thường gặp ở các doanh nghiệp vừa và nhỏ. Người ta thường nghĩ rằng cần phải đào tạo đội ngũ quản lý về mặt toán học của mô hình. Thực tế, điều cần thiết lại là khả năng nhận diện sự bất thường, đánh giá tính hợp lý của thông tin và đưa ra phản hồi phù hợp. Đây là một sự khác biệt quan trọng. Một quản lý danh mục sản phẩm không cần phải huấn luyện thuật toán. Họ cần nhận ra liệu một đề xuất đặt hàng lại có bỏ qua một chương trình khuyến mãi địa phương, việc thay đổi nhà cung cấp hay tình trạng hết hàng mà đội ngũ đã biết trước hay không.
Các nền tảng như ELECTE phương pháp này ELECTE dễ tiếp cận hơn chính nhờ việc che giấu những phức tạp kỹ thuật đằng sau một giao diện vận hành. Đối với nhiều doanh nghiệp vừa và nhỏ, lợi thế chiến lược nằm ở điểm này. Họ không cần phải xây dựng một đội ngũ chuyên gia dữ liệu để sử dụng hiệu quả phân tích AI, mà thay vào đó, các bộ phận tài chính và bán lẻ có thể trực tiếp điều chỉnh, xác thực và cải thiện hệ thống ngay trong quy trình làm việc hàng ngày.
Chất lượng triển khai được đo lường qua một số chỉ số cụ thể: thời gian xem xét từng trường hợp ngoại lệ, tỷ lệ chấp nhận các khuyến nghị, mức độ giảm thiểu lỗi lặp lại và tác động kinh tế của các biện pháp khắc phục. Nếu các con số này không được cải thiện, dự án chỉ đang tự động hóa các kết quả đầu ra. Dự án vẫn chưa thực sự cải thiện chất lượng ra quyết định.
Một hệ thống phân tích AI kết hợp con người (human-in-the-loop) hiệu quả là hệ thống chỉ cần một số ít can thiệp của con người, được thực hiện đúng lúc và có thể theo dõi được. Chính nhờ đó, sự hợp tác giữa con người và máy móc không còn chỉ là một lời hứa về mặt kỹ thuật mà trở thành một lĩnh vực hoạt động thực tiễn với những kết quả có thể đo lường được.
Khi trí tuệ nhân tạo (AI) được áp dụng vào các quy trình liên quan đến tín dụng, giá cả, gian lận hoặc tuân thủ, câu hỏi cốt lõi sẽ thay đổi. Điều quan trọng không chỉ là liệu mô hình có đưa ra dự báo chính xác hay không. Điều quan trọng là doanh nghiệp có thể xác định được cách thức dự báo đó được chuyển hóa thành quyết định, ai là người phê duyệt và dựa trên những tiêu chí nào.
Ở đây, quản trị không phải là một cấp độ hành chính được bổ sung sau này. Nó hoạt động giống như hệ thống kiểm soát của một dây chuyền sản xuất: nếu các điểm kiểm tra được xác định rõ ràng, doanh nghiệp sẽ giảm thiểu được những sai sót tốn kém trước khi chúng đến tay khách hàng, kiểm toán viên hoặc cơ quan quản lý. Trong AI lai, giá trị của sự can thiệp của con người cũng nằm ở điểm này. Đó là làm cho một quy trình – vốn có nguy cơ trở nên mờ ám trong hệ thống tự động hóa thuần túy – trở nên minh bạch.
Vấn đề đầu tiên là sự thiên vị. Trong lĩnh vực tài chính, như đã đề cập trước đó, vấn đề không chỉ xuất phát từ dữ liệu lịch sử, mà còn từ cách mô hình chuyển đổi những dữ liệu đó thành các tín hiệu giao dịch. Một cơ chế giám sát có sự tham gia của con người (human-in-the-loop) được thiết kế tốt sẽ giúp phát hiện các bất thường mà hệ thống coi là bình thường do đã được huấn luyện dựa trên dữ liệu quá khứ.
Tuy nhiên, sự can thiệp của con người, về bản chất, không giải quyết được vấn đề. Nếu thiếu kỷ luật trong quá trình thực hiện, nó chỉ chuyển vấn đề sang một khía cạnh khác. Một người đánh giá có thể cải thiện một quyết định, nhưng cũng có thể máy móc chấp nhận các khuyến nghị của mô hình hoặc đưa vào những sở thích chủ quan khó phát hiện.
Vì vậy, đối với các doanh nghiệp vừa và nhỏ (SME) mong muốn đạt được lợi nhuận thực sự từ các dự án HITL trong lĩnh vực tài chính và bán lẻ, nên xem xét ba yếu tố này như những thành phần của quy trình, chứ không phải là những thủ tục kiểm toán hình thức:
Sự phân biệt này có tác động kinh tế trực tiếp. Nếu phản hồi của con người không được theo dõi và tái sử dụng, doanh nghiệp sẽ phải chi trả gấp đôi. Lần đầu tiên là cho công nghệ. Lần thứ hai là cho việc rà soát thủ công, vốn không mang lại khả năng học hỏi.
Vấn đề thứ hai là trách nhiệm. Trong một quyết định nhạy cảm, việc nói rằng “đó là đề xuất của thuật toán” là chưa đủ đối với một kiểm toán viên, một khách hàng doanh nghiệp hay bộ phận quản lý rủi ro. Cần phải có một chuỗi ra quyết định rõ ràng. Các dữ liệu đầu vào được sử dụng, ngưỡng kích hoạt quy trình báo cáo lên cấp trên, sự can thiệp của con người, và quyết định cuối cùng.
Từ góc độ GDPR, cách tiếp cận này mang lại lợi ích vì giúp dễ dàng hơn trong việc chứng minh việc giảm thiểu dữ liệu, kiểm soát quyền truy cập và giám sát các quyết định liên quan đến thông tin nhạy cảm. Tuy nhiên, nó không tự động đảm bảo sự tuân thủ. Bù lại, nó giúp giảm bớt một điểm yếu thường gặp trong các dự án AI tại các doanh nghiệp vừa và nhỏ: đó là việc sở hữu một mô hình hoạt động tốt về mặt kỹ thuật nhưng lại khó bảo vệ về mặt hồ sơ tài liệu.
Đây chính là điểm mà nhiều sáng kiến bị đình trệ. Không phải do những hạn chế của thuật toán, mà là vì chưa ai xác định rõ ai có quyền điều chỉnh một đề xuất, trong những trường hợp nào, dựa trên bằng chứng nào và ai sẽ chịu trách nhiệm cuối cùng.
Đối với một nhà lãnh đạo doanh nghiệp, tiêu chí đánh giá hữu ích rất đơn giản: liệu quyết định này có thể được giải thích một cách hợp lý trước một kiểm toán viên nội bộ, một khách hàng hay một cơ quan giám sát hay không? Nếu câu trả lời còn mơ hồ, thì rủi ro đó không chỉ là lý thuyết. Đó là rủi ro thực tế.
Để thiết lập các biện pháp này một cách thực tiễn, đồng thời tránh gây ra những phức tạp khó kiểm soát cho các nhóm nhỏ, hướng dẫn của ELECTE Trí tuệ nhân tạo có trách nhiệm và việc triển khai trí tuệ nhân tạo một cách có đạo đức cũng rất hữu ích.
Bài học quan trọng nhất là: Phân tích AI có sự tham gia của con người (human-in-the-loop) không phải là giải pháp tạm thời trong khi chờ đợi một hệ thống AI “tự chủ hơn”. Đây thường là mô hình hoàn thiện nhất để biến phân tích dữ liệu thành những quyết định đáng tin cậy, có thể giải thích được và mang lại giá trị thực tiễn cho doanh nghiệp.
Trí tuệ nhân tạo (AI) quản lý quy mô, tốc độ và việc nhận diện các mẫu. Con người quản lý các trường hợp ngoại lệ, trách nhiệm và bối cảnh. Khi hai cấp độ này phối hợp với nhau, doanh nghiệp không chỉ đạt được mức độ tự động hóa cao hơn. Mà còn đạt được chất lượng quyết định tốt hơn.
Nếu bạn muốn biến dữ liệu thô thành các quyết định đáng tin cậy hơn mà không làm tăng độ phức tạp trong hoạt động, hãy tìm hiểu cách ELECTE, một nền tảng phân tích dữ liệu được hỗ trợ bởi AI dành cho các doanh nghiệp vừa và nhỏ (SMEs), có thể hỗ trợ phương pháp Human-in-the-Loop như thế nào thông qua một bản demo được cá nhân hóa.
.svg)
.svg)
.svg)
