Có lẽ bạn đang đối mặt với một tình huống rất thực tế. Bạn đã triển khai một hệ thống phân tích để dự báo doanh số, một công cụ đánh giá khách hàng hoặc một công cụ sàng lọc hồ sơ ứng viên. Rồi bạn đọc thấy các từ như “AI Act”, “rủi ro cao”, “phạt tiền”, và cảm giác ngay lập tức ập đến: thêm phức tạp, thêm chi phí, thêm rủi ro.
Phản ứng đó là điều dễ hiểu, nhưng vấn đề thực sự lại nằm ở chỗ khác. Đạo luật AI không trừng phạt những ai sử dụng AI. Nó trừng phạt những ai sử dụng AI mà không nhận thức được tác động của nó đối với con người, quyền lợi và an ninh. Đối với một doanh nghiệp vừa và nhỏ, sự phân biệt này thay đổi hoàn toàn cục diện. Nó giúp bạn tránh việc coi mọi dự án AI như một vấn đề pháp lý không thể giải quyết được, đồng thời cho phép bạn tập trung thời gian và ngân sách vào những nơi thực sự cần thiết.
Cũng có một lý do chiến lược để giải quyết vấn đề này ngay lúc này. Các doanh nghiệp vừa và nhỏ (SME) của Ý chiếm 95% tổng số doanh nghiệp, nhưng chỉ có 15% đã triển khai các hệ thống AI tiên tiến cho phân tích dữ liệu, với mức chênh lệch 40% so với mức trung bình của EU do các rào cản pháp lý, theo dữ liệu được trích dẫn trong phân tích về Điều 6 của Đạo luật AI. Trên thực tế, nhiều doanh nghiệp dừng lại không phải vì AI không cần thiết, mà vì việc tuân thủ quy định dường như còn mơ hồ.
Hướng dẫn này thực hiện một việc đơn giản. Đó là chuyển đổi phân loại rủi ro cao thành các quyết định vận hành cụ thể dành cho các doanh nghiệp vừa và nhỏ (SME) tại Ý. Không dùng thuật ngữ chuyên môn rườm rà. Không gây hoang mang. Với logic rõ ràng về những yếu tố cần chú ý, cách tự đánh giá và những điểm cần can thiệp.
Một doanh nhân trong lĩnh vực bán lẻ triển khai hệ thống trí tuệ nhân tạo (AI) để dự báo nhu cầu và lượng hàng tồn kho. Một giám đốc tài chính sử dụng mô hình phân tích để đánh giá các đơn xin vay vốn. Một giám đốc nhân sự đang thử nghiệm phần mềm sắp xếp hồ sơ xin việc. Không ai trong số họ nghĩ rằng mình đang bước vào một lĩnh vực chịu sự quản lý chặt chẽ với tác động lớn. Thế nhưng, chính từ đây, những rắc rối bắt đầu nảy sinh.
Khó khăn không nằm ở nội dung của đạo luật. Vấn đề nằm ở chỗ nhiều doanh nghiệp vừa và nhỏ coi các công cụ của mình chỉ là những hệ thống tự động hóa hoạt động đơn thuần, trong khi trên thực tế, một số công cụ này lại ảnh hưởng đến việc tiếp cận việc làm, các dịch vụ thiết yếu hoặc các quyết định có tác động đáng kể đến con người. Đạo luật về Trí tuệ nhân tạo (AI Act) chính xác là nhắm vào điểm đó.
Không cần phải là một công ty phần mềm mới nằm trong phạm vi điều chỉnh của Đạo luật AI. Chỉ cần sử dụng AI trong các quy trình có tác động thực sự là đủ.
Nếu bạn đang sử dụng các công cụ phân tích, đánh giá điểm, xếp hạng hoặc hệ thống dự đoán, câu hỏi không phải là liệu Đạo luật AI có áp dụng cho bạn hay không. Câu hỏi đúng phải là: những hệ thống nào của bạn có thể thuộc nhóm rủi ro cao, và điều đó sẽ dẫn đến những hậu quả nào trong hoạt động.
Tin tốt là logic này không phải là ngẫu nhiên. Nó có một cấu trúc rõ ràng. Nếu bạn hiểu được điều này, bạn có thể phân biệt các trường hợp thông thường với các trường hợp nhạy cảm, ghi chép kỹ lưỡng các trường hợp ngoại lệ và thiết lập việc tuân thủ như một quy trình kinh doanh có thể quản lý được. Đối với một doanh nghiệp vừa và nhỏ đầy tham vọng, đây không chỉ đơn thuần là một thủ tục pháp lý. Đây là cách để bảo vệ sự phát triển, danh tiếng và khả năng ứng dụng AI một cách tự tin.
Đạo luật về Trí tuệ nhân tạo (AI Act) nên được xem như một cẩm nang của châu Âu về việc sử dụng trí tuệ nhân tạo một cách đáng tin cậy. Đạo luật này không được ban hành nhằm cản trở sự đổi mới. Mục đích của nó là điều chỉnh các quy định dựa trên mức độ rủi ro. Càng hệ thống AI có tác động lớn đến an ninh hoặc các quyền cơ bản, thì các nghĩa vụ phải tuân thủ càng tăng lên.
Nhiều doanh nghiệp vừa và nhỏ mắc phải một sai lầm cơ bản. Họ cho rằng quy định này chỉ áp dụng cho những người phát triển mô hình trí tuệ nhân tạo. Thực tế không phải vậy. Nếu bạn sử dụng các hệ thống trí tuệ nhân tạo để hỗ trợ các quyết định kinh doanh quan trọng, thì bạn đã nằm trong phạm vi điều chỉnh của quy định này rồi.
Một ví dụ minh họa phù hợp là dây an toàn. Nếu bạn lái xe chậm trong bãi đỗ xe, mức độ bảo vệ cần thiết là tối thiểu. Nếu bạn đang chạy với tốc độ cao trên đường cao tốc, các biện pháp an toàn phải được áp dụng nghiêm ngặt. Trong lĩnh vực trí tuệ nhân tạo (AI), tình huống cũng tương tự. Một hệ thống chỉ đề xuất các sản phẩm tương tự sẽ có tác động hạn chế. Ngược lại, một hệ thống ảnh hưởng đến việc tiếp cận tín dụng, tuyển dụng nhân sự hoặc các dịch vụ thiết yếu lại thuộc một phạm trù khác.
Để có cái nhìn tổng quan sơ lược hơn về quy định này, bạn cũng nên tham khảo hướng dẫn của ELECTE về Đạo luật Trí tuệ nhân tạo châu Âu.
Đối với một doanh nghiệp vừa và nhỏ (SME) của Ý, Đạo luật về Trí tuệ nhân tạo (AI Act) tác động đến ba lĩnh vực rất cụ thể:
Quy tắc thực tiễn: Nếu hệ thống AI của bạn ảnh hưởng đến con người, cơ hội tiếp cận hoặc an ninh, hãy xem đó là vấn đề quản trị trước khi xem xét dưới góc độ công nghệ thông tin.
Cách tiếp cận này hữu ích hơn so với phản ứng hoảng loạn trước các quy định như thường thấy. Nó giúp bạn lập bản đồ các trường hợp sử dụng một cách nghiêm túc và xác định rõ những trường hợp nào tuân thủ là yêu cầu bắt buộc, còn những trường hợp nào chỉ cần một bản đánh giá được ghi chép đầy đủ là đủ.
Việc phân loại vào nhóm rủi ro cao không phải là một đánh giá mang tính đạo đức về công nghệ. Điều này không có nghĩa là hệ thống đó sai lầm, nguy hiểm một cách tuyệt đối hay cần phải tránh. Điều đó có nghĩa là hệ thống này hoạt động trong những bối cảnh mà một sai sót, sự thiên vị hoặc một quyết định thiếu minh bạch có thể gây ra những hậu quả nghiêm trọng đối với con người thực tế.
Một công cụ đề xuất phim cho bạn có thể mắc sai lầm mà không gây ra hậu quả nghiêm trọng. Tệ nhất là bạn chỉ mất vài phút. Tuy nhiên, một hệ thống đánh giá đơn xin vay vốn, sàng lọc ứng viên hoặc hỗ trợ ra quyết định trong lĩnh vực y tế lại không có được sự dư địa đó. Nếu hệ thống mắc sai lầm, điều đó không chỉ gây phiền toái. Nó còn có thể hạn chế khả năng tiếp cận các cơ hội, dịch vụ hoặc các biện pháp bảo vệ.
Đây là logic cần ghi nhớ. Đạo luật về Trí tuệ nhân tạo (AI Act) xem xét bối cảnh sử dụng và mức độ nghiêm trọng của hậu quả. Đây là một cách tiếp cận đúng đắn. Quá thường xuyên, các doanh nghiệp chỉ tập trung vào khả năng kỹ thuật của mô hình mà bỏ qua vấn đề cốt lõi: quyết định đó sẽ tác động như thế nào đến cuộc sống của con người?
Đối với những ai muốn vượt ra khỏi lý thuyết và tìm hiểu các ứng dụng gần gũi hơn với thực tiễn doanh nghiệp, những nghiên cứu điển hình thực tiễn về Trí tuệ nhân tạo trong các doanh nghiệp vừa và nhỏ này cũng rất hữu ích, bởi chúng cho thấy các trường hợp ứng dụng sẽ thay đổi về giá trị và rủi ro tùy theo bối cảnh cụ thể.
Đây là nội dung cốt lõicủa Hướng dẫn phân loại rủi ro cao theo Đạo luật AI. Quy định này tuân theo hai hướng chính. Theo Hướng dẫn phân loại rủi ro cao của Đạo luật AI của EU, một hệ thống AI được phân loại là có rủi ro cao nếu:
Điều 6 đưa ra cơ cấu kép này. Và điều này rất thông minh. Nó không chỉ tập trung vào các lĩnh vực nhạy cảm, mà còn bao gồm cả những sản phẩm mà trong đó trí tuệ nhân tạo (AI) trở thành một phần của hệ thống an ninh tổng thể.
Còn có một điểm mà nhiều doanh nghiệp vừa và nhỏ thường hiểu sai. Đúng là có những trường hợp ngoại lệ nếu hệ thống không gây ra rủi ro đáng kể, nhưng đó không phải là những lối tắt tự động. Những trường hợp này phải được nhà cung cấp giải trình và lập hồ sơ chính thức. Nếu bạn nói “đây không phải là trường hợp rủi ro cao”, bạn phải chứng minh được điều đó.
Nếu lập luận của bạn là “dù sao thì vẫn có con người tham gia vào quá trình này”, thì điều đó vẫn chưa đủ. Điều quan trọng là hệ thống đó thực sự ảnh hưởng đến quyết định cuối cùng đến mức nào.
Sự phân biệt này chính là ranh giới giữa một đánh giá nghiêm túc và sự tuân thủ chỉ mang tính hình thức.
Câu hỏi đúng không phải là “Chúng ta có nên sử dụng AI không?”. Mà là “AI này có ảnh hưởng đến an ninh, quyền lợi hay khả năng tiếp cận các cơ hội thiết yếu hay không?”. Từ đây, việc phân loại một cách nghiêm túc mới bắt đầu.
Đối với một doanh nghiệp vừa và nhỏ, bước này cần được xem xét như một quyết định kinh doanh, chứ không phải là một thủ tục pháp lý. Nếu bạn hiểu sai về hệ thống, bạn sẽ đặt sai thứ tự ưu tiên, chuẩn bị sai tài liệu và đầu tư không hợp lý. Ngược lại, nếu bạn hiểu đúng, bạn có thể thiết kế các biện pháp kiểm soát phù hợp và sử dụng dữ liệu thu thập được để quản lý tốt hơn các quy trình, nhà cung cấp và trách nhiệm nội bộ.
Phụ lục III là bộ lọc đầu tiên được áp dụng. Tóm tắt quy định về Đạo luật Trí tuệ nhân tạo (AI Act) nêu ra 8 lĩnh vực mà các hệ thống trí tuệ nhân tạo có thể thuộc nhóm rủi ro cao:
Đối với nhiều doanh nghiệp vừa và nhỏ, đây mới chính là vấn đề cốt lõi. Việc phân loại phụ thuộc vào hiệu quả thực tế của hệ thống, chứ không phải vào tên gọi thương mại của phần mềm.
Một công cụ chấm điểm, một hệ thống phân loại tài liệu hay một hệ thống xếp hạng ưu tiên hồ sơ có thể trông giống như những công cụ trung lập. Tuy nhiên, chúng không hề trung lập nếu chúng tác động đáng kể đến các quyết định liên quan đến việc tiếp cận tín dụng, tuyển dụng nhân sự hoặc việc đối xử khác biệt đối với khách hàng và người dùng. Trong các dự án tương tự như những dự án được mô tả trong các trường hợp fintech dựa trên phân tích và giám sát quyết định, yếu tố tạo nên sự khác biệt chính là khả năng truy vết: biết được dữ liệu nào được đưa vào, logic nào có trọng số cao hơn và ở đâu một nhân viên có thể thực sự điều chỉnh kết quả.
Kênh thứ hai thường bị đánh giá thấp. Tuy nhiên, đây lại là kênh khiến nhiều doanh nghiệp bất ngờ nhất.
Nếu AI là một thành phần an toàn của sản phẩm đã được điều chỉnh bởi các quy định hài hòa của EU, thì cách đánh giá sẽ ngay lập tức thay đổi. Bạn không còn chỉ phân tích một mô hình tạo ra kết quả đầu ra nữa. Bạn đang phân tích một chức năng đóng góp vào tính an toàn tổng thể của sản phẩm hoặc quy trình.
Điểm này cũng áp dụng cho các doanh nghiệp vừa và nhỏ (SME) không sản xuất phần cứng. Chỉ cần tích hợp các mô-đun AI vào các giải pháp tổng thể hơn, hoặc cung cấp phần mềm tác động đến hệ thống điều khiển, cảnh báo, ngưỡng an toàn hoặc các cơ chế tự động hóa an toàn, là đã bước vào một lĩnh vực đòi hỏi khắt khe hơn nhiều về mặt tài liệu và kỹ thuật.
Có những trường hợp ngoại lệ, nhưng chúng cần được chứng minh bằng những lập luận có cơ sở. Không thể chỉ nói rằng hệ thống đóng vai trò chuẩn bị hay một người nào đó vẫn được cập nhật thông tin.
Hãy áp dụng một nguyên tắc đơn giản:
Ở đây, một nền tảng phân tích dữ liệu không còn chỉ là công cụ hỗ trợ tuân thủ. Nó trở thành một tài sản chiến lược. Nền tảng này cho phép bạn lập bản đồ các trường hợp sử dụng, tái tạo quy trình ra quyết định, kiểm soát các phiên bản mô hình và tạo ra bằng chứng có cơ sở pháp lý vững chắc mà không biến đội ngũ của bạn thành một văn phòng pháp lý tạm thời.
Các doanh nghiệp vừa và nhỏ (SME) hoạt động theo cách này sẽ sử dụng ngân sách hiệu quả hơn. Họ không chạy theo những quy chuẩn thông thường. Thay vào đó, họ xây dựng một nền tảng quản trị AI đủ vững chắc để đáp ứng các cuộc kiểm toán, hỗ trợ sự phát triển và mở rộng sang các trường hợp ứng dụng mới.
Sáng thứ Hai. Một doanh nghiệp vừa và nhỏ (SME) trong lĩnh vực tín dụng chấp thuận hoặc từ chối các yêu cầu chỉ trong vài phút. Một doanh nghiệp khác chặn các giao dịch đáng ngờ để tuân thủ các nghĩa vụ chống rửa tiền (AML). Trong cả hai trường hợp, vấn đề không phải là “chúng ta có nên sử dụng AI không?”. Vấn đề thực tế hơn nhiều: kết quả đầu ra của hệ thống có thực sự ảnh hưởng đến quyết định liên quan đến khách hàng, quyền truy cập vào dịch vụ hay các biện pháp kiểm soát hay không?
Hãy bắt đầu từ một trường hợp mà nhiều doanh nghiệp vừa và nhỏ (SME) đều quen thuộc. Một nhà bán lẻ sử dụng hệ thống trí tuệ nhân tạo (AI) để dự báo nhu cầu, tốc độ luân chuyển hàng tồn kho và thời gian đặt hàng lại. Nếu mô hình này nhằm mục đích cải thiện hoạt động mua hàng, logistics và lập kế hoạch kinh doanh, thì thông thường, đây không phải là trường hợp “rủi ro cao” theo quy định của Đạo luật AI.
Ranh giới sẽ thay đổi nếu hệ thống đó được áp dụng vào các quy trình mà tại đó một lỗi có thể ảnh hưởng đến tính liên tục của hoạt động, các biện pháp kiểm soát quan trọng hoặc các chức năng liên quan đến an ninh dịch vụ. Lúc đó, bạn không còn đang đánh giá một công cụ dự báo một cách trừu tượng nữa. Bạn đang đánh giá vai trò thực tế của nó trong một quy trình quan trọng.
Quy tắc hữu ích dành cho các doanh nghiệp vừa và nhỏ là: hãy phân loại theo trường hợp sử dụng, chứ không phải theo tên gọi của phần mềm.
Trong lĩnh vực tín dụng, mức độ tự quyết định được thu hẹp đáng kể. Nếu một hệ thống trí tuệ nhân tạo (AI) đánh giá độ tin cậy, phân loại khách hàng theo mức độ rủi ro hoặc có ảnh hưởng đáng kể đến kết quả của một yêu cầu, bạn cần xem xét đối tượng đó như một khách hàng có rủi ro cao và áp dụng cách tiếp cận nghiêm túc ngay từ đầu.
Lý do rất đơn giản. Ở đây, bạn không phải đang tối ưu hóa một chiến dịch tiếp thị hay việc sắp xếp lại kho hàng. Bạn đang tác động đến việc tiếp cận một dịch vụ tài chính. Đối với Đạo luật AI, sự khác biệt này có ý nghĩa quan trọng.
Một sai lầm thường gặp là chỉ dựa vào khái niệm “hỗ trợ ra quyết định”. Điều đó là chưa đủ. Nếu người quản lý có xu hướng chấp nhận điểm số do mô hình đưa ra, nếu các trường hợp ngoại lệ hiếm khi xảy ra, hoặc nếu thời gian xử lý khiến việc xem xét lại một cách khách quan trở nên khó khả thi, thì hệ thống thực sự đóng vai trò quan trọng trong quyết định cuối cùng.
Đối với một doanh nghiệp vừa và nhỏ (SME), bước đi đúng đắn không phải là tranh luận mãi về định nghĩa. Mà là tái cấu trúc quy trình ra quyết định dựa trên các bằng chứng có thể kiểm chứng: dữ liệu nào được đưa vào mô hình, điểm số nào được đưa ra, ai có quyền điều chỉnh, trong những trường hợp nào thực sự điều chỉnh, và với lý do gì. Một nền tảng phân tích được xây dựng tốt sẽ hỗ trợ bạn chính xác ở điểm này. Nền tảng này tích hợp tính minh bạch, nhật ký, các phiên bản mô hình và lý do thực thi. Tuân thủ không còn là một chi phí riêng lẻ mà trở thành nền tảng cho việc kiểm soát quản lý.
Để tìm hiểu cách các doanh nghiệp trong ngành đang triển khai các quy trình tương tự, hãy tham khảo các nghiên cứu điển hình về fintech của ELECTE.
Trong lĩnh vực tín dụng, “sự hỗ trợ” không có nhiều ý nghĩa nếu mô hình định hướng kết quả theo cách có thể dự đoán được và lặp đi lặp lại.
Trong công tác phòng chống rửa tiền, cần có sự kỷ luật hơn là những khẩu hiệu suông. Một hệ thống phát hiện các bất thường hoặc mô hình đáng ngờ không nên tự động được coi là một hệ thống có thể tự quyết định về khách hàng hay các giao dịch. Hệ thống đó cần được đánh giá dựa trên chức năng cụ thể, mức độ tự động hóa và tác động thực tế đến hoạt động.
Hãy tự đặt cho mình bốn câu hỏi rõ ràng:
Ở đây, nhiều doanh nghiệp vừa và nhỏ mắc sai lầm do thói quen tổ chức. Trên giấy tờ, có sự giám sát của con người. Trên thực tế, cảnh báo từ mô hình lại trở thành bộ lọc chính và không ai ghi chép lý do tại sao một báo cáo lại được xác nhận hay loại bỏ. Đây chính là điểm cần khắc phục.
Lựa chọn thông minh là sử dụng phân tích dữ liệu làm nền tảng quản trị. Điều này giúp bạn xác định những cảnh báo nào dẫn đến quyết định, những biến số nào thực sự có ảnh hưởng, những điểm nào đội ngũ luôn xác nhận mô hình và những điểm nào họ thực sự thực hiện kiểm soát. Đây không chỉ là vấn đề tuân thủ mà còn là chiến lược. Nó giúp giảm thiểu mâu thuẫn với các cơ quan kiểm toán và đối tác, nâng cao chất lượng điều tra, đồng thời tránh tình trạng phát hiện quá muộn rằng một hệ thống “chỉ dành cho nội bộ” đã và đang tác động đến các quyết định nhạy cảm.
Khi một hệ thống thuộc nhóm rủi ro cao, sai lầm lớn nhất là coi việc tuân thủ như một đống tài liệu cần hoàn thành vào phút chót. Cách làm này không hiệu quả. Và còn tốn kém hơn. Các nghĩa vụ tuân thủ cần được xem như một khung quản trị cho hệ thống.
Phụ lục III nêu ra một số nghĩa vụ cốt lõi đối với các nhà cung cấp dịch vụ và các hệ thống có rủi ro cao. Những nghĩa vụ quan trọng nhất đối với một doanh nghiệp vừa và nhỏ (SME) là:
Tuân thủ hiệu quả không làm chậm tiến độ kinh doanh. Nó giúp loại bỏ những điểm mập mờ vốn cản trở quá trình kiểm toán, hợp tác với đối tác và mở rộng quy mô.
| Nghĩa vụ (Điều khoản của Đạo luật AI) | Mô tả khóa | Các biện pháp thực tiễn dành cho doanh nghiệp vừa và nhỏ |
|---|---|---|
| Quản lý rủi ro (Điều 9) | Quản lý rủi ro liên tục đối với hệ thống AI | Tạo một danh sách rủi ro cho từng trường hợp sử dụng AI và cập nhật danh sách này khi thay đổi mô hình, dữ liệu hoặc mục đích |
| Quản trị dữ liệu (Điều 10) | Dữ liệu có liên quan, mang tính đại diện và đã được kiểm chứng | Ghi chép nguồn gốc dữ liệu, các tiêu chí làm sạch dữ liệu, các hạn chế đã biết và việc kiểm tra các lỗi hoặc sự mất cân bằng |
| Tài liệu kỹ thuật | Bằng chứng chính thức về hoạt động và mục đích | Hãy lập một bảng mô tả hệ thống bao gồm mục đích, đối tượng sử dụng, đầu vào, đầu ra, giới hạn, logic và các biện pháp kiểm soát |
| Khả năng truy xuất nguồn gốc | Phân tích lại các hoạt động của hệ thống | Lưu trữ nhật ký, các phiên bản mẫu, các thông số liên quan và các quyết định của con người có liên quan |
| Giám sát bằng con người | Giám sát hiệu quả các quyết định | Chỉ định một người phụ trách nội bộ có thể tạm dừng, rà soát lại hoặc điều chỉnh các kết quả đầu ra |
Một doanh nghiệp vừa và nhỏ không cần một bộ phận tuân thủ quy mô lớn. Điều họ cần là một phương pháp. Nếu phương pháp này được tích hợp vào các quy trình phân tích, phát triển sản phẩm và vận hành, việc tuân thủ sẽ không còn là rào cản mà trở thành một cách tiếp cận chín muồi hơn trong việc ứng dụng trí tuệ nhân tạo.
Thứ Hai buổi sáng. Một khách hàng doanh nghiệp hỏi bạn rằng bạn phân loại hệ thống đánh giá điểm của mình như thế nào, ai là người giám sát hệ thống đó và bạn có những bằng chứng nào để chứng minh rằng nó không thuộc nhóm các hệ thống có rủi ro cao. Nếu lúc đó bạn phải lục lọi các tệp tin, email và những câu trả lời không chính thức, thì vấn đề không nằm ở thuật toán. Vấn đề nằm ở cơ chế quản trị.
Đối với một doanh nghiệp vừa và nhỏ (SME), quá trình đánh giá ban đầu phải dẫn đến một quyết định thực thi, chứ không phải một bản báo cáo mơ hồ. Bạn cần nắm rõ ba điều: AI được áp dụng ở đâu, mức độ ảnh hưởng của nó đối với các quyết định, và những bằng chứng nào bạn có thể trình bày nếu kiểm toán viên, đối tác hoặc ban lãnh đạo yêu cầu giải trình về việc phân loại này. Ở đây, một quy trình phân tích khoa học sẽ tạo nên sự khác biệt. Nó giúp bạn rà soát các hệ thống, kết nối dữ liệu, mô hình và quy trình, đồng thời giảm thiểu thời gian lãng phí cho các cuộc kiểm tra đột xuất.
Hãy sử dụng danh sách kiểm tra này như một công cụ sàng lọc về mặt quản lý trước khi xem xét khía cạnh pháp lý.
Bạn có danh sách cập nhật đầy đủ về tất cả các hệ thống AI đang được sử dụng không?
Hãy bao gồm các mô hình do chính công ty phát triển, các tính năng AI được tích hợp trong phần mềm bên ngoài, cũng như các hệ thống chấm điểm, xếp hạng, dự báo, chống gian lận và tự động hóa có ảnh hưởng đến các quy trình hoạt động.
Đối với mỗi hệ thống, bạn đã mô tả chức năng cụ thể bằng một câu rõ ràng chưa?
Chỉ dùng từ “Analytics” là chưa đủ. Hãy nêu rõ tác dụng thực tế: đánh giá hồ sơ vay, phân loại khách hàng tiềm năng, phát hiện sự cố, xếp hạng ưu tiên, tạm ngưng giao dịch, hỗ trợ quá trình onboarding.
Kết quả này có ảnh hưởng đến con người, việc tiếp cận các dịch vụ hay các quyết định kinh tế quan trọng không?
Nếu câu trả lời là có, thì việc kiểm tra cần được nâng lên một cấp độ cao hơn. Các hệ thống chi phối hoạt động tín dụng, bảo hiểm, tuyển dụng, tiếp cận dịch vụ hoặc kiểm soát an ninh cần được quan tâm ngay lập tức.
Vai trò của con người là thực chất hay chỉ mang tính hình thức?
Nếu người giám sát hầu như luôn chấp thuận kết quả mà không có công cụ, thời gian hay quyền hạn để phản đối, thì bạn không đang thực hiện công tác giám sát thực sự.
Bạn có thể giải thích tại sao hệ thống này không thuộc nhóm rủi ro cao bằng các bằng chứng nội bộ có thể kiểm chứng được không?
Cần có tài liệu, nhật ký hệ thống, tiêu chí ra quyết định, các giới hạn đã công bố và lý do hợp lý. Nếu thiếu những bằng chứng này, việc phân loại sẽ thiếu cơ sở.
Bạn có biết những dữ liệu nào đang được đưa vào hệ thống và chúng tiềm ẩn những rủi ro gì không?
Nguồn gốc dữ liệu, chất lượng, việc cập nhật, các biến số nhạy cảm, các lỗi đã biết và sự phụ thuộc vào nhà cung cấp bên thứ ba đều phải được theo dõi. Nếu bạn không nắm rõ những thông tin này, bạn không phải đang đánh giá rủi ro. Mà bạn đang phải gánh chịu rủi ro đó.
Một số trường hợp không thể xử lý chỉ bằng kinh nghiệm thông thường. Chúng cần được báo cáo ngay lập tức cho bộ phận tuân thủ, pháp lý, quản lý rủi ro hoặc ban lãnh đạo.
Nếu bạn không thể bảo vệ được phân loại đó trước một khách hàng quan trọng hoặc một chuyên gia đánh giá, thì phân loại đó chưa sẵn sàng.
Cuối cùng, bạn không cần một danh sách những nghi vấn. Điều bạn cần là một kết quả cụ thể cho từng hệ thống: loại trừ, cần nghiên cứu sâu hơn, hoặc xem xét là có nguy cơ cao cho đến khi có bằng chứng ngược lại. Cách tiếp cận này giúp tránh được sai lầm thường gặp ở các doanh nghiệp vừa và nhỏ (SME) đầy tham vọng. Họ phát triển nhanh chóng, áp dụng các công cụ AI hữu ích, nhưng lại để việc phân loại rơi vào vùng xám, điều này sau đó làm chậm lại quá trình bán hàng, hợp tác và mở rộng quy mô.
Nếu bạn đã có nền tảng báo cáo và kiểm soát dữ liệu, bạn có thể tổ chức công việc này hiệu quả hơn rất nhiều. Một nền tảng được thiết lập tốt sẽ giúp bạn liên kết các trường hợp sử dụng, dữ liệu, kết quả đầu ra và trách nhiệm một cách rõ ràng, ngay cả đối với những người không có chuyên môn kỹ thuật. Để hiểu cách thiết lập nền tảng này trong doanh nghiệp, hướng dẫn về phần mềm phân tích kinh doanh dành cho doanh nghiệp vừa và nhỏ này có thể hữu ích cho bạn.
Việc tuân thủ quy định trở nên khó khăn khi dữ liệu bị phân tán, các quy trình không được theo dõi và kết quả đầu ra của các mô hình không gắn liền với trách nhiệm rõ ràng. Đây chính là lúc một nền tảng phân tích được thiết kế tốt có thể tạo ra sự khác biệt. Không phải như một lối tắt về mặt quy định, mà là một cơ sở hạ tầng mang lại trật tự.
Một nền tảng hiện đại mang lại lợi ích chủ yếu ở bốn khía cạnh sau:
Những ai đã từng làm việc với các công cụ phân tích kinh doanh sẽ ngay lập tức nhận ra lợi ích của nó. Nếu bạn muốn hiểu rõ hơn về vấn đề này, bài phân tích chuyên sâu của ELECTE về phần mềm phân tích kinh doanh trong ra quyết định doanh nghiệp cũng sẽ rất hữu ích.
Nhiều doanh nghiệp tách biệt hai lĩnh vực này quá rõ rệt. Một bên, đội ngũ dữ liệu mong muốn hiệu suất. Bên kia, đội ngũ tuân thủ lại chú trọng vào việc kiểm soát. Đây là một sự phân chia thiếu hiệu quả.
Giải pháp tối ưu là kết hợp hai mục tiêu này. Một hệ thống AI được quản lý chặt chẽ không chỉ mang lại những thông tin chi tiết sâu sắc hơn, mà còn giúp các quy trình trở nên ổn định, có thể kiểm tra lại và đáng tin cậy hơn đối với bên ngoài. Nói cách khác, việc tuân thủ quy định không chỉ nhằm mục đích tránh rủi ro. Nó còn giúp xây dựng một môi trường mà tại đó AI có thể được triển khai nhanh chóng hơn và với ít trở ngại nội bộ hơn.
Đây là điều mà nhiều doanh nghiệp vừa và nhỏ (SME) thường nhận ra quá muộn. Việc sắp xếp tài liệu, khả năng truy xuất nguồn gốc và sự minh bạch trong quy trình sử dụng không phải là những thủ tục hành chính rườm rà. Chúng chính là nền tảng để thực sự ứng dụng trí tuệ nhân tạo (AI) một cách linh hoạt và có thể mở rộng.
Đạo luật về Trí tuệ nhân tạo (AI Act) khiến nhiều người lo ngại, đặc biệt là những ai coi đó là một văn bản mang tính trừng phạt. Đó là cách hiểu hời hợt. Cách hiểu đúng đắn là: quy định này yêu cầu các doanh nghiệp phải hiểu rõ hơn về hệ thống của mình, dữ liệu của mình và tác động thực tế của các quyết định tự động.
Nếu áp dụng logic này, việc phân loại “rủi ro cao” sẽ không còn là một mối đe dọa mơ hồ nữa. Nó sẽ trở thành một tiêu chí hành động cụ thể. Bạn sẽ biết được đâu là những nơi cần tăng cường kiểm soát, đâu là những trường hợp ngoại lệ có thể ghi nhận, và đâu là những lĩnh vực mà doanh nghiệp vừa và nhỏ của bạn có thể đổi mới mà không phải hành động một cách mù quáng.
Hướng dẫn phân loại rủi ro cao của Đạo luật AI (AI Act) chính xác là để làm điều này. Xóa tan sự mơ hồ. Xác định thứ tự ưu tiên. Tránh những sai lầm nghiêm trọng. Và xây dựng hệ thống AI đáng tin cậy hơn, có cơ sở lý luận vững chắc hơn và hữu ích hơn cho doanh nghiệp.
Các doanh nghiệp vừa và nhỏ (SME) nào nhận ra điều này sớm hơn sẽ không chỉ tuân thủ các quy định tốt hơn. Họ sẽ trở nên đáng tin cậy hơn, hoạt động có tổ chức hơn và sẵn sàng mở rộng quy mô hơn.
Nếu bạn muốn biến dữ liệu phân tán thành những thông tin chi tiết rõ ràng, có thể theo dõi và sẵn sàng hỗ trợ các quyết định chính xác hơn, hãy khám phá ELECTE – nền tảng phân tích dữ liệu được hỗ trợ bởi trí tuệ nhân tạo (AI) dành cho các doanh nghiệp vừa và nhỏ. Đây là giải pháp thiết thực giúp mang lại sự kiểm soát tốt hơn, tầm nhìn rõ ràng hơn và cấu trúc chặt chẽ hơn cho những quy trình thực sự quan trọng.
.svg)
.svg)
.svg)
