Loại bỏ thành kiến (Bias) trong các quy trình tự động bằng DMN và BPMN

Tự động hóa quy trình đang thu hút sự chú ý trong các ngành vì các doanh nghiệp nhận thấy nhiều lợi ích mà nó có thể mang lại trong môi trường kinh doanh ngày càng cạnh tranh. Nó tăng tốc độ đổi mới, cải thiện năng suất và giải phóng nhân viên để đảm nhận các công việc chiến lược phức tạp hơn. Cứ ba chuyên gia CNTT thì có một người cho biết các khoản đầu tư tự động hóa quy trình của họ ít nhất đã được đền đáp trong vòng một năm.

Hoàn thành tốt quá trình tự động hóa là một công cụ có giá trị. Nhưng điều gì sẽ xảy ra nếu các quy trình tự động duy trì những thành kiến hiện có chỉ thỉnh thoảng xuất hiện trong các quy trình thủ công? Làm thế nào bạn có thể tránh sự thiên vị lẻn vào các thuật toán của mình đằng sau quá trình tự động hóa?

Hãy giải quyết câu hỏi quan trọng này bằng cách sử dụng ví dụ về việc phát hành thẻ tín dụng. Đây là một quy trình có thể được hình dung bằng cách sử dụng Mô hình và Ký hiệu Quy trình Kinh doanh (BPMN - Business Process Model and Notation) đã chuẩn hóa:

Có hai điều tuyệt vời về BPMN. Đầu tiên, mô hình này có thể được thực thi trực tiếp bằng các công cụ điều phối quy trình. Những công cụ đó sau đó sẽ điều phối tất cả các yêu cầu thẻ tín dụng và tích hợp các hệ thống phù hợp vào đúng thời điểm.

Thứ hai, mô hình trực quan giúp hiểu quy trình. Vì đây là mô hình đã thực hiện nên hình ảnh không phải là mơ tưởng mà là thực tế NÓ. Và để loại bỏ sự thiên vị / thành kiến, tính minh bạch và khả năng hiển thị cho các bên liên quan khác nhau là điều cần thiết. Trong ví dụ này, chúng ta có thể giả định rằng quy trình sẽ không chứa thành kiến. Đồng thời, chúng ta có thể nghi ngờ rằng các quyết định cụ thể trong các nhiệm vụ đơn lẻ—như xếp hạng khách hàng hoặc quyết định về hạn mức tín dụng—có thể chứa đựng một mức độ sai lệch.

Thành kiến (Bias) thường được tìm thấy khi ra quyết định

Đây là một mẫu phổ biến: Xu hướng thường được tìm thấy trong logic quyết định nhưng không nhiều trong luồng kiểm soát quy trình. Mặc dù điều này nghe có vẻ hiển nhiên, nhưng nó đưa ra manh mối về việc sự thiên vị có thể len lỏi vào những quyết định như vậy như thế nào. Một hành trình điển hình của khách hàng trông như thế này: Trong giai đoạn trưởng thành ban đầu xung quanh quá trình tự động hóa, các quyết định được đưa ra theo cách thủ công. Con người xem xét tất cả dữ liệu khách hàng và đưa ra quyết định về giới hạn tín dụng dựa trên các quy tắc cụ thể được bổ sung bằng cảm tính của họ (được gọi là kinh nghiệm). Cảm giác có thể gây ra sự thiên vị ngay từ đầu. Con người có khả năng thể hiện 180 loại thành kiến khác nhau.

Khi tự động hóa một quyết định như thế này, nhiều công ty đang xem xét học máy (ML -  machine learning) và trí tuệ nhân tạo (AI - artificial intelligence). Khi làm như vậy, họ sẽ sử dụng dữ liệu quyết định lịch sử để đào tạo mô hình máy học. Mặc dù đây là một nhiệm vụ phức tạp, nhưng rất dễ hiểu mọi thứ sẽ diễn ra như thế nào: Nếu bạn dạy điều gì đó với dữ liệu bị thiên lệch, nó sẽ học được thiên kiến đó.

Nó có thể tạo ra những thành kiến về quy tắc kinh doanh có thể tồn tại lâu dài trong các hoạt động kinh doanh. Nếu một ngân hàng huấn luyện các hệ thống chấp nhận một bộ tài liệu và từ chối các tài liệu tương tự, ngân hàng đó có thể phân biệt đối xử với những người đăng ký vay. Nếu một nhà tuyển dụng tạo ra các quy tắc với các tiêu chí chặt chẽ về trình độ, một công ty có thể ưu tiên nhóm ứng viên này hơn nhóm ứng viên khác.

Một ví dụ nổi tiếng về sự thiên vị trong các quyết định hạn mức tín dụng có thể được tìm thấy trong sự phản đối kịch liệt xung quanh Thẻ Apple vào năm 2019. Nhiều người báo cáo rằng vợ hoặc chồng của phụ nữ được cấp hạn mức tín dụng nhỏ hơn nhiều so với các đối tác nam của họ (chênh lệch tới 20 lần). Rất nhiều điều đã được viết về trường hợp Thẻ Apple và không có sự rõ ràng 100% về cách mà sự thiên vị đã kết thúc trong hệ thống quyết định của họ. Nhưng thật dễ hiểu những thiệt hại mà điều này gây ra cho danh tiếng của công ty ngoài tác động của các vụ kiện có thể xảy ra.

Bài học quan trọng: Quyết định hộp đen black-box decision có nhược điểm là không ai có thể dễ dàng đánh giá và kiểm tra các sai lệch.

Làm cho quyết định logic có thể tiếp cận được với nhiều nhóm người khác nhau

Có một con đường khác để làm theo? Một khả năng là tạo thủ công mô hình quyết định cho hạn mức tín dụng. Tôi thấy mô hình và ký hiệu quyết định được tiêu chuẩn hóa (DMN - Decision Model and Notation) rất hữu ích, vì nó có thể biểu thị các bảng quyết định một cách trực quan, nhưng cũng giống như BPMN, cũng có thể được thực thi trên phần mềm phù hợp. Trong trường hợp của ví dụ trên, một bảng quyết định có thể giống như sau:

Tất nhiên, việc chỉ tạo một bảng quyết định như vậy không loại bỏ được sự thiên vị. Các nhà phân tích hoặc nhà phát triển tạo ra mô hình này cũng là con người và có thể bao gồm những thành kiến của riêng họ trong mô hình đó. Nhưng cách mô tả logic quyết định trực quan này cho phép những người khác nhau xem xét đúng đắn. Tùy thuộc vào tổ chức của bạn để neo một cách tiếp cận trong đó các mô hình quyết định có liên quan được kiểm tra một cách có hệ thống về những thành kiến bởi một nhóm người khác nhau. Các mô hình quy trình được phác thảo ở trên có thể giúp xác định các quyết định nhạy cảm.

Bạn có thể nghĩ rằng các quyết định của mình quá phức tạp để đưa vào các bảng quyết định đơn giản. Kinh nghiệm của tôi là đây là một câu trả lời có và không rõ ràng. Tôi đồng ý rằng sẽ rất khó để đưa tất cả các vấn đề cơ bản xung quanh quyết định về hạn mức tín dụng vào một bảng như vậy. Đồng thời, tôi đã thấy các công ty bảo hiểm kéo hàng trăm tham số vào hàng nghìn quy tắc bằng cách sử dụng DMN và rất hài lòng với quy trình này. Nhìn vào thảm họa Thẻ Apple, nó cũng có thể là một vấn đề ưu tiên. Nhiều nỗ lực hơn trong việc xác định cơ sở quy tắc như vậy sẽ được đền đáp, đặc biệt là vì điều này có thể cho phép công ty dễ dàng xác định và khắc phục những thành kiến có thể đã bị bỏ sót ngay từ đầu.

Tất nhiên, cách tiếp cận này sẽ không loại bỏ bất kỳ sự thiên vị nào một cách kỳ diệu. Nhưng khả năng hiển thị của logic quyết định và nhận thức về tầm quan trọng của việc loại bỏ sự thiên vị trong tổ chức sẽ giúp bạn một phần tốt trong quá trình thực hiện.

5 kỹ thuật để loại bỏ thành kiến (Bias)

Tóm lại, đây là năm chiến thuật có thể giúp tổ chức của bạn loại bỏ sự thiên vị trong các quy trình tự động:

1. Trực quan hóa các mô hình quy trình (ví dụ: sử dụng các BPMN có thể thực thi trực tiếp) để cho phép xác định các quyết định hợp lý.
2. Di chuyển logic quyết định quan trọng sang các mô hình thực thi mà doanh nghiệp có thể đọc được (như DMN).
3. Cho phép đánh giá phù hợp bằng các mô hình đồ họa có sẵn cho các bên liên quan khác nhau, lý tưởng nhất là được hỗ trợ bởi công cụ cộng tác để giúp dễ dàng thu hút những người đó. Những mô hình đó phải được thực thi trực tiếp để đảm bảo mọi người nhìn vào “nguyên trạng” chứ không phải một số tài liệu tách rời khỏi triển khai thực tế.
4. Neo những đánh giá đó trong phương pháp phát triển phần mềm và thực thi rằng nó đang diễn ra. Thu hút sự tham gia của nhiều nhóm người khác nhau để giảm thiểu sự thiên vị.
5. Phân tích dữ liệu của các quyết định trong quá khứ và quá trình chạy để xác định các thành kiến, sau đó có thể được giải quyết bằng cách cải thiện logic quyết định.

Các quy trình tự động có thể giúp tạo ra thành công trong kinh doanh. Nhưng nếu bản thân các quy trình tự động có sai sót, các sáng kiến tự động hóa có thể cản trở các tổ chức. Loại bỏ sớm những thành kiến, trước khi chúng có thể được tích hợp vào thực tiễn kinh doanh, giúp các tổ chức có thể tận dụng lợi ích của quá trình tự động hóa.

Tác giả: Bernd Ruecker - Co-Founder and Chief Technologist at Camunda / Dịch: FactoryTalk.VN