Khi không có chỗ cho sai sót của AI
Trong lĩnh vực ngân hàng, tài chính và bảo hiểm (BFSI), mọi quyết định đều phải được kiểm soát rất chặt chẽ. Ở những ngành này, doanh nghiệp không thể thử nghiệm rồi sửa sai như ở các lĩnh vực khác, vì chỉ một sai sót nhỏ cũng có thể gây ra hậu quả lớn về tài chính, uy tín và tuân thủ pháp luật.
Khi các doanh nghiệp bắt đầu ứng dụng AI để hỗ trợ ra quyết định, một vấn đề quan trọng xuất hiện: Nếu AI đưa ra quyết định sai, ai sẽ là người chịu trách nhiệm cuối cùng?
Hiện nay, nhiều tổ chức đầu tư mạnh vào AI với mong muốn tăng tốc quá trình ra quyết định, giảm rủi ro và nâng cao hiệu quả vận hành. Tuy nhiên, càng triển khai AI sâu rộng, câu hỏi về trách nhiệm, kiểm soát và kiểm tra (audit) hệ thống AI lại càng trở nên quan trọng, đặc biệt trong môi trường có yêu cầu tuân thủ nghiêm ngặt như ngành BFSI.
Những sai lầm phổ biến khi triển khai quản trị AI
Không ít doanh nghiệp đang mắc phải những sai lầm quen thuộc:
-
Giao toàn bộ trách nhiệm quản trị cho đội IT hoặc AI:
Không ít tổ chức cho rằng chỉ cần đội ngũ kỹ thuật kiểm soát là đủ, vì vậy họ phó mặc mọi vấn đề liên quan đến quản trị AI cho bộ phận IT hoặc AI team. Tuy nhiên, quản trị AI không chỉ là câu chuyện về công nghệ mà còn liên quan đến quy trình, con người và trách nhiệm cuối cùng. -
Xem quản trị AI chỉ là các quy tắc kỹ thuật:
Nhiều nơi chỉ tập trung xây dựng các checklist, quy trình kỹ thuật mà quên mất yếu tố con người, vai trò của các phòng ban nghiệp vụ và việc xác định rõ ai là người chịu trách nhiệm cuối cùng cho từng quyết định của AI. -
Chỉ chú trọng vào mô hình, công cụ mà bỏ qua quyền sở hữu và trách nhiệm dữ liệu:
Doanh nghiệp có thể triển khai AI rất nhanh, nhưng nếu không ai chịu trách nhiệm về nguồn gốc, độ chính xác và tính kịp thời của dữ liệu thì hệ thống sẽ thiếu đi sự tin tưởng. Khi không có ai làm kiểm duyệt dữ liệu, mọi rủi ro liên quan đến sai sót, thiên kiến hoặc vi phạm tuân thủ đều dễ bị bỏ qua.
Hệ quả của những sai lầm này là gì?
- Các dự án AI có thể được triển khai nhanh chóng, nhưng lãnh đạo và người dùng lại không thực sự tin tưởng vào hệ thống.
- Các quyết định quan trọng dựa trên dữ liệu, nhưng khi có sự cố xảy ra thì không ai chịu trách nhiệm cuối cùng.
- Khi xuất hiện rủi ro hoặc vấn đề về tuân thủ, mọi người đều tìm cách né tránh trách nhiệm, dẫn đến khủng hoảng niềm tin và ảnh hưởng nghiêm trọng đến hoạt động của doanh nghiệp.
Quản trị AI: Rủi ro không đến từ vấn đề của công nghệ
Quản trị dữ liệu và AI không chỉ là vấn đề về công nghệ, mà thực chất là trách nhiệm của lãnh đạo doanh nghiệp. Nhiều công ty thường bỏ qua điều này, nghĩ rằng chỉ cần có hệ thống kỹ thuật tốt là đủ. Tuy nhiên, quản trị AI tồn tại để trả lời những câu hỏi rất quan trọng mà ban lãnh đạo không thể né tránh:
Nếu bạn muốn hiểu rõ hơn về những rủi ro khi chỉ xem AI là bài toán kỹ thuật, hãy đọc thêm bài viết: IT “dọn rác” AI: Câu chuyện phía sau các dự án AI trong doanh nghiệp.
-
Dữ liệu này lấy từ đâu?
Việc xác định nguồn gốc, chất lượng và tính hợp lệ của dữ liệu là nền tảng để AI đưa ra quyết định chính xác. -
Ai chịu trách nhiệm về độ chính xác, đầy đủ và kịp thời của dữ liệu?
Không thể chỉ giao việc này cho đội IT hay AI. Phải có một người hoặc bộ phận chịu trách nhiệm cuối cùng, đảm bảo dữ liệu luôn đúng và cập nhật. -
AI được phép tự động ra quyết định đến mức nào?
Doanh nghiệp cần xác định rõ ranh giới giữa việc để AI tự động hóa và việc con người cần kiểm soát, phê duyệt. -
Ai kiểm soát các rủi ro về sai lệch, thiên kiến và tuân thủ quy định?
Việc tuân thủ không chỉ là làm cho có, mà cần có quy trình kiểm soát, kiểm tra và phản hồi thường xuyên để đảm bảo AI hoạt động đúng chuẩn. -
Nếu AI đưa ra quyết định sai, ai sẽ chịu trách nhiệm cuối cùng?
Đây là câu hỏi quan trọng mà không thể chỉ giao cho đội IT hay AI team. Lãnh đạo doanh nghiệp cần xác định rõ ai là người sẽ đứng ra chịu trách nhiệm khi có sự cố xảy ra.
Tóm lại, quản trị dữ liệu và AI là bài toán tổng thể của doanh nghiệp, đòi hỏi sự vào cuộc của lãnh đạo chứ không chỉ là nhiệm vụ của bộ phận kỹ thuật.
AI luôn trong tầm kiểm soát cùng Atlassian Teamwork Collection
Điểm mạnh nổi bật của Atlassian Teamwork Collection là khả năng tích hợp AI vào từng điểm kiểm soát trong quy trình quản trị, nhờ sự phối hợp của các công cụ như Jira, Confluence, Rovo, Loom… Mỗi công cụ đều đóng vai trò riêng trong việc đảm bảo mọi quyết định AI đều minh bạch, có người chịu trách nhiệm và dễ dàng kiểm soát. Nhờ đó, doanh nghiệp có thể yên tâm ứng dụng AI mà không lo mất kiểm soát hay gặp rủi ro về trách nhiệm và tuân thủ.
-
Jira:
Là trung tâm quản lý công việc, Jira cho phép doanh nghiệp thiết lập các quy trình rõ ràng, phân quyền chi tiết cho từng vai trò. Mỗi tác vụ, quyết định hoặc thay đổi liên quan đến AI đều được ghi nhận, gắn với người chịu trách nhiệm cụ thể và có thể truy vết lại bất cứ lúc nào. Nhờ đó, mọi hoạt động của AI đều nằm trong tầm kiểm soát, không có chuyện chạy ngoài luồng. -
Confluence:
Đây là nơi lưu trữ toàn bộ tài liệu, quy trình, hướng dẫn và các bản ghi kiểm toán liên quan đến AI. Nhờ khả năng liên kết trực tiếp với Jira, mọi thay đổi về dữ liệu, quy trình hoặc quyết định AI đều được ghi nhận và lưu trữ tập trung, giúp việc kiểm tra, đánh giá và audit trở nên dễ dàng, minh bạch. -
Rovo AI (AI Assistant):
Rovo không chỉ hỗ trợ tự động hóa các tác vụ lặp lại mà còn giúp kiểm tra, nhắc nhở các điểm kiểm soát quan trọng trong quy trình. Rovo có thể tự động tổng hợp báo cáo, phát hiện bất thường, cảnh báo rủi ro và đề xuất hành động phù hợp cho từng owner chịu trách nhiệm. Điều này giúp doanh nghiệp chủ động kiểm soát AI thay vì chỉ phản ứng khi có sự cố. -
Loom:
Loom hỗ trợ ghi lại các buổi họp, trao đổi, hướng dẫn hoặc giải thích về các quyết định liên quan đến AI. Nhờ đó, mọi thông tin đều được lưu lại minh bạch, giúp các bên liên quan dễ dàng theo dõi, kiểm tra và đào tạo lại khi cần thiết. -
Khả năng tích hợp với các công cụ khác (Slack, Google Drive, v.v.):
Teamwork Collection cho phép kết nối với các nền tảng phổ biến, đảm bảo mọi thông tin, dữ liệu và quyết định liên quan đến AI đều được đồng bộ, không bị phân tán hoặc bỏ sót.
Chính nhờ sự phối hợp này, Teamwork Collection giúp doanh nghiệp:
- Đảm bảo mọi quyết định của AI đều được kiểm soát, truy vết và audit rõ ràng.
- Phân quyền trách nhiệm minh bạch, không ai có thể né trách nhiệm khi có sự cố.
- Chủ động kiểm soát rủi ro, tuân thủ và nâng cao niềm tin vào hệ thống AI.
Như vậy, Teamwork Collection không chỉ giúp doanh nghiệp tận dụng sức mạnh của AI mà còn đảm bảo mọi hoạt động đều nằm trong khuôn khổ kiểm soát, phù hợp với các yêu cầu khắt khe về quản trị, rủi ro và tuân thủ trong ngành ngân hàng, tài chính, bảo hiểm.
Trả lời câu hỏi: Ai là người chịu trách nhiệm cuối cùng cho quản trị AI?
Trong quản trị AI, “owner” không chỉ là người trực tiếp vận hành hệ thống, mà là người chịu trách nhiệm cuối cùng về giá trị, rủi ro và mọi quyết định liên quan đến AI. Người này thường là các vị trí như Chief Risk Officer (Giám đốc Quản lý Rủi ro), Chief Data Officer (Giám đốc Dữ liệu) hoặc một thành viên trong ban lãnh đạo – những người có đủ quyền hạn và trách nhiệm để đảm bảo mọi quyết định của AI đều minh bạch, tuân thủ quy định và có thể kiểm tra, kiểm toán bất cứ lúc nào.
Theo khuyến nghị từ Gartner – Tổ chức nghiên cứu và tư vấn công nghệ thông tin (CNTT) hàng đầu thế giới: Các vai trò như AI Governance Lead (Phụ trách quản trị AI), Data Steward (Quản lý dữ liệu), Compliance Owner (Chủ trách nhiệm tuân thủ)… ngày càng quan trọng trong các tổ chức ngân hàng, tài chính, bảo hiểm. Khi doanh nghiệp xác định rõ ai là “owner” cho từng điểm kiểm soát, sẽ giúp giảm thiểu rủi ro, tăng sự tin tưởng và sẵn sàng đáp ứng các yêu cầu kiểm toán, tuân thủ ngày càng nghiêm ngặt.
Kết Luận: Trách nhiệm không thể chia đều
Khi AI được tích hợp vào hệ thống ra quyết định của doanh nghiệp, trách nhiệm không thể chia đều cho tất cả các phòng ban hay cá nhân liên quan. Nếu ai cũng chỉ chịu trách nhiệm một phần nhỏ, thì cuối cùng sẽ không ai thực sự đứng ra chịu trách nhiệm khi có sự cố xảy ra. Đặc biệt, với những quyết định quan trọng liên quan đến dữ liệu, giá trị kinh doanh, rủi ro và tuân thủ quy định, doanh nghiệp cần xác định rõ ai là người đứng ra chịu trách nhiệm cuối cùng.
Trách nhiệm này không chỉ dừng lại ở khía cạnh kỹ thuật (vận hành hệ thống), mà còn bao gồm việc đảm bảo dữ liệu chính xác, quyết định minh bạch, kiểm soát rủi ro và tuân thủ các quy định pháp lý. Nếu không có một “owner” rõ ràng, doanh nghiệp sẽ rất dễ rơi vào tình trạng đùn đẩy trách nhiệm, mất niềm tin từ lãnh đạo và khách hàng, đồng thời đối mặt với nhiều rủi ro về kiểm toán và pháp lý.
Teamwork Collection chính là giải pháp giúp doanh nghiệp gắn AI vào từng khâu kiểm soát trong quy trình quản trị. Nhờ đó, mọi quyết định của AI đều được ghi nhận, có thể kiểm tra, audit và luôn có người chịu trách nhiệm rõ ràng. Điều này không chỉ giúp doanh nghiệp vận hành hiệu quả hơn mà còn xây dựng được niềm tin vững chắc với đối tác, khách hàng và các cơ quan quản lý.
