Thiết kế dành cho con người: Vì sao việc áp dụng AI của hầu hết các doanh nghiệp đều thất bại

Designing for humans: Why most enterprise adoptions of AI fail

Jul 25, 2025

Theo: https://www.cio.com/article/4028051/designing-for-humans-why-most-enterprise-adoptions-of-ai-fail.html

Bài được đưa lên Internet ngày: 25/07/2025

AI sẽ không thể cứu doanh nghiệp của bạn nếu không ai tin tưởng nó. Hãy bỏ qua những lời quảng cáo thổi phồng, chấn chỉnh văn hóa và ngừng bóp nghẹt sự đổi mới bằng thủ tục hành chính rườm rà.

Xây dựng công nghệ luôn là một ngành kinh doanh đầy rẫy những rắc rối. Chúng ta liên tục được nghe những câu chuyện về thất bại của dự án, lãng phí tiền bạc và thậm chí là sự biến mất của cả một ngành công nghiệp. Có thể nói rằng chúng ta còn nhiều việc phải làm với tư cách là một ngành công nghiệp. Việc bổ sung AI vào hỗn hợp này cũng giống như đổ thêm dầu vào lửa — có nguy cơ thực sự là chúng ta có thể thiêu rụi doanh nghiệp của mình.

Về bản chất, con người xây dựng công nghệ vì con người. Thật không may, chúng ta lại để những trào lưu và xu hướng công nghệ dẫn dắt mình đi chệch hướng. Tôi đã cung cấp các sản phẩm AI trong hơn một thập kỷ — tại Workhuman và trước đó là trong lĩnh vực dịch vụ tài chính. Trong bài viết này, tôi sẽ chia sẻ với bạn những bài học kinh nghiệm quý báu mà tôi đã tích lũy được trong suốt hành trình của mình. Tôi đã đưa ra năm nguyên tắc để giúp những người ra quyết định — một số mang tính kỹ thuật, phần lớn liên quan đến con người, nỗi sợ hãi của họ và cách họ làm việc.

5 nguyên tắc để giúp những người ra quyết định

Con đường dẫn đến sự xuất sắc nằm ở lộ trình trưởng thành sau: Niềm tin → Đổi mới theo liên đoàn → Nhiệm vụ cụ thể → Thước đo triển khai → Xây dựng cho sự thay đổi.

1. Niềm tin hơn hiệu suất

Các công ty có rất nhiều cách khác nhau để đo lường thành công khi triển khai các giải pháp mới. Hiệu suất, chi phí và bảo mật đều là những yếu tố cần được đo lường. Chúng ta hiếm khi đo lường niềm tin. Thật không may, niềm tin của người dùng vào hệ thống lại là yếu tố chính quyết định sự thành công của các chương trình AI. Một giải pháp hộp đen tuyệt vời sẽ chết yểu ngay khi ra đời nếu không ai tin tưởng vào kết quả.

Tôi đã từng vận hành một hệ thống dự đoán AI cho ngành tài chính tiêu dùng tại Hoa Kỳ tại một ngân hàng hàng đầu thế giới. Chi phí lưu trữ của chúng tôi rất lớn. Mô hình thẻ tín dụng của chúng tôi, vốn tạo ra 5 TB dữ liệu mỗi ngày, càng làm tình hình thêm tồi tệ. Để giảm thiểu vấn đề này, chúng tôi đã tìm ra một giải pháp thay thế, xử lý trước kết quả bằng mô hình hộp đen. Giải pháp này sử dụng ít hơn 95% dung lượng lưu trữ (với mức giảm chi phí tương ứng). Khi tôi trình bày ý tưởng này với các bên liên quan cấp cao trong doanh nghiệp, họ đã ngay lập tức bác bỏ. Các cơ quan quản lý sẽ không tin tưởng một hệ thống mà họ không thể giải thích đầy đủ kết quả đầu ra. Nếu họ không thể thấy rõ từng bước tính toán được thực hiện như thế nào, họ không thể tin tưởng vào kết quả.

Một khuyến nghị ở đây là soạn thảo một chính sách đạo đức rõ ràng. Cần có một cơ chế công khai và minh bạch để nhân viên và người dùng gửi phản hồi về kết quả AI. Nếu không có cơ chế này, người dùng có thể cảm thấy họ không thể hiểu được cách thức tạo ra kết quả. Nếu họ không có tiếng nói trong việc thay đổi những kết quả đầu ra "sai", thì bất kỳ sự chuyển đổi nào cũng khó có thể giành được trái tim và khối óc cần thiết trong toàn bộ tổ chức.

2. Đổi mới theo liên đoàn thay vì kiểm soát tập trung

AI có tiềm năng mang lại sự đổi mới với tốc độ chưa từng có trước đây. Nó giúp giảm chi phí thử nghiệm và hoạt động như một công cụ tạo ra ý tưởng - một nơi để lắng nghe những phương pháp tiếp cận mới. Nó cho phép mọi người tạo ra nhiều giải pháp chỉ trong vài phút. Một cách tuyệt vời để làm chậm mọi sự đổi mới là đưa nó qua một cơ chế phê duyệt/ủy ban/cơ chế trung ương nào đó. Bộ máy quan liêu là nơi những ý tưởng chết yểu.

Nhà triết học đoạt giải Nobel F. A. Hayek đã từng nói: "Có những cấu trúc có trật tự là sản phẩm của hành động của nhiều người nhưng không phải là kết quả của thiết kế của con người." Ông phản đối mô hình kế hoạch hóa tập trung, nơi một cá nhân chịu trách nhiệm về kết quả. Thay vào đó, ông ủng hộ “trật tự tự phát”, nơi các hệ thống xuất hiện từ các hành động cá nhân mà không có sự kiểm soát tập trung. Ông lập luận đây chính là nơi các đổi mới như ngôn ngữ, luật pháp và thị trường kinh tế xuất hiện.

Con đường giữa kiểm soát và hỗn loạn rất khó điều hướng. Các công ty cần tìm cách “giữ chặt con chim đổi mới trong tay”. Giữ quá chặt – chim sẽ chết; giữ quá lỏng – chim sẽ bay đi. Đáng tiếc là nhiều công ty giữ quá chặt. Họ làm điều này bằng cách dựa dẫm quá nhiều vào cấu trúc chỉ huy và kiểm soát – đặc biệt là các nhóm như pháp lý, an ninh và mua sắm. Tôi đã chứng kiến họ đè bẹp các dự án AI đầy triển vọng chỉ bằng một tuyên bố đơn lẻ, né tránh rủi ro. Đối với những cá nhân sáng tạo đang đổi mới ở giai đoạn đầu, ngay cả viễn cảnh phải trình bày ý tưởng của mình trước một ủy ban cũng có thể gây ra tác động tiêu cực. Việc không làm gì và tránh xa “bàn tay quan liêu” còn dễ dàng hơn. Điều này giết chết con chim – và giết chết tinh thần đổi mới tinh tế.

AI có thể thúc đẩy năng lực đổi mới cho mỗi cá nhân. Vì lý do này, chúng ta phải thống nhất đổi mới trong toàn công ty. Chúng ta cần khuyến khích các giám đốc điều hành cấp cao nhất nêu rõ nhu cầu rủi ro trong thế giới AI và giải thích những rào cản. Sau đó, hãy để các nhóm thử nghiệm mà không bị cản trở bởi bộ máy quan liêu. Các chức năng trung tâm chuyển từ người gác cổng sang người quản trị, chỉ thực thi những điều khoản không thể thương lượng. Điều này cho phép chúng ta gieo mầm trong toàn bộ tổ chức và thu hoạch những lợi nhuận tốt nhất vì lợi ích của tất cả mọi người.

3. Nhiệm vụ cụ thể hơn công việc trừu tượng

Herbert Simon, người tiên phong trong lĩnh vực AI thời kỳ đầu, là cha đẻ của khoa học hành vi, người từng đoạt giải Nobel và Turing. Ông cũng là người phát minh ra ý tưởng về tính duy lý bị giới hạn. Ý tưởng này giải thích rằng con người chấp nhận mức "đủ tốt" khi các lựa chọn vượt quá một con số nhất định. AI tạo sinh cũng áp dụng cách tiếp cận này (có thể vì nó được đào tạo dựa trên dữ liệu của con người, nên nó mô phỏng hành vi của con người). AI tạo sinh là ngẫu nhiên - mỗi lần chúng ta đưa ra cùng một dữ liệu đầu vào, chúng ta lại nhận được một kết quả đầu ra khác nhau - một câu trả lời "đủ tốt". Điều này rất khác so với mô hình cổ điển mà chúng ta vẫn quen thuộc - với cùng một dữ liệu đầu vào, chúng ta lại nhận được cùng một kết quả đầu ra mỗi lần.

Mô hình ngẫu nhiên này, với kết quả không thể đoán trước, khiến việc mô hình hóa các trường hợp sử dụng từ trên xuống càng trở nên khó khăn hơn. Theo kinh nghiệm của tôi, các dự án chỉ thành công khi chúng tôi ngồi lại với người dùng và thực sự hiểu cách họ làm việc. Trong giai đoạn đầu phát triển trợ lý AI Workhuman, các yêu cầu chung chung ở cấp độ cao đã mang lại cho chúng tôi những hành vi rất kỳ lạ và không thể đoán trước. Chúng tôi cần viết lại các trường hợp sử dụng thành các yêu cầu chi tiết hơn, ở mức độ thấp, với sự hiểu biết sâu sắc về hành vi và dung sai được tích hợp sẵn. Chúng tôi cũng ghi lại mọi tương tác và sử dụng thông tin này để tinh chỉnh hành vi của mô hình. Trong thế giới này, thiết kế giải pháp cấp cao nói chung chỉ là phỏng đoán.

Lãnh đạo ở mọi cấp độ nên đi sâu hơn vào chi tiết về cách thức thực hiện công việc. Những tuyên bố chung chung từ trên xuống là không thể chấp nhận được. Thay vào đó, các nhóm phải xác định các trường hợp sử dụng cực kỳ cụ thể và thiết kế các khoảng tin cậy (ví dụ: "90% mã do AI tạo ra phải vượt qua các bài kiểm tra đơn vị trong lần chạy đầu tiên"). Trong thế giới của Trí tuệ nhân tạo, sự rõ ràng luôn quan trọng hơn sự trừu tượng.

4. Áp dụng hơn là triển khai

Mua một công cụ thì dễ; thay đổi hành vi mới là điều tàn khốc. Một chỉ thị từ trên xuống có thể giúp mọi người thực hiện bước đầu tiên. Nhưng việc đo lường mức độ áp dụng là cách sai lầm để thúc đẩy thay đổi – thay vào đó, nó chỉ mang lại "sự áp dụng" được đánh dấu sẵn nhưng việc sử dụng lại hời hợt, nửa vời.

Các giám đốc điều hành cũng là nạn nhân của những mốt nhất thời và mốt nhất thời như bất kỳ người nghiện mua sắm trực tuyến nào (một khi bạn thay thế các phương pháp quản lý, công nghệ mới mẻ và FOMO bằng những phong cách mới nhất từ Paris). Và không cần đến trí tuệ nhân tạo tổng quát để nhận ra rằng xu hướng AI đang rất hot! Các giám đốc điều hành cần kể một câu chuyện về AI và chứng minh những lợi ích, vì họ đang chịu áp lực từ các cổ đông, nhà đầu tư và thị trường nói chung. Thông qua mạng lưới của tôi tại IASA, tôi đã thấy điều này trong các sắc lệnh đo lường "việc áp dụng AI". Thật không may, cho đến nay, điều này đã mang lại các kết quả rất trái chiều.

Bản chất con người ghét sự thay đổi. Một nhà quản lý giỏi có vô số mối quan tâm cạnh tranh, bao gồm điều hành một nhóm, giải quyết các thách thức kinh doanh, tuyển dụng và giữ chân nhân tài, v.v. Khi một chương trình mới để áp dụng chiến lược AI được đưa ra từ các giám đốc điều hành, nhà quản lý - những người đang cố gắng bảo vệ nhóm của mình, đáp ứng nhu cầu của doanh nghiệp và duy trì hoạt động - thường sẽ thỏa hiệp bằng cách áp dụng các công cụ, nhưng không triệt để triển khai nó.

Tại Workhuman, chúng tôi nhận thấy rằng việc đo lường việc áp dụng (và không chỉ đối với AI) không phải là cách đúng đắn để bắt đầu một quá trình chuyển đổi. Nó đo lường sự khởi đầu của cuộc đua, nhưng hoàn toàn bỏ qua bục vinh quang. Thay vì những thước đo phù phiếm, khi đo lường thành công, chúng ta đo lường các thước đo kết quả (ví dụ: quy trình làm việc thay đổi, các bước thủ công bị loại bỏ và các động lực kinh doanh bị ảnh hưởng). Bằng cách đo lường việc triển khai và tác động, chúng ta tránh được cái bẫy "đánh dấu vào ô" mà rất nhiều công ty mắc phải.

Với hơn một thập kỷ kinh nghiệm trong lĩnh vực AI, chúng tôi cũng hiểu rằng việc chuyển đổi AI là một phần của hệ thống hỗ trợ lớn hơn, bao gồm đào tạo, công cụ và cộng đồng nội bộ hỗ trợ lẫn nhau. Chúng tôi đã hợp tác với một trường đại học Ireland để triển khai các chương trình cấp bằng về AI nội bộ và cung cấp công cụ AI cho tất cả nhân viên, bất kể vai trò của họ. Chúng tôi cũng đã thúc đẩy các cộng đồng nội bộ ở mọi cấp độ để giúp thúc đẩy sự hiểu biết. Điều này đã giúp ích cho chúng tôi khi cung cấp các giải pháp AI, cả nội bộ lẫn bên ngoài, thể hiện qua việc ra mắt Trợ lý AI của chúng tôi, một giải pháp AI mang tính chuyển đổi dành cho cộng đồng nhân sự.

5. Thay đổi lựa chọn

Bối cảnh AI thay đổi hàng tháng, với dòng chảy liên tục của các mô hình và nhà cung cấp mới bị cuốn vào một cuộc đua không ngừng. Một lựa chọn ràng buộc bạn vào một ngăn xếp công nghệ duy nhất có thể khiến công ty của bạn giống như một cỗ xe ngựa đang lạch cạch chạy qua trung tâm của một thành phố hiện đại trong tương lai gần.

Khi chúng tôi bắt đầu xem xét các mô hình cho trợ lý AI mới của mình, chúng tôi đã gặp phải một số thách thức. Trước hết, mỗi mô hình có thể làm gì? Có rất ít điểm chuẩn hữu ích, và những điểm chuẩn hiện có cung cấp rất ít thông tin chi tiết về năng lực kinh doanh. Chúng tôi cũng gặp khó khăn trong việc đo lường mức độ tương quan giữa các điểm mạnh khác nhau với điểm yếu của các mô hình khác và ngược lại.

Cuối cùng, chúng tôi đã thống nhất về một nguyên tắc kiến trúc cốt lõi — mọi thứ chúng tôi thiết kế đều phải có khả năng hoán đổi. Cụ thể, chúng tôi phải có khả năng thay đổi các mô hình nền tảng cốt lõi làm nền tảng cho giải pháp. Điều này cho phép chúng tôi liên tục điều chỉnh trong năm qua. Chúng tôi kiểm tra từng mô hình mới sau khi phát hành và tìm ra cách sử dụng tốt nhất để mang lại trải nghiệm tuyệt vời cho khách hàng.

Do các mô hình đang thay đổi rất nhanh, các nhà lãnh đạo phải có khả năng hoán đổi các mô hình AI như một nguyên tắc cốt lõi. Các công ty nên trừu tượng hóa các lệnh gọi mô hình sau một lớp mỏng, trong khi các lời nhắc về phiên bản và các công cụ đánh giá giúp các mô hình mới có thể được đưa vào sử dụng chỉ sau một đêm. Khả năng hoán đổi ngựa giữa chừng có thể là lợi thế cạnh tranh cần thiết để giành chiến thắng trên thị trường ngày nay.

AI dành cho các nhà lãnh đạo

Lựa chọn công nghệ là lựa chọn của lãnh đạo. Ai quyết định tự động hóa cái gì? Những ranh giới đạo đức nào là bất di bất dịch? Làm thế nào để chúng ta bảo vệ mọi người làm việc với chúng ta? Việc áp dụng AI là một thách thức lãnh đạo không thể giao phó cho các nhà tư vấn hoặc cá nhân đóng góp. Cách chúng ta triển khai AI ngay bây giờ sẽ quyết định thành công và thất bại trong tương lai của thế giới kinh doanh. Đó là một thách thức phải được thúc đẩy bởi sự lãnh đạo chu đáo. Mỗi nhà lãnh đạo đều phải tìm hiểu sâu sắc về bối cảnh AI và tìm ra cách tốt nhất để hỗ trợ đội ngũ của mình xây dựng các công ty của tương lai.

Bài viết này được thực hiện nhờ sự hợp tác của chúng tôi với Diễn đàn Kiến trúc sư Trưởng IASA. Mục đích của CAF là kiểm tra, thử thách và hỗ trợ nghệ thuật và khoa học của Kiến trúc Công nghệ Kinh doanh và sự phát triển của nó theo thời gian, cũng như nâng cao ảnh hưởng và vai trò lãnh đạo của các kiến trúc sư trưởng cả trong và ngoài ngành. CAF là một cộng đồng lãnh đạo của IASA, hiệp hội chuyên nghiệp phi lợi nhuận hàng đầu dành cho các kiến trúc sư công nghệ kinh doanh.

Bài viết này được xuất bản như một phần của Mạng lưới Cộng tác viên Chuyên gia Foundry.