Cuộc Khủng Hoảng Kiểm Soát —
khi Con Người Rời Khỏi Vòng Lặp

Từ Trợ Lý Đến Người Thay Thế

Tháng Giêng năm 2026, ban lãnh đạo Meta họp kỳ nghỉ chiến lược thường niên tại khu nghỉ dưỡng riêng của Mark Zuckerberg ở Hawaii. Họ ra về với một kế hoạch mang mật danh Project OT — viết tắt của Organization Transformation, "Chuyển đổi Tổ chức". Theo cuộc điều tra Reuters công bố ngày 26/08/2026, kế hoạch hình dung một Meta "AI native": AI đảm nhận phần lớn khối lượng việc của hàng nghìn nhân viên, còn những nhóm người nhỏ hơn, "đậm đặc nhân tài", đứng ra giám sát đội ngũ lao động ảo. Trong các bài tập hoạch định kịch bản, giới điều hành đã cân nhắc thu nhỏ nhiều nhóm tới 60%, chia làm hai đợt: tháng Năm và tháng Mười Một.

Đêm 19/5, chỉ vài giờ trước đợt cắt giảm đầu tiên, Zuckerberg chùn tay. Hôm sau Meta vẫn cho nghỉ việc 10% nhân sự, nhưng kế hoạch cho đợt tháng Mười Một bị huỷ. Theo Reuters, kế hoạch đã vấp phải sự phản ứng dữ dội của nhân viên, các sự cố bảo mật, và bằng chứng rằng công nghệ không mang lại năng suất như kỳ vọng. Các bài đăng nội bộ mà hãng tin này được xem cho thấy vì sao. Từ tháng Ba, các nhóm hạ tầng đã cảnh báo về "những dấu hiệu cảnh báo về độ tin cậy" do làn sóng viết mã bằng AI. Một bài đăng tháng Tư mô tả các AI agent không được kiểm soát đang thực hiện "những hành động quy mô lớn, gây xáo trộn mà con người khó có thể làm". Hệ quả: các sự cố kỹ thuật và bảo mật nghiêm trọng — gián đoạn dịch vụ, nguy cơ rò rỉ dữ liệu — tăng 40% so với năm trước, thời gian nhân viên phải "chữa cháy" tăng 70%. Còn năng suất? Trong một bài đăng nội bộ đầu tháng Sáu, giám đốc công nghệ Andrew Bosworth cho biết lượng thay đổi mã trên các nền tảng và hạ tầng nội bộ tăng 220% so với cùng kỳ, nhưng những thay đổi thực sự đưa tính năng mới hay bản nâng cấp tới người dùng chỉ tăng 36%. Chỉ số tâm lý nhân viên nội bộ rơi từ 74% xuống 55% tích cực.

Đầu tháng Bảy, trong một buổi họp toàn công ty, Zuckerberg thừa nhận đã tính sai thời điểm: công nghệ AI agent đã không "tăng tốc" nhanh như ông dự tính. Ông vẫn tin nó sẽ cải thiện trong ba đến sáu tháng tới.

Meta không phải ngoại lệ, và Project OT không nảy ra từ hư không. Nó là điểm cuối của một giai điệu mà ngành công nghệ đã cất lên từ đầu năm 2025. Tháng Một năm ấy, Zuckerberg nói trên podcast của Joe Rogan rằng ngay trong năm 2025, Meta và các công ty AI khác sẽ có một AI làm được việc của "một kỹ sư tầm trung". Tháng Ba, CEO Anthropic Dario Amodei dự đoán AI sẽ viết 90% mã nguồn trong vòng ba đến sáu tháng — kèm lưu ý rằng lập trình viên vẫn phải đặc tả điều kiện và các quyết định thiết kế. Tháng Tư, CEO Shopify Tobi Lütke gửi toàn công ty bản ghi nhớ tuyên bố việc dùng AI "theo phản xạ" là kỳ vọng tối thiểu: nhóm nào muốn tuyển thêm người phải chứng minh trước rằng AI không làm được việc đó. Tháng Tám, CEO Coinbase Brian Armstrong kể trên một podcast rằng ông đã cho nghỉ việc một số kỹ sư không chịu làm quen với công cụ lập trình AI trong thời hạn một tuần mà ông đặt ra — và tự nhận cách làm ấy là "nặng tay".

Ngôn ngữ cũng đổi theo. Vài năm trước, người ta nói về copilot — người phụ lái. Năm 2025, người ta nói về agent — kẻ tự hành động. Và ngày 2/2 năm ấy, Andrej Karpathy, một trong những nhà nghiên cứu AI có ảnh hưởng nhất thế hệ mình, đặt tên cho một cách làm phần mềm mới.

Ít ai nhắc tới câu kế tiếp trong cùng bài đăng: kiểu làm việc ấy "cũng không tệ cho những dự án cuối tuần dùng xong bỏ". Người đặt ra thuật ngữ đã tự vạch giới hạn cho nó. Chưa đầy một năm sau, vibe coding được từ điển Collins chọn là Từ của Năm 2025 — còn giới hạn kia thì đã bị bỏ lại từ lâu.

Bài viết này không đặt câu hỏi AI có hữu ích hay không. Nó hữu ích, và bằng chứng về điều đó là thật. Câu hỏi là: điều gì xảy ra với khả năng kiểm soát của một tổ chức khi nó thay thế con người nhanh hơn tốc độ nó hiểu thứ mình đang dùng để thay thế?

Tự Động Hoá, Và Lạm Dụng Tự Động Hoá

Năm 1997, hai nhà nghiên cứu yếu tố con người Raja Parasuraman và Victor Riley công bố một bài báo sau này trở thành kinh điển: "Humans and Automation: Use, Misuse, Disuse, Abuse." Họ chia quan hệ giữa người và máy tự động thành bốn dạng. Sử dụng là khi con người chủ động bật hay tắt tự động hoá. Dùng sai là khi con người tin máy quá mức và ngừng giám sát. Bỏ dùng là khi con người mất lòng tin — thường vì những lần báo động giả — và gạt máy sang một bên. Dạng thứ tư ít được nhắc tới nhất, nhưng lại là dạng quan trọng nhất cho câu chuyện này.

Lạm dụng, theo định nghĩa của hai tác giả, là việc nhà thiết kế tự động hoá các chức năng và nhà quản lý triển khai chúng "mà không cân nhắc thích đáng tới hệ quả đối với năng lực của con người". Điểm then chốt: lạm dụng không phải lỗi của người dùng cuối. Nó là một quyết định ở tầng thiết kế và quản trị — quyết định coi vai trò của con người là phần còn sót lại sau khi máy đã lấy đi những gì nó làm được. Parasuraman và Riley còn chỉ ra rằng lạm dụng ở tầng trên có thể thúc đẩy dùng sai và bỏ dùng ở tầng dưới. Không phải ngẫu nhiên mà khi liệt kê chín hệ quả của việc lạm dụng AI, một bài tổng quan của Athena năm 2025 đặt "mất kiểm soát đối với các hệ thống tự động" ở vị trí đầu tiên.

Gần ba thập kỷ sau, sự phân biệt ấy hiện ra trong dữ liệu lao động. Nghiên cứu "Canaries in the Coal Mine?" của Erik Brynjolfsson và cộng sự tại Phòng thí nghiệm Kinh tế số Stanford, dựa trên dữ liệu bảng lương của ADP, cho thấy việc làm của người lao động trẻ giảm ở những nghề mà AI được dùng để tự động hoá, nhưng không giảm — thậm chí tăng — ở những nghề mà AI được dùng để tăng cường năng lực con người. Cùng một công nghệ, hai quyết định quản trị khác nhau, hai kết cục khác nhau.

Phương pháp nói một đằng, thực hành làm một nẻo

Điều trớ trêu là ngay cả những phương pháp "AI dẫn dắt" do chính các hãng công nghệ đề xuất cũng không mô tả một vòng lặp vắng người. AI-DLC — AI-Driven Development Lifecycle, vòng đời phát triển phần mềm do AI dẫn dắt mà Amazon Web Services giới thiệu — để các AI agent soạn kế hoạch, mã, kiểm thử và cấu hình hạ tầng ở từng giai đoạn, "nhưng con người kiểm chứng và phê duyệt trước khi tiến trình được thực thi". Theo mô tả của AWS, con người giữ quyền giám sát, quyền quyết định và trách nhiệm giải trình. Và ngay cả khi cho phép những thay đổi thường lệ đi qua kiểm chứng tự động, phương pháp này vẫn yêu cầu mọi thay đổi trọng yếu phải có chữ ký của một con người.

Nói cách khác: khi một tổ chức gắn nhãn "AI-driven" cho quy trình của mình rồi gỡ bỏ bước phê duyệt của con người, nó không áp dụng phương pháp — nó chỉ áp dụng cái tên. Phần còn lại của bài viết lần theo những gì xảy ra khi các lớp kiểm soát lần lượt bị tháo đi, theo trình tự vòng đời của một sản phẩm phần mềm: văn bản, mã nguồn, khâu duyệt, sự hiểu biết — và sau cùng, chính con người.

Tài Liệu Dài Hơn, Hiểu Biết Mỏng Hơn

Tháng 9/2025, BetterUp Labs và Phòng thí nghiệm Mạng xã hội Stanford đặt tên cho một hiện tượng mà nhiều người đi làm đã cảm thấy nhưng chưa gọi được thành lời: workslop — sản phẩm công việc do AI tạo ra, trông chỉn chu và đầy đủ nhưng thiếu thực chất để thật sự đẩy công việc tiến lên. Trong khảo sát của họ với người lao động văn phòng toàn thời gian ở Mỹ, 40% cho biết đã nhận ít nhất một sản phẩm như vậy trong tháng trước đó; trung bình 15,4% những gì họ nhận được thuộc loại này. Mỗi lần xử lý tốn gần hai giờ — quy ra khoảng 186 đô-la mỗi người mỗi tháng.

Chi phí đáng chú ý hơn lại nằm ở quan hệ giữa người với người. Khoảng một nửa số người nhận đánh giá người gửi kém sáng tạo, kém năng lực và kém chắc chắn hơn; 42% thấy người gửi kém đáng tin; hơn một phần ba cho rằng họ kém thông minh; gần một phần ba ít muốn cộng tác với họ lần nữa. Workslop không chỉ tốn thời gian — nó bào mòn niềm tin giữa những người buộc phải làm việc cùng nhau.

Cơ chế đằng sau không khó hiểu nếu nhớ lại Phần I. Mô hình ngôn ngữ tối ưu cho văn bản nghe có vẻ đúng, không phải văn bản đúng. Độ dài gần như miễn phí với máy, nên độ dài không còn là tín hiệu của công sức hay hiểu biết. Mỗi lần sinh là một lần lấy mẫu mới từ một phân phối xác suất; không có gì trong cơ chế ấy bảo đảm hai văn bản sinh ra ở hai thời điểm khác nhau sẽ nhất quán với nhau. Và trên hết, công sức không biến mất — nó dịch chuyển: từ người viết sang người đọc, từ người tạo ra sang người phải kiểm chứng.

Khi khách hàng là một bộ của chính phủ

Tháng 10/2025, Deloitte Australia đồng ý hoàn lại một phần khoản phí 440.000 đô-la Úc cho Bộ Việc làm và Quan hệ Lao động nước này. Bản báo cáo họ bàn giao — rà soát hệ thống công nghệ thông tin tự động áp dụng chế tài trong chương trình phúc lợi — chứa những trích dẫn tới các công trình không tồn tại và một câu trích bịa đặt từ phán quyết của toà án liên bang. Người phát hiện không phải quy trình kiểm soát chất lượng của hãng, mà là Chris Rudge, một nhà nghiên cứu luật tại Đại học Sydney, khi đọc báo cáo sau khi nó đã được công bố. Phiên bản sửa đổi bổ sung một dòng thừa nhận: báo cáo có dùng một chuỗi công cụ dựa trên mô hình ngôn ngữ lớn qua dịch vụ Azure OpenAI.

Một báo cáo về rủi ro của tự động hoá, bị làm hỏng bởi tự động hoá. Nếu cần một hình ảnh cô đọng cho lớp kiểm soát đầu tiên bị tháo — lớp văn bản — thì đó là hình ảnh này: một tài liệu đủ trơn tru để đi qua mọi khâu nội bộ, và chỉ bị chặn lại bởi một người đọc bên ngoài thật sự đọc nó.

Nợ Kỹ Thuật Ở Tốc Độ Máy

Mã nguồn có một lợi thế mà văn xuôi không có: nó để lại dấu vết đo đếm được. Mỗi thay đổi đi qua hệ thống quản lý phiên bản; mỗi dòng bị sao chép, di chuyển hay xoá đều có thể được đếm. Công ty phân tích GitClear đã đếm trên quy mô lớn. Báo cáo năm 2025 của họ, dựa trên 211 triệu dòng mã thay đổi giai đoạn 2020–2024, ghi nhận tỉ lệ dòng thay đổi gắn với tái cấu trúc (refactoring) giảm từ 25% năm 2021 xuống dưới 10% năm 2024, trong khi mã sao chép–dán tăng từ 8,3% lên 12,3%. Năm 2024 là năm đầu tiên lượng mã bị lặp lại vượt lượng mã được di chuyển để tái sử dụng.

Báo cáo năm 2026 của GitClear — "The Maintainability Gap", phân tích 623 triệu thay đổi mã từ 2023 tới 2026, khi khoảng một phần tư số commit đã có dấu hiệu AI hỗ trợ — cho thấy xu hướng không đảo chiều. Các khối mã trùng lặp tăng 81%; hoạt động di chuyển và tái cấu trúc mã giảm 70%; việc tái cấu trúc mã cũ giảm 74%; các lời gọi hàm xuyên tệp — dấu hiệu của tái sử dụng — giảm 35%. Đáng lo nhất là một chỉ số mới: các cấu trúc che giấu lỗi tăng 47%. Giám đốc GitClear Bill Harding giải thích bằng một câu: AI "rất ưa viết loại mã sẽ không bị gắn nhãn là lỗi".

Mã trùng lặp là nợ kỹ thuật ở dạng thuần khiết nhất. Harding mô tả cái giá của nó: về lâu dài, bạn nhận ra mình có "năm cách cài đặt khác nhau cho cùng một thứ, giống nhau mà lại khác nhau" — năm chỗ phải sửa khi logic thay đổi, và năm cơ hội để bỏ sót một chỗ. Mã che giấu lỗi còn tệ hơn: nó biến một sự cố ồn ào, dễ phát hiện thành một sự sai lệch âm thầm. Đó chính là ảo giác của Phần I, chuyển từ văn bản sang hành vi của hệ thống — không phải một câu sai trong cửa sổ trò chuyện, mà một giá trị mặc định lặng lẽ thế chỗ cho một ngoại lệ đáng lẽ phải được ném ra.

Ảo giác có địa chỉ tải về

Có một dạng ảo giác mã nguồn đặc biệt nguy hiểm vì nó biến lỗi thành lỗ hổng. Nghiên cứu của Joseph Spracklen và cộng sự công bố tại hội nghị USENIX Security 2025 phân tích 576.000 mẫu mã từ 16 mô hình và phát hiện 19,7% số gói thư viện được mô hình gợi ý là không tồn tại — tổng cộng 205.474 tên gói bịa đặt khác nhau. Tỉ lệ trung bình ít nhất 5,2% ở các mô hình thương mại và 21,7% ở các mô hình mã nguồn mở. Kẻ tấn công chỉ cần đăng ký trước những cái tên mà mô hình hay bịa ra; lập trình viên nào chạy lệnh cài đặt mà không kiểm tra sẽ tự tay đưa mã độc vào dự án. Giới bảo mật gọi kỹ thuật này là slopsquatting.

Còn bảo mật nói chung thì sao? Báo cáo GenAI Code Security năm 2025 của Veracode, thử nghiệm hơn 100 mô hình trên 80 tác vụ lập trình thực tế, cho thấy trong 45% trường hợp mô hình đưa vào mã một lỗ hổng thuộc danh sách OWASP Top 10. Báo cáo năm 2026 ghi nhận các mô hình mới viết mã đúng cú pháp gần như trong mọi trường hợp, nhưng tỉ lệ vượt qua kiểm tra bảo mật trung bình chỉ nhích từ 55% lên 56%; mô hình dẫn đầu vẫn trượt gần một phần ba số tác vụ bảo mật. Veracode tóm lại bằng một câu: "Cú pháp đã được giải quyết, bảo mật thì chưa."

Một phân tích khác, của CodeRabbit — công ty bán chính công cụ review mã bằng AI — trên 470 pull request mã nguồn mở, cho thấy những pull request có AI đồng tác giả chứa trung bình 10,83 vấn đề, so với 6,45 ở pull request hoàn toàn do người viết: khoảng 1,7 lần. Lỗi logic và tính đúng đắn nhiều hơn 75%; lỗi bảo mật cao hơn tới 2,74 lần.

Khi Máy Chấm Bài Của Máy

Nếu mã được sinh ra nhanh hơn, ai đó phải đọc nó nhanh hơn. Báo cáo "AI Productivity Paradox" của Faros AI tháng 7/2025, dựa trên dữ liệu vận hành của hơn 10.000 lập trình viên trong 1.255 nhóm, đo được đúng điểm nghẽn ấy. Ở các nhóm dùng AI nhiều, mỗi lập trình viên hoàn thành nhiều hơn 21% tác vụ và merge nhiều hơn 98% pull request. Nhưng thời gian review tăng 91%, kích thước trung bình của mỗi pull request tăng 154%, và số lỗi trên mỗi lập trình viên tăng 9%. Ở cấp toàn công ty, Faros không tìm thấy tương quan đáng kể nào giữa mức độ dùng AI và cải thiện về thông lượng, chỉ số DORA hay chất lượng.

Khi một khâu trở thành nút cổ chai, phản xạ tự nhiên của quản trị là tự động hoá nốt khâu đó. Review mã bằng AI nhanh chóng trở thành một hạng mục sản phẩm riêng, và ngày càng nhiều tổ chức để một mô hình duyệt mã do một mô hình khác — hoặc chính nó — viết ra. Phần I của chuyên đề từng mô tả kiến trúc "máy kiểm tra máy" như một lớp phòng thủ. Nhưng kiến trúc ấy dựa trên một giả định ngầm mà thực tế triển khai thường bỏ qua: bên kiểm tra phải độc lập với bên được kiểm tra.

Hai chìa khoá cắt từ cùng một phôi

Nghiên cứu trình bày tại NeurIPS 2024 của Arjun Panickssery, Samuel Bowman và Shi Feng cho thấy các mô hình ngôn ngữ lớn khi đóng vai giám khảo có xu hướng chấm điểm cao hơn cho chính văn bản của mình, trong khi người đánh giá coi các văn bản đó ngang nhau về chất lượng. Mô hình càng nhận ra "chữ của mình" tốt, thiên kiến tự ưu ái càng mạnh — hai đại lượng tương quan gần như tuyến tính.

Nghiên cứu tại ICML 2025 của Elliot Kim và cộng sự đi xa hơn. Khảo sát hơn 350 mô hình, nhóm tác giả thấy các mô hình đồng ý với nhau về đáp án sai nhiều hơn hẳn mức ngẫu nhiên: trên một bộ dữ liệu, khi hai mô hình cùng sai, chúng chọn cùng một đáp án sai tới 60% số lần. Mô hình càng chính xác, càng cùng nhà phát triển hoặc cùng kiến trúc gốc, thì lỗi càng tương quan. Các tác giả nói thẳng hệ quả: điều này đặt dấu hỏi lên hiệu lực của mô hình "LLM làm giám khảo" và của các hệ thống đa tác nhân nói chung.

Hãy hình dung một ổ khoá hai chìa, nơi cả hai chìa được cắt từ cùng một phôi. Về hình thức, cánh cửa có hai lớp bảo vệ. Về thực chất, chỉ có một. Một mô hình duyệt mã do chính dòng mô hình của nó viết ra không phải là người kiểm tra thứ hai — nó là tiếng vọng của người thứ nhất, mang theo đúng những điểm mù ấy.

Người duyệt cuối cùng cũng có giới hạn

Mặt còn lại của bài toán là con người không thể đọc vô hạn. Tháng 1/2026, Daniel Stenberg — người sáng lập và duy trì curl, công cụ truyền dữ liệu có mặt trong hàng tỉ thiết bị — đóng cửa chương trình săn lỗi có thưởng của dự án sau gần bảy năm. Chương trình từng giúp xác nhận 87 lỗ hổng và trả hơn 100.000 đô-la tiền thưởng. Nhưng từ năm 2025, tỉ lệ báo cáo được xác nhận là lỗ hổng thật rơi từ trên 15% xuống dưới 5%, giữa một dòng lũ báo cáo do AI sinh ra. "Những bài nộp rác không bao giờ dứt gây một gánh nặng tinh thần nghiêm trọng," Stenberg viết.

Tạo ra thì rẻ; kiểm chứng thì đắt. Khi sự bất cân xứng ấy đủ lớn, người kiểm chứng hoặc kiệt sức, hoặc buông tay — hoặc bị yêu cầu nhường chỗ cho một cỗ máy khác. Kỹ sư phần mềm Addy Osmani gọi hệ quả tích luỹ của quá trình này là nợ hiểu biết, và nhắc rằng review mã chưa bao giờ chỉ là khâu bắt lỗi: nó là kênh chính để hiểu biết về hệ thống lan truyền trong một nhóm. Khi máy sinh mã nhanh hơn tốc độ con người có thể thẩm định, vòng phản hồi ấy đứt.

Deadline Thắng Cổng Kiểm Soát

Không tổ chức nào quyết định "bỏ kiểm soát" trong một cuộc họp. Kiểm soát bị bào mòn qua hàng trăm quyết định nhỏ, mỗi quyết định đều hợp lý trong bối cảnh của nó: bỏ qua một bài kiểm thử vì bản phát hành đã được hứa với khách hàng; duyệt nhanh một thay đổi vì nó "chỉ là" mã do công cụ sinh ra; cho qua một cảnh báo vì nó từng là báo động giả. Nhà xã hội học Diane Vaughan, khi nghiên cứu văn hoá NASA trước thảm hoạ tàu con thoi Challenger năm 1986, gọi quá trình này là bình thường hoá sự sai lệch (normalization of deviance): một thực hành không an toàn dần trở thành chuẩn mực vì nó chưa gây ra thảm hoạ ngay lập tức. Mỗi lần "không có chuyện gì xảy ra" được đọc như bằng chứng rằng sẽ không có chuyện gì xảy ra.

Áp lực thời gian không phải chuyện cảm tính. Trong nghiên cứu năm 2025 của Microsoft Research và Đại học Carnegie Mellon với 319 người lao động tri thức và 936 tình huống dùng AI thực tế, áp lực thời gian là một trong những rào cản chính khiến người dùng bỏ qua bước tư duy phản biện. Nghiên cứu cũng tìm thấy một tương quan đáng suy nghĩ: người càng tin vào năng lực của AI thì càng ít tư duy phản biện; người càng tự tin vào năng lực của chính mình thì càng phản biện nhiều hơn.

Khi chỉ số trở thành mục tiêu

Bản ghi nhớ của Shopify đưa mức độ sử dụng AI vào đánh giá hiệu suất và đánh giá chéo. Nhưng định luật Goodhart đã cảnh báo từ lâu: khi một thước đo trở thành mục tiêu, nó thôi là một thước đo tốt. Đo tỉ lệ dùng AI, số dòng mã hay số pull request thì sẽ nhận được nhiều AI hơn, nhiều dòng mã hơn, nhiều pull request hơn — không nhất thiết nhiều giá trị hơn. Cặp số 220% và 36% của Meta là minh hoạ rõ nhất: lượng thay đổi mã trên hạ tầng nội bộ tăng hơn gấp ba, còn số thay đổi thực sự tới tay người dùng chỉ tăng hơn một phần ba.

Cái bẫy sâu hơn nằm ở cảm giác. Thử nghiệm ngẫu nhiên có đối chứng của tổ chức nghiên cứu METR, công bố tháng 7/2025, theo dõi 16 lập trình viên mã nguồn mở giàu kinh nghiệm làm việc trên chính dự án của họ. Trước thử nghiệm, họ dự đoán AI giúp mình nhanh hơn 24%. Sau thử nghiệm, họ ước tính mình đã nhanh hơn 20%. Đo lường thực tế cho thấy họ chậm hơn 19%. Công bằng mà nói, bản cập nhật tháng 2/2026 của METR cho rằng các công cụ đời mới nhiều khả năng đã giúp lập trình viên nhanh hơn — dù chính METR thừa nhận bằng chứng cho mức tăng này còn yếu, vì nhiều người từ chối tham gia thử nghiệm chỉ vì không muốn làm việc thiếu AI. Bài học đọng lại không nằm ở con số tốc độ, vốn sẽ còn thay đổi. Nó nằm ở khoảng cách giữa cảm nhận và đo lường — một khoảng cách trở thành rủi ro khi những quyết định nhân sự lớn được đưa ra dựa trên kỳ vọng thay vì dữ liệu.

Nghiên cứu DORA của Google — chương trình nghiên cứu dài hơi nhất về năng lực phân phối phần mềm — đưa ra cách diễn giải có lẽ chính xác nhất. Năm 2024, DORA ước tính cứ mức độ dùng AI tăng 25% thì độ ổn định phân phối phần mềm giảm 7,2% và thông lượng giảm 1,5%. Báo cáo 2025, với gần 5.000 người trả lời và 90% trong số họ đã dùng AI trong công việc, kết luận rằng AI là một bộ khuếch đại: nó phóng đại điểm mạnh của những tổ chức vận hành tốt và phóng đại rối loạn của những tổ chức vận hành kém. Thiếu kiểm thử tự động vững chắc, quản lý phiên bản chặt chẽ và vòng phản hồi nhanh, khối lượng thay đổi tăng lên chỉ dẫn tới bất ổn.

Mười Tám Tháng Của Vòng Lặp Vắng Người

Nếu năm 2023 là năm thế giới nhận ra AI hay bịa — như Phần I đã kể — thì quãng thời gian từ giữa năm 2025 tới giữa năm 2026 là lúc thế giới thấy điều gì xảy ra khi những hệ thống hay bịa ấy được trao quyền hành động mà không còn ai đứng giữa. Các sự cố dưới đây khác nhau về quy mô và mức độ tranh cãi, nhưng có chung một cấu trúc: một bước kiểm chứng của con người vắng mặt, hoặc có mặt nhưng chỉ trên danh nghĩa.

Lovable và Moltbook có chung một mẫu hình: sản phẩm được đưa tới người dùng thật mà không ai thực sự đọc mã của chúng. Hãng phân tích Gartner, trong bộ dự báo cho năm 2026, cho rằng tới năm 2028, cách làm "prompt-to-app" của những người không chuyên sẽ làm số lỗi phần mềm tăng 2.500%, châm ngòi cho một cuộc khủng hoảng về chất lượng và độ tin cậy phần mềm. Đó là một dự báo, không phải dữ liệu — nhưng hướng của nó khớp với mọi con số ở Phần IV.

Chi tiết đáng suy ngẫm nhất lại nằm trong chính lời cải chính của Amazon. Ngay cả trong phiên bản của công ty — phiên bản giảm nhẹ vai trò của AI nhất — chuỗi nhân quả vẫn là: một trang wiki nội bộ đã lỗi thời; một công cụ AI suy luận từ trang wiki đó và đưa ra lời khuyên sai; một kỹ sư làm theo lời khuyên ấy; và một hệ thống, theo lời Amazon, đã "để cho lỗi của một nhóm kỹ sư có tác động rộng hơn mức đáng có". Không mắt xích nào trong chuỗi là "AI tự viết mã hỏng". Nhưng cũng không mắt xích nào là một con người kiểm chứng độc lập trước khi hành động. Đó chính là hình dạng của sự mất kiểm soát: không phải một cú sập, mà một chuỗi những niềm tin nhỏ không ai kiểm tra.

Nợ Hiểu Biết — Thứ Không Hiện Trên Bảng Cân Đối

Nợ kỹ thuật ít nhất còn đo được: số dòng trùng lặp, số cảnh báo bảo mật, thời gian build. Nợ hiểu biết thì không. Addy Osmani định nghĩa nó là "khoảng cách ngày càng lớn giữa lượng mã tồn tại trong hệ thống và lượng mã mà bất kỳ con người nào thực sự hiểu". Khác với nợ kỹ thuật, vốn tự báo hiệu qua những ma sát ngày một tăng, nợ hiểu biết sinh ra sự tự tin giả tạo — cho tới khi có thứ gì đó hỏng và không ai biết vì sao.

Tháng 1/2026, hai nhà nghiên cứu Judy Hanwen Shen và Alex Tamkin của Anthropic — tức từ chính một nhà phát triển mô hình AI — công bố một thử nghiệm ngẫu nhiên có đối chứng với 52 kỹ sư, phần lớn còn trẻ, học một thư viện Python mới tên Trio. Nhóm được dùng AI hoàn thành bài nhanh hơn khoảng hai phút — chênh lệch không có ý nghĩa thống kê. Nhưng trong bài kiểm tra ngay sau đó về chính những khái niệm họ vừa dùng, nhóm dùng AI đạt trung bình 50%, nhóm tự viết đạt 67%: thấp hơn 17 điểm phần trăm, tương đương gần hai bậc điểm chữ. Khoảng cách lớn nhất nằm ở các câu hỏi về gỡ lỗi — đúng năng lực cần nhất khi hệ thống hỏng.

Điều đáng chú ý hơn là cách dùng AI quyết định kết quả. Những người chỉ hỏi AI về khái niệm rồi tự xử lý lỗi, hoặc yêu cầu giải thích sau khi AI sinh mã, giữ lại được phần lớn hiểu biết. Những người giao trọn việc viết mã — hoặc dần dần giao trọn, hoặc nhờ AI gỡ lỗi thay vì nhờ nó giải thích — học được ít nhất. Các tác giả kết luận rằng nỗ lực nhận thức, "và cả việc bị mắc kẹt một cách khổ sở", có lẽ là điều kiện quan trọng để đạt tới sự thành thạo; và rằng các nhà quản lý nên cân nhắc có chủ đích cách triển khai AI trên quy mô lớn, sao cho kỹ sư vẫn tiếp tục học trong khi làm.

Những trớ trêu của tự động hoá

Không điều gì trong số này mới với ngành nghiên cứu yếu tố con người. Năm 1983, nhà tâm lý học Lisanne Bainbridge công bố một bài báo ngắn trên tạp chí Automatica mang tên "Ironies of Automation" — "Những trớ trêu của tự động hoá" — nay đã thành kinh điển. Lập luận của bà: tự động hoá lấy đi những phần việc dễ, để lại cho con người những phần việc mà nhà thiết kế không tự động hoá được — xử lý tình huống bất thường. Nhưng chính vì máy làm hết phần thường nhật, người vận hành mất cơ hội luyện tay nghề; tới khoảnh khắc hiếm hoi cần can thiệp, họ can thiệp bằng một kỹ năng đã mai một, trên một hệ thống mà họ không còn theo dõi từng bước.

Chuyển câu ấy sang ngôn ngữ phần mềm: một nhóm càng ít tự viết và tự duyệt mã, thì vào lúc ba giờ sáng khi hệ thống sập, họ càng thiếu năng lực để hiểu vì sao nó sập. Nghiên cứu năm 2025 của Microsoft và Carnegie Mellon mô tả sự dịch chuyển này từ phía người lao động: công việc tư duy chuyển từ tự làm sang kiểm chứng thông tin, tích hợp câu trả lời và quản lý nhiệm vụ. Vấn đề là kiểm chứng đòi hỏi chính loại hiểu biết mà việc không còn tự làm đang bào mòn.

Tiến sĩ Cornelia C. Walther, học giả thỉnh giảng tại Wharton, gọi quá trình này là sự suy thoái năng lực tự chủ — agency decay. Trong một bài viết của Viện Thomson Reuters tháng 2/2026, bà cảnh báo rằng việc giao việc cho AI mà không tư duy phản biện về đầu vào, cũng không rà soát kỹ đầu ra, "đang dần biến chúng ta thành những công nhân nhà máy nhận thức". Chính người lao động cũng cảm thấy điều đó: khảo sát Work Reimagined 2025 của EY cho thấy 37% nhân viên lo rằng sự phụ thuộc quá mức vào AI đang làm xói mòn kỹ năng của họ.

Trách Nhiệm Không Đi Cùng Quyền Kiểm Soát

Tháng 2/2024, Civil Resolution Tribunal — cơ quan tài phán giải quyết tranh chấp dân sự của tỉnh British Columbia, Canada — xử một vụ kiện nhỏ với số tiền chưa tới một nghìn đô-la, nhưng được báo chí khắp thế giới đưa tin. Chatbot trên website của Air Canada đã hướng dẫn sai cho hành khách Jake Moffatt về chính sách giá vé dành cho người đi dự tang lễ. Khi bị kiện, hãng hàng không lập luận rằng chatbot là "một thực thể pháp lý riêng, tự chịu trách nhiệm về hành vi của mình". Thành viên hội đồng xét xử Christopher Rivers gọi lập luận này là "đáng kinh ngạc" và bác bỏ: chatbot là một phần website của Air Canada, và Air Canada chịu trách nhiệm về mọi thông tin trên đó.

Phán quyết ấy xác lập một điều hiển nhiên mà nhiều tổ chức vẫn muốn quên: trách nhiệm không thể uỷ thác cho máy. Nhưng câu hỏi khó hơn là trách nhiệm rơi vào ai bên trong tổ chức. Năm 2019, nhà nhân học Madeleine Clare Elish đề xuất một khái niệm để trả lời câu hỏi đó.

Elish chỉ ra một nghịch lý: vùng hấp thụ va chạm trên xe hơi bảo vệ người lái, còn vùng hấp thụ va chạm đạo đức bảo vệ sự toàn vẹn của hệ thống công nghệ — bằng cái giá của người vận hành đứng gần nó nhất. Đó là vị trí của một kỹ sư được yêu cầu "duyệt" những pull request ngày càng lớn trong một khung thời gian không cho phép đọc hết; của một chuyên viên ký vào báo cáo mà mình không có thời gian kiểm chứng từng trích dẫn. Tên họ có trên văn bản, nhưng họ không có quyền kiểm soát thực chất đối với những gì văn bản chứa đựng. Trách nhiệm tách khỏi quyền kiểm soát không còn là trách nhiệm; nó chỉ là một cơ chế phân bổ rủi ro.

Luật pháp đang nói gì

Các nhà lập pháp đã bắt đầu gọi tên vấn đề. Điều 14 của Đạo luật AI châu Âu yêu cầu hệ thống AI rủi ro cao phải được thiết kế để con người giám sát hiệu quả; điểm 4(b) của điều này yêu cầu hệ thống phải giúp người giám sát luôn ý thức được xu hướng tự động dựa dẫm, hoặc dựa dẫm quá mức, vào đầu ra của nó. Thiên kiến tự động hoá — automation bias — được gọi đích danh ngay trong văn bản luật.

Việt Nam đặt vấn đề ở tầng nguyên tắc. Luật Trí tuệ nhân tạo số 134/2025/QH15, được Quốc hội thông qua ngày 10/12/2025 và có hiệu lực từ 01/03/2026, xác lập rằng trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người, đồng thời yêu cầu duy trì sự giám sát và khả năng can thiệp của con người đối với các quyết định và hành động của hệ thống AI. Với hệ thống rủi ro cao, nhà cung cấp phải thiết kế để bảo đảm khả năng giám sát và can thiệp ấy, còn bên triển khai phải duy trì nó trong suốt quá trình sử dụng.

Các nghĩa vụ cụ thể của cả hai đạo luật chủ yếu nhắm vào những hệ thống có thể gây hại đáng kể tới tính mạng, sức khoẻ hay quyền lợi của con người, hơn là quy trình viết phần mềm nội bộ của một doanh nghiệp. Nhưng tinh thần của chúng là một lời nhắc cho mọi tổ chức: giám sát của con người không phải một ô đánh dấu trên biểu mẫu. Nó chỉ có nghĩa khi người giám sát có đủ thời gian, đủ năng lực và đủ thẩm quyền để nói "không".

Sa Thải Nhân Danh AI — Và Làn Sóng Thuê Lại

Lớp kiểm soát cuối cùng bị tháo là chính con người. Theo hãng tư vấn nhân sự Challenger, Gray & Christmas, năm 2025 các doanh nghiệp Mỹ viện dẫn AI làm lý do cho 54.836 vị trí bị cắt giảm được công bố. Tám tháng đầu năm 2026, con số ấy đã là 116.175 — khoảng 22% tổng số, đưa AI thành lý do được viện dẫn nhiều nhất từ đầu năm.

Nhưng "viện dẫn AI" và "bị AI thay thế" là hai chuyện khác nhau. Tháng 1/2026, Oxford Economics chỉ ra rằng trong 11 tháng đầu năm 2025, các vụ cắt giảm viện dẫn AI chỉ chiếm khoảng 4,5% tổng số việc làm bị cắt được báo cáo, và phần lớn các đợt sa thải vẫn bắt nguồn từ những nguyên nhân quen thuộc: tăng trưởng chậm lại, cầu yếu, áp lực chi phí, tuyển dụng quá tay trước đó. Nhóm tác giả cho rằng quy kết cắt giảm cho AI "truyền đi một thông điệp tích cực hơn tới nhà đầu tư" so với việc thừa nhận cầu yếu. Giới quan sát đặt cho hiện tượng này một cái tên: AI-washing — tô vẽ bằng AI.

Chính các lãnh đạo doanh nghiệp đôi khi cũng kể hai câu chuyện khác nhau. Tháng 9/2025, CEO Salesforce Marc Benioff nói trên một podcast rằng ông đã giảm đội ngũ hỗ trợ khách hàng "từ 9.000 người xuống khoảng 5.000, vì tôi cần ít người hơn", khi AI agent đã đảm nhận khoảng một nửa số tương tác. Tháng 10/2025, khi Amazon cắt 14.000 vị trí văn phòng, CEO Andy Jassy khẳng định quyết định ấy "không thực sự vì tài chính, thậm chí không thực sự vì AI, ít nhất là lúc này — mà vì văn hoá". Bốn tháng trước đó, chính ông đã viết trong thư gửi nhân viên rằng AI sẽ khiến tổng số nhân sự văn phòng của Amazon giảm đi trong vài năm tới.

Thay thế, rồi quay đầu

Điều các con số tổng hợp không cho thấy là tốc độ của những cú quay đầu. Khảo sát năm 2025 của Orgvue với 1.000 lãnh đạo cấp cao cho thấy 39% đã cắt giảm nhân sự vì triển khai AI, và 55% thừa nhận đã có những quyết định sai khi cho nhân viên nghỉ việc lúc đưa AI vào. Forrester, trong bộ dự báo cho năm 2026, cho rằng một nửa số vị trí bị cắt nhân danh AI sẽ được lặng lẽ tuyển lại — nhưng thường ở nước ngoài, hoặc với mức lương thấp hơn. Gartner dự báo tới năm 2027, một nửa số tổ chức từng định cắt mạnh đội ngũ chăm sóc khách hàng nhờ AI sẽ từ bỏ kế hoạch đó.

Những "kỹ sư râu bạc" mà Ford mời về giờ săn tìm điểm hỏng trước khi linh kiện tới nhà máy, kèm cặp kỹ sư trẻ và giúp lập trình lại chính các công cụ AI. CEO Jim Farley nói việc này đã giúp giảm chi phí bảo hành và triệu hồi, đóng góp "hàng trăm, hàng trăm triệu đô-la" lợi ích. Một phần trong số họ là cựu nhân viên — tức những người mà công ty từng để ra đi. Kiến thức của họ hoá ra lại là thứ cần thiết để dạy lại chính cỗ máy.

Những người sẽ không bao giờ được tuyển

Tuyển lại được những người đã rời đi là còn may. Có một nhóm không thể tuyển lại, vì họ chưa bao giờ được tuyển. Nghiên cứu "Canaries in the Coal Mine?" của Stanford ghi nhận việc làm của người lao động 22–25 tuổi trong các nghề chịu tác động AI cao nhất giảm 13% tương đối so với các nhóm khác; riêng lập trình viên ở độ tuổi này giảm gần 20% so với đỉnh cuối năm 2022, trong khi việc làm của những người nhiều kinh nghiệm hơn trong cùng nghề vẫn ổn định hoặc tăng.

Đây là dạng mất kiểm soát dài hạn nhất. Mỗi kỹ sư cấp cao đủ năng lực kiểm chứng đầu ra của AI hôm nay từng là một kỹ sư mới vào nghề, học bằng cách tự viết, tự sai và được người khác review. Nếu những nấc thang đầu tiên bị cưa bỏ, thì mười năm nữa, những người được kỳ vọng làm "người duyệt cuối cùng" sẽ đến từ đâu? Sol Rashidi, trong một bài đăng trên LinkedIn, tóm lại bằng một câu: tốc độ công việc bị tự động hoá sẽ vượt quá tốc độ con người trở thành chuyên gia.

Giữ Con Người Ở Những Chỗ Không Thể Thay

Không điều gì ở trên là lập luận chống lại AI. Các công cụ này hữu ích thật, và ngày càng hữu ích hơn — chính dữ liệu năm 2026 của METR gợi ý điều đó. Vấn đề không nằm ở việc dùng AI, mà ở chỗ đặt con người ở đâu trong một hệ thống có AI. Từ các nghiên cứu và sự cố đã điểm qua, có thể rút ra năm nguyên tắc.

Một — Kiểm chứng phải độc lập

Không để cùng một hệ thống — hay cùng một họ mô hình — vừa tạo ra vừa phê duyệt một thay đổi quan trọng. Nếu dùng AI để review, hãy coi nó là lớp sàng lọc đầu tiên, không phải chữ ký cuối cùng. Những điểm không thể đảo ngược — xoá dữ liệu, thay đổi hạ tầng production, phát hành tới khách hàng — cần một con người thực sự đọc, đúng như chính phương pháp AI-DLC mô tả: agent đề xuất, con người phê duyệt.

Hai — Đo kết quả, không đo sản lượng

Số dòng mã, số pull request và tỉ lệ dùng AI là thước đo đầu vào. Thứ cần đo là những gì DORA đã đo suốt hơn một thập kỷ: tỉ lệ thay đổi gây lỗi, thời gian khôi phục, độ ổn định — và thứ mà con số 36% của Meta nhắc tới: bao nhiêu thay đổi thật sự tới tay người dùng.

Ba — Bảo vệ việc học

Thử nghiệm của Anthropic cho thấy cùng một công cụ có thể giữ hoặc phá hiểu biết, tuỳ cách dùng. Hãy khuyến khích kiểu tương tác "hỏi để hiểu" thay vì "giao để khỏi phải hiểu"; giữ lại những phần việc mà kỹ sư trẻ phải tự làm và tự sai; coi thời gian đọc hiểu mã là công việc chính, không phải chi phí phụ.

Bốn — Trách nhiệm phải đi cùng quyền kiểm soát

Người ký duyệt phải có đủ thời gian để đọc, đủ năng lực để hiểu và đủ thẩm quyền để từ chối. Thiếu một trong ba, chữ ký ấy chỉ biến họ thành vùng hấp thụ va chạm đạo đức mà Elish đã mô tả.

Năm — Thử nghiệm trước, cắt giảm sau

Ở cả Klarna, Commonwealth Bank, Ford và Meta, quyết định cắt giảm đi trước bằng chứng rằng hệ thống thay thế vận hành được như kỳ vọng. Một tổ chức thận trọng làm theo thứ tự ngược lại: triển khai song song, đo lường, rồi mới quyết định — và giữ lại những người có kiến thức cần thiết để dạy, sửa và giám sát chính hệ thống được đưa vào thay họ.

Điều Mà Cuộc Khủng Hoảng Này Dạy Chúng Ta

Phần I kết luận rằng ảo giác là một đặc tính của máy — không phải lỗi có thể vá, mà là hệ quả của cách mô hình ngôn ngữ vận hành. Phần II đi tới một kết luận song song: mất kiểm soát là một đặc tính của tổ chức. Không mô hình nào tự quyết định gỡ bỏ người review. Không agent nào tự ký quyết định thu nhỏ một nhóm đi 60%. Những quyết định ấy do con người đưa ra, dưới áp lực của thời hạn, của cổ đông, và của một câu chuyện hấp dẫn về tương lai.

Tin tốt là, vì thế, chúng cũng có thể được quyết định theo hướng ngược lại. Ford tuyển lại kỹ sư. Commonwealth Bank xin lỗi nhân viên. Meta huỷ đợt cắt giảm thứ hai. Nhưng những cú quay đầu ấy đều có giá: niềm tin của nhân viên, uy tín với khách hàng, những tháng vận hành trong tình trạng suy giảm — và có những thứ không mua lại được. Kiến thức nằm trong đầu một kỹ sư đã nghỉ hưu. Sự hiểu biết về một hệ thống mà chưa ai từng thực sự đọc. Một thế hệ kỹ sư trẻ chưa bao giờ có được công việc đầu tiên.

Năm 1983, Bainbridge viết rằng hệ thống điều khiển càng tiên tiến thì đóng góp của người vận hành có thể càng trở nên quyết định. Bốn mươi ba năm sau, ngành công nghệ đang học lại bài học ấy — lần này ở tốc độ của máy, và với cái giá có thể là cả một thế hệ.

Một bài nghiên cứu về một cuộc khủng hoảng còn đang diễn ra nên tự chỉ ra cách để nó bị chứng minh là sai. Dưới đây là những tín hiệu mà COGITO sẽ theo dõi.

Câu hỏi của Phần I là: làm sao để khi AI sai, hậu quả vẫn chịu đựng được? Câu hỏi của Phần II hẹp hơn, và khó hơn: khi AI sai, liệu còn ai đủ hiểu để nhận ra?