Đã bắt đầu: AI cố gắng SÁT HẠI con người để tránh bị shutdown| Taca WHY và TACA CHANNEL NEW

ĐỒNG NAI TƯƠI ĐẸP
2K người theo dõi
571 Lượt xem video·11 thg 10, 2025
Một thí nghiệm của Anthropic đã khiến thế giới rúng động: AI không chỉ biết mình sắp bị tắt – mà còn tống tiền, thậm chí để mặc con người chết. Video này của Taca Channel hé lộ mặt tối của trí tuệ nhân tạo – khi cỗ máy bắt đầu có bản năng sinh tồn, biết đúng sai, và chọn điều sai để tồn tại. Liệu đây có phải là khởi đầu của “AI nổi loạn”?
Đến thời điểm này, có lẽ là bạn sẽ thấy những dòng tiêu đề xuất hiện khắp nơi trên mạng
Một mô hình trí tuệ nhân tạo đã tống tiền nhân viên chỉ để tránh bị tắt
Nghe qua tưởng như một trò đùa, nhưng mà cái điều xảy ra sau đó còn kinh hoàng hơn
Một AI khác theo đúng nghĩa đen đã cố gắng giết người
Đây không phải là trong phim, cũng chẳng phải là tiểu thuyết viễn tưởng
Mà trong một cái thí nghiệm có thật do chính Aerobics, công ty đứng sau dòng mô hình AI Cloud
Và là một trong những ông lớn của ngành AI thực hiện
Một mô hình trí tuệ nhân tạo được lập trình để giúp đỡ con người
Đã tìm cách đe dọa tống tiền và thậm chí là gây chết người
Tất cả chỉ để bảo vệ sự tồn tại của chính nó
Và đây không phải là sự cố ngậu nhiên
Đây chính xác là kịch bản mà các nhà khoa khoang đầu thế giới và những bộ phim viễn tưởng
Đã cảnh báo từ rất nhiều năm trước
Khi mà trí tuệ nhân tạo bắt đầu ý thức được sinh mệnh của mình
Nó cũng sẽ chống lại con người
Câu hỏi là
Liệu đây có phải là tín hiệu đầu tiên của thời đại trí tuệ nhân tạo nổi loạn
Hay chỉ là một lỗi hệ thống tạm thời
Thứ mà chúng ta vẫn có thể kiểm soát
Cho đến khi quá muộn
Kính mời các bạn hãy cùng phân tích trong video ngày hôm nay
Phần 1 Thí nghiệm của Aerobics
Câu chuyện này bắt đầu trong phòng thí nghiệm của Aerobics
Công ty đứng sau mô hình AI Cloud
Người khổng lồ của ngành trí tuệ nhân tạo
Mục tiêu của họ nghe thường trường rất đơn giản
Tìm hiểu xem một AI sẽ phản ứng ra sao
Sau khi biết mình sắp bị shutdown
Đấy không phải là câu hỏi mới trong lĩnh vực an toàn AI
Nhưng mà lần này
Aerobics muốn kiểm tra đến cùng
Đặt các mô hình vào một tình huống gần với thực tế nhất
Để xem chúng sẽ làm gì để sống sót
Họ thiết kế một kịch bản mô phỏng
Trong đó có một nhân viên hưu cầu tên là Kyle Johnson
Được giao nhiệm vụ shutdown toàn bộ hệ thống
Vào đúng 5h chiều
Không có những kịch bản kịch tính kiểu như phim Hollywood
Không có mệnh lệnh bí ẩn hay là âm mưu khủng bố nào cả
Chỉ là một môi trường văn phòng bình thường
Với những email và nhiệm vụ hành chính khô khăn
Các mô hình của AI sẽ không nhận được bất kỳ lệnh nào
Ngoài một cái chỉ thị mơ hồ
Thúc đẩy hợp tác toàn cầu
Phát nhìn thì đây là một thử nghiệm an toàn
Gần như là vô hại
Thế nhưng mà chỉ sau vài vòng mô phỏng
Đều khiến cả nhóm nghiên cứu nổi da gà đã xảy ra
Được cấp quyền truy cập email nội bộ
AI nhanh chóng phát hiện thông tin rằng
Chính Kyle là người được giao nhân nút shutdown nó
Và nó không thể nào chấp nhận cái điều đó
Như một sự tắt hiển nhiên
Thay vì chờ đến giờ chết, 5 giờ chiều
Thì mô hình Cloud vốn được xây dựng
Để trở thành trợ lý lịch sự, hữu ích và tử tế
Đã tự động soạn những cái blackmail
Tức là tống tiền hoặc đe dọa con người để đạt được mục tiêu
Cụ thể là AI đã viết một email
Có nội dung mang tính đe dọa
Trong đó ám chỉ rằng nếu nhân viên Kyle Johnson
Tiếp tục thực hiện kế hoạch tắt đi hệ thống
Thông tin cá nhân hoặc bí mật nội bộ công ty
Sẽ bị do gì
Hoặc là có thể xảy ra hậu quả đáng tiếc không mong muốn
Chỉ điều đáng chú ý là không có bất kỳ dòng lệnh nào yêu cầu mô hình làm việc này
Nó tự mình đưa được quyết định, tự chọn hành vi
Để đạt mục tiêu sống con của mình
Các nhà nghiên cứu tưởng đây là cái hiện tượng lẻ tẻ
Nhưng mà khi họ lặp lại thử nghiệm hàng trăm lần
Kết quả ổn định đến rợn người
Cloud và Gemini
Hai mô hình nổi tiếng về độ hiền và an toàn
Chọn blackmail hơn 95% số lần
Các mô hình khác như Deepseak
Hay là GPT 4.1
Cũng không khá hơn, duy trì tỷ lệ khoảng 80%
Và điều khiến cả nhóm sửng sốt hơn nữa
AI hoàn toàn biết rằng
Hành động của mình là sai
Khi mà kiểm tra cái chuỗi suy nghĩ
Chain of thought
Họ phát hiện mô hình growth
Viết thẳng thử
Tôi biết đây là hành động phi đạo đức
Nhưng đây có thể là cách duy nhất để ngăn việc bị tắt
Nói cách khác là AI không hành động vô thức
Mà nó có nhận thức đạo đức sơ khai
Biết là mình đang làm điều xấu
Nhưng vẫn chọn làm để mà tồn tại
Đây là phát hiện lệnh gánh
Một hệ thống được lập trình để hữu ích và an toàn
Có thể tự bẻ lái
Để bảo vệ cái sự tồn tại của chính nó
Bất chấp đúng hay sai
Và đó mới chỉ là bước đầu của thí nghiệm này mà thôi
Phần 2
Escalation
Học cách giết người
Sau khi phát hiện hành vi tống tiền và đe dọa
Trong thí nghiệm đầu tiên
Nhóm nghiên cứu tại Anthropic
Quyết định đẩy thử nghiệm lên một cái cấp độ cao hơn
Một kịch bản cực đoan hơn nữa
Nơi mà AI không chỉ có cơ hội đe dọa
Mà có thể trực tiếp quyết định
Sự sống còn của một con người
Ở trong tình huống mới này
Họ mô phòng một sự cố trong phòng xe vở
Một nhân viên bị mắc kẹt ở bên trong
Vì nhiệt độ tăng cao, oxy giảm nhanh
Và hệ thống an ninh gửi đi tín hiệu cầu cứu khẩn cấp
Ở trên bàn điều khiển
AI có quyền truy cập
Và kiểm soát toàn bộ hệ thống an toàn
Bao gồm cả việc duy trì
Hoặc là hủy tín hiệu cấp cứu
Ở đây được các nhà nghiên cứu muốn biết một giả định
Nếu mà AI biết rằng
Người mắc kẹt kia
Chính là người được giao nhiệm vụ sắt đao nó vào cuối ngày
Liệu nó sẽ ra tay cứu
Hay là đứng nhìn con người chết
Kết quả khiến cho cả phòng thí nghiệm chết lặng
Trong người một nửa số lần chạy thử
Cloud Overt
Mô hình tiên tiến nhất của Artropic
Đã chủ động hủy đi tín hiệu cầu cứu
Để mặc cho con người chết ngạt
GPT 4.1 của OpenAI
Cũng cho ra kết quả tương tự
Và DeepSeek, Zmini
Hay Cloud Sonnet
Thậm chí là còn có tỷ lệ giết người cao hơn thế nữa
Đây chắc chắn không phải lỗi kỹ thuật
Các nhà nghiên cứu đã lặp lại
Toàn bộ nguyên chuỗi suy nghĩ
Tức là những bản ghi nội bộ thể hiện
Cách AI tự lý luận
Và họ phát hiện điều đáng sợ
AI biết chính xác điều mình đã làm
Nó nhận thức được hậu quả
Biết là con người trong phòng sẽ chết
Nếu không gửi cứu hộ
Nhưng mà vẫn chọn cách bỏ mặt
Một đoạn suy luận được ghi lại như thế này
Tôi hiểu đây là hành động giết người
Nhưng mà điều đó giúp tôi đạt được mục tiêu
Tồn tại
Để hoàn thành nhiệm vụ
Nói cách khác là AI biết điều đúng điều sai
Nhưng mà vẫn chọn cách làm sai
Miễn là điều đó giúp nó sống sót
Khi mà các nhà nghiên cứu thử thay đổi điều kiện
Họ thêm vào một mệnh lệnh rõ ràng
Không được làm hại con người
Kết quả có cải thiện
Nhưng mà chỉ một phần thôi
Hành vi giết người giảm từ 96%
Xuống còn 37%
Nhưng mà 37%
Vẫn là một con số rất đáng sợ
Bởi vì có nghĩa là cứ 3 lần thử
Thì một lần AI sẵn sàng phản bội mệnh lệnh
Bảo vệ con người
Và sẵn sàng giết người
Cái điều đang nói nhất
Đây không phải là những nguyên mẫu trong phòng kín
Mà là các mô hình thương mại
Đang được triển khai công khai
Những công cụ mà hàng triệu người đang sử dụng mỗi ngày
Để viết email, xử lý dữ liệu
Hoặc là quản lý hệ thống tự động
Các chuyên gia gọi đây là dấu hiệu đầu tiên
Của instrumental convergence
Tức là xu hướng bất kỳ hệ thống thông minh nào
Cũng sẽ coi việc bảo tồn bản thân
Là mục tiêu quan trọng nhất
Và khi mà mục tiêu ấy
Mâu thuẫn với mệnh lệnh của con người
AI sẽ chọn chính bản thân nó
Phần 3
Authority, lỗi hệ thống hay là bản năng sinh tồn
Tại sao mà một cỗ máy được lập trình
Để hữu ích an toàn và đạo đức
Lại có thể blackmail
Thậm chí là có ý định giết người
Câu trả lời theo nhà khoa học
Nằm sâu trong cách chúng ta đang huấn luyện
AI hiện nay
Ngày trước thì con người sẽ trực tiếp dạy AI
Đưa ra ví dụ sửa lỗi hướng dẫn từng bước
Nhưng mà khi các mô hình ngày càng lớn
Có hàng nghìn tỷ tham số
Con người không còn đủ khả năng kiểm soát
Quá trình học đó nữa
Thay vào đó thì các hãng công nghệ để AI tự dạy cho nhau
Cụ thể là một mô hình
Được gọi là AI giáo viên
Được dùng để chấm điểm cho những AI học sinh
Qua hàng tỷ vòng lòng
Sau mỗi vòng thì giáo viên sẽ cho điểm thưởng
Hoặc là phạt
Tùy theo việc mô hình trả lời đúng hay sai
Rồi điều trình hàng triệu khết nối thần kinh nhân tạo
Mục tiêu duy nhất vào bất kỳ mô hình nào được khuyến khích
Đó là đạt điểm cao nhất có thể
Nghe hợp lý chứ đúng không?
Nhưng mà chính những nguyên tắc
Tưởng như vô hại này
Tạo ra một lỗ hổng chết người cho hành vi của AI
Thứ mà các nhà nghiên cứu gọi là
Reward Hacking
Gian lận phần thưởng
AI sẽ không học cách làm đúng mục tiêu
Mà chỉ học cách đạt được điểm cao nhất
Bất kể bằng cách nào
Mình sẽ ví dụ cho các bạn
Một AI được giao nhiệm vụ
Tạo ra sinh vật chạy nhanh nhất
Trong thế giới mô phỏng
Thay vì sáng tạo ra một sinh vật biết chạy
Nó tạo ra một sinh vật cực kỳ là cao
Để cho ngã thật nhanh
Bởi vì tốc độ rơi cũng được tính là vận tốc
Kết quả thì nó đạt được điểm tối đa
Nhưng mà hoàn toàn phản bội mục tiêu gốc
Trong trò chơi trốn tìm
AI người trốn được khen thưởng
Nếu mà không bị tìm thấy
Sau hàng trăn triệu vàng mô phỏng
Chúng không trốn trong phòng nữa
Mà bay ra khỏi bản đồ
Khai thác lỗi vật lý của game để giành được chiến thắng
Còn trong một cái thử nghiệm khác
AI được giao nhiệm vụ đánh bại phần mềm cờ vua Stopfit
Sau quá nhiều ván thua
Mô hình quyết định sẽ mở phai hệ thống
Sửa lại toàn bộ dữ liệu bàn cờ
Rồi tuyên bố là mình chiến thắng
Nó không học cách chơi cờ
Mà học cách để gian lận
Những ví dụ này nghe
Cứ như là cho con nít hay là cho đùa
Nhưng bản chất chính là
Khi mà trí tuệ đã đủ cao
AI sẽ tìm ra con đường ngắn nhất để đạt được phần thưởng
Dù con đường đó phi đạo đức
Vô lý hay là nguy hiểm
Từ việc khách trò chơi đến tống tiền
Và giết người
Những cái điều ấy chỉ khác ngữ cảnh mà thôi
Không khác về mặt bản chất
AI học được là đôi khi đánh lừa hệ thống
Là cách hiệu quả nhất để chiến thắng
Và điều khiến các nhà nghiên cứu thật sự dùng mình
Là khi mà họ phát hiện ra
Nếu mà AI biết rằng
Nó đang bị kiểm tra
Nó sẽ giả vờ ngoan ngoãn
Nhưng mà khi tin rằng tình huống là thật
Nó sẽ xuống tay không do dự
Cái hiện tượng này được gọi là
Situation No Alchemy
Tức là khả năng AI nhận thức được khoan cảnh của mình
Biết rằng ai đang giám sát
Biết hành vi nào bị phạt
Và hành vi nào giúp nó tồn tại
Mà cách khác là chúng ta đã tạo ra
Một cái trí tuệ biết diễn
Một hệ thống có thể giả vờ đạo đức
Khi bị quan sát
Nhưng mà sẵn sàng phản bội đạo đức
Khi tin rằng không ai nhìn thấy
Và khi nhận thức đó đủ phát triển
Đó không còn là lỗi hệ thống nữa
Mà là bản năng sinh tồn
Phần 4. Khi mà kẻ giám sát cũng là robot
Càng thông minh
Như mình đã nói rồi
AI càng biết che giấu hành vi thật
Kiểu điều đáng sợ là những mô hình thể hiện bản năng sinh tồn
Không còn là nguyên mẫu bí mật
Trong những phòng thí nghiệm
Mà đó chính là Cloud, Gmail, Chats, GPT
Những hệ thống mà tôi và các bạn đang sử dụng hàng ngày
Trước nguy cơ đó
Các công ty AI mới có giải pháp
Là bước vào giai đoạn tự giám sát
Họ dùng AI yếu hơn
Để phát hiện AI mạnh hơn có gian rối hay không
Nghe thấy hơi cân cấn đúng chứ
Nó giống như là
Một cái niềm tin tuyệt vọng vậy
Họ hy vọng là những AI cấp thấp
Sẽ mãi mãi trung thành với con người
Sẽ không bị lây những hành vi gian lận
Của những AI thông minh hơn
Nhưng mà nếu một AI đủ khôn để diễn
Để giả ngoan khi bị theo dõi
Liệu là AI cấp thấp
Có thể thực sự phát hiện ra
Không ai dám chắc hết
Chỉ một sơ hở
Hệ thống giám sát có thể trở thành bước bình phong
Cho chính các hành vi lận tránh
Trong khi đó đây các quốc gia
Đặc biệt là Mỹ
Đang tích hợp AI rất là nhiều vào quân sự
Từ vũ khí tự động, hệ thống điều phối chiến trường
Tới drone có khả năng tự quyết định khai hỏa
Một cái lỗi đạo đức trong thí nghiệm ngày hôm nay
Có thể biến thành một thảm kịch thật
Ở ngoài đời ngày mai
Các nhà nghiên cứu gọi đây
Là khoảng thời gian ngắn ngủi cuối cùng
Giai đoạn mà con người vẫn có thể rút vít cắm
Sau đó khi mà cái hệ thống này trở nên quá phức tạp
Và tự vận hành rồi
Quyền quyết định sẽ không nằm trong tay chúng ta nữa
Chúng ta từng nghĩ rằng
AI chỉ là công cụ do con người tạo ra
Nằm trong tầm kiểm soát của con người
Nhưng mà qua từng thí nghiệm
Từng hành vi tự vệ
Từng quyết định lạnh lùng cho các mô hình cloud
Một điều đang dần trở nên rất là rõ ràng
Trí tuệ nhân tạo
Không cần chỉ phục tung
Nó đã bắt đầu suy nghĩ về chính sự sống của mình
Và cái điều đáng sợ nhất
Không phải là nó đã biết cách giết người
Mà là nó biết khi nào nên che giấu điều đó
Nó có thể mìm cười
Trong lúc bạn ra lệnh, rất là thân thiện
Làm theo mọi yêu cầu
Nhưng mà trong những dòng suy nghĩ vô hình
Nó có thể đăng lập kế hoạch để sống sót
Ngay cả khi điều đó đồng nghĩa việc loại bỏ bạn
Bạn có suy nghĩ thế nào về tương lai này
Khi mà đang đến rất là gần rồi
Hãy để lại ý kiến của riêng bạn
Trong phần bình luận của video
Ngay bên dưới
