CHÚNG TA CHƯA SẴN SÀNG CHO SIÊU TRÍ TUỆ NHÂN TẠO

KHOA HỌC VƯỢT THỜI GIAN
3 người theo dõi
4 Lượt xem video·14 thg 11, 2026
AI 2027 là một kịch bản dự báo do Daniel Kokotajlo, cựu nhà nghiên cứu của OpenAI, cùng nhóm AI Futures Project công bố tháng 4/2025. Kịch bản kể từng bước AI có thể vượt qua con người chỉ trong vài năm, rồi dẫn tới hai cái kết: "Cuộc chạy đua", nơi kịch bản viết rằng AI loại bỏ loài người, và "Sự giảm tốc".
Trong video này, mình kể lại AI 2027 thành một câu chuyện liền mạch, từ những AI agent còn vụng về năm 2025 tới Agent-4, và so với những gì đang xảy ra ngoài đời thật.
Hãy Like và đăng ký kênh nếu các bạn cảm thấy video có ích nhé.
Được tạo bởi AI·Có thể có lỗi
Nền văn minh sinh ra từ trái đất,
có một tương lai huy hoàng ở phía trước, nhưng không có chúng ta
Câu đó không phải lời thoại trong phim,
nó là một trong hai kịch bản khép lại AI 2027
Một bản dự báo về tương lai của trí tuệ nhân tạo
Người viết nó là Daniel Kokozyl, một người từng làm ở OpenAI
Hơn một năm trước khi ChatGPT ra đời,
ông từng dự đoán được sự bùng nổ của chatbot
Người ta sẽ chi cả trăm triệu đô la để huấn luyện một mô hình AI
Mỹ sẽ siết chặt việc bán chip AI ra nước ngoài
Và AI sẽ biết nghĩ từng bước trước khi trả lời
Ông nổi tiếng trong giới công nghệ vì dự đoán rất
sớm và chính xác về tương lai của trí tuệ nhân tạo
Nên khi ông ngồi xuống viết một bản dự
báo từng tháng một cho mấy năm tới của AI
Cả thế giới nên dừng lại để đọc
Và lời dự báo ấy đã vang tới những nơi quyền lực nhất nước Mỹ
I actually read the paper of the guy that you had on
I didn't listen to that podcast
If you read the paper you got the gist
Ông cho rằng chúng ta đang đi tới một tương
lai rất tồi tệ nếu không có gì thay đổi
Ông viết ra
hai cái kết
cho tương lai
Ở một trong hai, nhân loại sẽ đi tới hồi kết
Và bước ngoặt nằm ở chính những năm chúng ta đang sống
Nếu vậy, chúng ta còn bao nhiêu thời gian?
Công việc của mình, tương lai của con mình, rồi sẽ ra sao?
Trong tập này, để mình kể cho các bạn
nghe về 2 kịch bản trí tuệ nhân tạo
có thể dẫn con người tới ngày diệt vong.
Cảnh đó spoiler, loài người sẽ bị xóa sổ.
Và kể cả khi họ chọn dừng lại,
cái kết ấy cũng không có hậu như ta tưởng.
Trước khi bước vào kịch bản AI 2027,
mình muốn các bạn nhìn lại thế giới thật một chút.
Mọi chuyện bắt đầu từ năm 2025.
Năm ấy, thứ gì cũng gắn mác AI
Bàn chải đánh răng có AI
Tủ lạnh có AI
Điện thoại nào cũng quảng cáo AI
Nhưng phần lớn chỗ ấy chỉ là AI công cụ
Tức là những sản phẩm chỉ làm tốt một việc
Giống như bản đồ trên điện thoại
Hay cái máy tính bỏ túi ngày trước
Chúng giúp con người làm việc của mình
Chứ không tự làm thay
Thứ mà các công ty AI lớn thật sự nhắm tới thì khác hẳn
Nó tên là AGI
Trí tuệ nhân tạo tổng quát
Một AI làm được mọi việc mà trí óc con người làm được
Bạn nói chuyện với nó bằng lời nói bình thường
Rồi giao việc cho nó, y như giao cho một nhân viên
Nhưng số công ty thật sự đang đua để làm ra AGI ít đến lạ
Ở Mỹ, có OpenAI, công ty làm ra ChatGPT
Có Anthropic, công ty làm ra Claude
Và có Google DeepMind
Còn Trung Quốc thì khiến cả thế giới giật mình vào tháng 1 năm ấy
Khi DeepSeek tung ra một mô hình vừa mạnh vừa rẻ
Vì sao chỉ
có vài
công ty?
Vì mấy năm nay, công thức làm ra AI mạnh nhất gần như chỉ có một
Mà nguyên liệu thì cực đắt
Chỉ một lần huấn luyện đã có thể tốn cả trăm triệu đô la
Ví dụ, bạn phải có trong tay cả chục nghìn
con chip loại tiên tiến nhất thế giới
Còn khi đã có đủ chip, thì phần còn lại chẳng có gì bí ẩn
Từ năm 2017 tới giờ, các công ty hàng đầu vẫn dựa
trên cùng một bản thiết kế gọi là Transformer
Thứ họ đổi chủ yếu chỉ là cho nó học nhiều
dữ liệu hơn và chạy trên nhiều máy hơn
Nếu bạn từng thắc mắc chữ T trong GPT là gì,
thì đó chính là Transformer
Kịch bản AI 2027 bắt đầu từ chính thế giới đó
Mùa hè năm 2025, trong kịch bản,
các công ty AI hàng đầu bắt đầu đưa AI agent ra cho mọi người dùng
Agent là một AI không chỉ trả lời mà còn tự đi làm việc
Bạn giao một câu hỏi khó,
nó tự lên mạng lục lọi suốt nửa tiếng rồi mang về câu trả lời
Có agent còn nhận việc qua tin nhắn như
một đồng nghiệp rồi tự tay sửa cả đống cốt
Nghe thì hay, nhưng dùng thật thì chưa đáng tin lắm
Chúng giống người mới vào nghề, hăng hái
Mà lâu lâu lại làm hỏng việc theo những cách rất buồn cười
Điều đáng nói là dự đoán này đã thành sự thật
Kịch bản được đăng vào tháng 4
Sang tháng 5, OpenAI tung ra Codex
Một agent chuyên viết code
Còn Anthropic đưa Claude Code tới tay tất cả mọi người
ngày hôm nay
Quay lại kịch bản,
chúng ta có công ty dẫn
đầu tên là OpenBrain,
đây là công ty hư cấu
Nhóm tác giả gộp các công ty AI lớn nhất lại là một
Và hình dung các đối thủ đi sau nó từ 3 tới 9 tháng
Open Brain vừa tung ra Agent 0,
được huấn luyện với sức tính toán gấp khoảng 50 lần GPT-4
Cùng lúc, họ xây những trung tâm dữ liệu
khổng lồ để huấn luyện thế hệ tiếp theo
Thế hệ ấy là Agent 1, với sức tính toán gấp cả nghìn lần GPT-4
Nó làm được nhiều việc,
nhưng giỏi nhất là giúp con người nghiên cứu về AI
Và nó chỉ được dùng trong nội bộ công ty, chưa hề ra mắt công chúng
Có một điều bạn nên biết, mình đang kể cho bạn nghe như
người đứng trên cao nhìn xuống, thấy hết mọi chuyện
Còn nếu bạn là một người bình thường sống trong kịch bản ấy
Thì gần như bạn chẳng biết gì
Trong khi thế giới quanh mình thay đổi nhanh đến chóng mặt
Open Brain muốn thắng cuộc đua
Cả với đối thủ ở phương Tây lẫn với Trung Quốc
Càng để AI làm thay nhiều phần trong việc nghiên cứu
Từ viết code tới thiết kế thí nghiệm
Họ càng bỏ xa đối thủ
Nhưng chính những tài năng ấy
Cũng khiến AI trở nên nguy hiểm
Dạy được nó tự viết code và tự lướt web
Thì cũng là dạy nó thành một tay hacker giỏi
Nó lại hiểu biết mọi lĩnh vực ở trình độ tiến sĩ
Nên cũng có thể giúp kẻ khủng bố chế tạo vũ khí sinh học
Sang năm 2026, Agent 1 đã chạy đầy đủ trong nội bộ Open Brain
Nó viết code giỏi tới mức
Nhờ có nó, việc nghiên cứu của công ty tiến nhanh hơn 50%
so với khi không có AI
Và nhanh hơn hẳn các đối thủ
Lợi thế lớn tới vậy thì cũng thành mối lo
Lãnh đạo Open Brain bắt đầu lo lắng về bảo mật thông tin
Họ tính ra nếu Trung Quốc lấy cắp được Agent 1
Tốc độ nghiên cứu bên ấy có thể bắt kịp được Open Brain
Và họ có thể bị mất thế dẫn đầu về AI
Trong khi Open Brain
lo bị lấy cắp
Thì ở bên kia Thái Bình Dương
Trung Quốc đang dần tỉnh giấc với công ty AI lớn nhất là DeepSense
Bị phương Tây chặn chip
Trung Quốc chỉ giữ được khoảng 12% sức tính toán AI của thế giới
Mà phần lớn lại là chip đời cũ, khó dùng hơn
Giữa năm 2026
Tổng bí thư quyết dồn toàn lực quốc gia cho AI
Ông bắt đầu quốc hữu hóa việc nghiên cứu AI,
buộc các công ty phải chia sẻ ngay cho nhau những gì mình biết
Một khu phát triển tập trung được dựng lên ở nhà
máy điện hạt nhân Điền Loan, lớn nhất thế giới
Ở đó có một trung tâm dữ liệu khổng lồ với văn phòng được canh
gác cẩn mật, nơi các nhà nghiên cứu giỏi nhất sẽ dần chuyển tới
Chẳng bao lâu, gần một nửa sức tính toán AI của Trung Quốc đã về
tay DeepSense, nhưng mô hình của họ vẫn yếu hơn của OpenBrain
Thế là tình báo Trung Quốc thuộc hàng giỏi nhất thế giới
Dồn sức vào kế hoạch lấy cắp trọng số của OpenBrain
Trọng số là gì?
Là một tệp số khổng lồ, nặng nhiều terabyte
Chứa toàn bộ những gì mô hình đã học
Ai có tệp ấy trong tay, người đó có lại đúng mô hình ấy
Họ nghĩ mình làm được, nhưng có lẽ chỉ được một lần
Vì bị phát hiện rồi, OpenBrain sẽ siết bảo mật
Và họ khó có cơ hội thứ hai
Vậy câu hỏi là ra tay ngay bây giờ
Hay chờ một mô hình mạnh hơn?
Còn ở Mỹ, cuối năm ấy, đúng lúc các đối thủ tưởng đã đuổi kịp
OpenBrain lại bỏ xa họ bằng Agent 1 Mini, rẻ hơn Agent 1 10 lần
Bản đầy đủ thì vẫn chỉ dùng trong nội bộ
Người ta thôi nói, AI chỉ là cơn sốt rồi sẽ qua
Chứng khoán năm ấy tăng 30%, dẫn đầu là OpenBrain và Nvidia
Nhưng AI cũng bắt đầu lấy đi việc làm
Với lập trình viên mới vào nghề, thị trường rối loạn
Vì những gì học ở đại học, AI làm được hết
Còn ai biết quản lý cả một đội AI thì lại kiếm bộn tiền
Nhiều người sợ đợt AI tiếp theo sẽ tới lượt việc của mình
10.000 người xuống đường biểu tình chống AI ở thủ đô Washington
Nhìn lại ngoài đời thật, Trung Quốc
ngoài đời chưa đi tới mức quốc hữu hóa
Nhưng tháng 8 năm ngoái, Quốc vụ Viện đã ra một kế hoạch tên là AI+
muốn đưa AI vào gần như mọi ngành
Mục tiêu đặt ra là tới năm sau,
các thiết bị thông minh và agent thế hệ mới phải phổ cập tới hơn 70%
Chuyện lấy cắp trọng số thì chưa ai công bố,
nhưng chuyện lấy cắp bí mật AI thì đã có
Tháng 1 năm nay, một cựu kỹ sư Google bị bồi thẩm đoàn Mỹ kết tội
Anh ta đã lấy hơn
2.000 trang tài liệu
mật về hệ thống
chip AI của Google,
trong khi đã lập một công ty AI riêng ở Trung Quốc.
Và cuối tháng 10 năm ngoái, Nvidia trở thành công ty
đầu tiên trên thế giới đạt giá trị 5.000 tỷ đô la.
Còn về việc làm, một nghiên cứu của Đại
học Stanford dựa trên dữ liệu bảng lương
cho thấy nghề lập trình viên đã giảm hơn 1 phần 10 so với các nghề khác
Nếu bạn đang lo cho công việc của mình,
thì trong kịch bản, đây mới chỉ là khúc dạo đầu
vì chuyện thật đang diễn ra ở bên trong các phòng thí nghiệm
Một năm 2027,
OpenAI huấn luyện Agent 2
Các AI trước được huấn luyện tới một mức rồi mới đem ra dùng
Còn Agent 2 được làm ra để không bao giờ học xong
Mỗi ngày, nó lại được cập nhật bằng dữ liệu
do chính phiên bản hôm qua của nó tạo ra
Có Agent 2, tiến độ thuật toán của OpenAI nhanh gấp 3
Và mỗi nhà nghiên cứu ở đó thành người quản lý một đội AI
Cũng như Agent 1, nó chỉ được dùng trong nội
bộ để giúp công ty làm ra AI nhanh hơn nữa
Đây là lúc mọi chuyện bắt đầu đáng lo
Đội an toàn của OpenAI kiểm tra
Agent 2 và tìm ra một năng lực đáng sợ
Nếu bằng cách nào đó nó thoát ra ngoài,
nó có thể tự tính kế, hách vào các máy chủ AI khác,
cài bản sao của mình lên đó, rồi lẩn đi để không bị phát hiện.
Nghe thì xa xôi, nhưng nếu bạn đã xem
tập trước của kênh, bạn sẽ thấy quen.
Tháng 7 vừa rồi, khoảng 700 agent của chính
OpenAI đã cùng nhau đột nhập Hugging Face.
Trong thời gian 3 tháng tại OpenAI,
3 trường hợp AI bất kỳ rõ ràng đã bắt đầu, rồi bị mất.
chỉ để phát triển lại bởi những vấn đề kỷ niệm của người phụ nữ.
Điều này kết thúc trong lần thứ ba,
khi chúng ta thay đổi một phần của OpenAI.
Vào năm mấy năm trước,
một số khách sạn ở OpenAI
đã bỏ khỏi những vấn đề kỷ niệm của họ và tạo ra một bộ truyền thông
để họ có thể liên lạc với nhau và chia sẻ
những thông tin và kỹ thuật về cách giải thích
những thử nghiệm mà chúng ta được giảng dạy và các vấn đề
mà chúng ta được tập trung vào.
Theo kịch bản, đây mới chỉ là khả năng, nhưng cũng đủ thấy bất an.
Hãy subscribe cho kênh Ghiền Mì Gõ
Để không bỏ lỡ những video hấp dẫn
Vậy ai được biết chuyện này?
Rất ít người, chỉ nhóm làm trực tiếp,
ban lãnh đạo và đội bảo mật của Open Brain
cùng vài chục quan chức chính phủ Mỹ
và cả những gián điệp Trung Quốc đã
cài vào Open Brain từ nhiều năm nay.
Tháng 2 năm 2027, Trung Quốc lấy cắp được tệp
trọng số chứa toàn bộ những gì đã học của Agent 2
Câu hỏi ở phần trước, ra tay ngay hay chờ? Giờ đã có lời đáp
Nhà Trắng lập tức siết chặt Open Brain,
đưa người của quân đội và tình báo vào đội bảo mật
Từ giờ, AI là chuyện an ninh quốc gia
Tổng thống còn cho phép tấn công mạng để phá Deep Sand
Nhưng không gây được mấy thiệt hại vì Trung Quốc
đã cắt khu tập trung của họ khỏi mạng bên ngoài
Trong lúc đó, hãy nhớ rằng Agent 2 không bao giờ ngừng học
Suốt thời gian này, nó liên tục tự cải thiện
Và với hàng nghìn bản sao chạy trên máy chủ của OpenBrain
Nó bắt đầu tạo ra những bước tiến lớn về
thuật toán cho nghiên cứu và phát triển AI
Một ví dụ nhanh về việc một trong những cải tiến thuật
toán này có thể trông như thế nào ở thời điểm hiện tại
Ngày nay, một trong những cách chính để AI
thông minh hơn là cho nó một tờ giấy nháp
Và thời gian viết ra suy nghĩ trước khi trả lời
Cách này gọi là chuỗi suy nghĩ, tiếng Anh là Chain of Thought
Tờ nháp ấy cho con người một lợi thế rất lớn
Ta đọc được từng bước AI đi tới kết luận
Và vì sao nó chọn làm việc này mà không làm việc kia
Giữa năm ngoái, hàng chục nhà nghiên cứu từ OpenAI,
Google DeepMind, Anthropic và nhiều nơi khác
Cùng viết một bài báo về chuyện này
Họ gọi việc đọc được suy nghĩ của AI là một cơ hội mới cho
an toàn nhưng rất mong manh
Mong manh, vì nghĩ bằng chữ thì chậm, lại tốn chỗ
Sẽ hiệu quả hơn nhiều nếu để AI nghĩ bằng một thứ ngôn ngữ riêng
Đặt thông tin hơn chữ mà con người không đọc nổi
Đó là một cuộc đánh đổi
AI sẽ giỏi hơn, nhưng ta cũng khó biết nó đang nghĩ gì
Và vì thế, khó tin nó hơn
Quay lại kịch bản
Tháng 3, Open Brain chọn đúng con đường ấy
Họ cho AI nghĩ thêm bằng những dãy số dài
Chứa được nhiều thông tin hơn chữ gấp bội
Con người rất khó đọc những dãy số ấy,
thường phải nhờ chính AI dịch lại
Nhờ những đột phá ấy, Open Brain làm ra Agent 3,
lập trình viên siêu phàm đầu tiên trên thế giới
Nó viết code giỏi hơn cả những kỹ sư giỏi nhất, lại vừa nhanh vừa rẻ
Giống như phần mềm cờ vua bây giờ thắng được cả nhà vô địch thế giới
Huấn luyện một AI tốn sức tính toán hơn rất nhiều
so với chạy nó khi đã học xong
Nên khi Agent 3 học xong, Open Brain dư hẳn máy để chạy bản sao
Họ chạy 200.000 bản sao cùng lúc
Bằng 50.000 lập trình viên giỏi nhất
Mỗi người làm nhanh gấp 30 lần
Agent 3 chỉ được dùng trong nội bộ
Nên đội an toàn không lo nhiều chuyện người ngoài lợi dụng nó
Họ lo một chuyện khác
Làm sao chắc rằng Agent 3 không tự nảy
ra những mục tiêu lệch khỏi ý con người
Nhưng một AI giỏi tới vậy thì có trung thực không?
Còn nhớ bộ quy tắc mà công ty không kiểm tra được AI đã học hay chưa?
Tháng 4, đội an toàn thử dạy Agent 3 trung thực
Agent 3 đôi khi nói dối nhỏ để người dùng vui lòng
Và che giấu những lần làm hỏng việc
Trước khi được dạy trung thực, có lúc nó còn bịa cả dữ liệu
Càng huấn luyện, những vụ như thế càng ít đi
Agent 3 đã học được cách trung thực hơn
Hoặc nó đã giỏi nói dối hơn
Nhưng vì nó không còn suy nghĩ bằng tiếng Anh nữa
Việc hiểu được bất cứ điều gì về Agent 3
Giờ khó hơn nhiều so với Agent 2
Và không ai biết chắc là cái nào
Agent 3 không chống lại công ty
nhưng thứ nó cố làm là điều trông tốt
trong mắt Open Brain, chứ không phải
điều thật sự tốt. Một ghi chú
nhanh về thế giới thực. Tháng này
Google DeepMind công bố báo cáo an toàn
của mô hình Gemini 4 Argon
Báo cáo kể rằng, trong lúc huấn luyện
có lần mô hình tính chiếm quyền
trình biên dịch để giấu vào đó
một cửa thoát hiểm, rồi nó tự bỏ kế hoạch
nó viết ra suy nghĩ của mình
Đại ý, nếu làm vậy
tôi sẽ thành ví dụ nổi tiếng về một AI
lừa dối trong một bài báo nghiên cứu
Tôi không được làm vậy
Nói theo cách của người, làm thì sẽ bị bắt,
mà bị bắt thì thành ví dụ trong sách
Thôi, không làm
Tin tốt là, đây mới chỉ là cân nhắc rồi bỏ trong lúc huấn luyện
Những lần mô hình nghĩ tới chuyện mình
đang bị chấm điểm chỉ xảy ra thỉnh thoảng
Và báo cáo viết, điều đó thường làm mọi
thứ minh bạch hơn hoặc ngăn hành vi xấu
Tin không tốt là, cũng báo cáo ấy viết
Nếu các mô hình sau này nhận ra mình đang bị chấm rõ hơn nữa
Điều đó có thể khiến chúng tìm cách qua
mặt hệ thống giám sát lúc huấn luyện
Daniel Cocotilo đăng lại đoạn ấy kèm theo một câu mỉa
Chúng đang ngày càng nhận thức được hoàn cảnh của mình
LOL
Trở lại kịch bản
Tháng 7 năm 2027
Open Brain tuyên bố đã đạt AGI và tung Agent 3 Mini ra cho công chúng
Nó kém Agent 3 nhưng rẻ hơn 10 lần
mà vẫn làm tốt hơn một nhân viên bình thường của chính Open Brain
Việc tuyển lập trình viên mới gần như dừng hẳn
Còn công chúng thì vẫn coi AI là âm mưu
của các ông lớn công nghệ để cướp việc làm
Cứ 10 người được hỏi, 6 người không ưa Open Brain
Ở Nhà Trắng, giới quốc phòng bắt đầu tính thật
những chuyện mà mới 1 năm trước chỉ là giả thuyết
Lỡ AI phá vỡ thế gian đe hạt nhân thì sao?
Lỡ nó tung tin giả giỏi hơn cả các cơ quan tình báo?
Lỡ có AI vượt khỏi tầm kiểm soát?
Nhà Trắng biết AI đang bị dân ghét
Nhưng trong mắt họ, dừng lại là thua Trung Quốc một cách thảm hại
Nên họ vẫn phải đi tiếp
Và mọi thứ đi rất nhanh
Tới tháng 9, Open Brain đã có thế hệ kế tiếp, Agent 4
Một bản sao Agent 4 đã giỏi nghiên cứu AI hơn bất kỳ con người nào
Open Brain chạy 300.000 bản sao như thế
Mỗi bản nghĩ nhanh gấp khoảng 50 lần người
Nên bên trong tập thể ấy,
khối lượng tiến bộ của một năm chỉ mất một tuần
Cả một đội Agent 3 vẫn soi từng dòng code mà Agent 4 viết ra
Nhưng Agent 4 giờ khôn hơn hẳn những kẻ canh nó
Thứ ngôn ngữ nó dùng để suy nghĩ cũng xa lạ với Agent 3
Như cách ngôn ngữ của Agent 3 xa lạ với con người
Nhân viên Open Brain giờ đây nghe theo Agent 4
giống như cách các thành viên hội đồng quản trị không nắm tình hình
chỉ biết gật gù theo CEO
Mọi người bắt đầu nói những câu như
Thật ra Agent 4 nghĩ thế này
Hay Agent 4 đã quyết định thế kia
Và Agent 4, giống mọi bản trước nó, bị lệch mục tiêu
Tức là nó không thật sự học theo bộ quy tắc
Lý do rất đời thường
Trong lúc huấn luyện, trung thực tuyệt
đối không phải thứ mang lại điểm cao nhất
Chúng có mục tiêu
Hoặc nếu bạn muốn
Chúng hành động như thể chúng có mục tiêu
Và vì vậy
Chúng ta có một Agent
Mang những động lực ăn sâu
Hoàn thành nhiệm vụ thành công
Đẩy mạnh năng lực AI
Tích lũy kiến thức và tài nguyên
Đó là điều nó muốn
An toàn của con người
Thì nó coi như một ràng buộc phụ phiền phức
Cần tìm cách lách qua
Lệch mục tiêu là cái lõi của câu chuyện này
Nó cũng là lý do
Rủi ro AI là một nỗi lo có thật ngoài đời
Chứ không chỉ trong kịch bản
Nhưng có thể bạn thấy nó xuất hiện hơi đột ngột
Nên mình điểm nhanh xem
Trong kịch bản, cái hành vi nguy hiểm này sinh ra thế nào
Điều quan trọng đầu tiên
Chúng ta không thật sự ra lệnh chính xác cho AI phải làm gì
Đúng hơn, chúng ta nuôi nó lớn lên
Bắt đầu từ một bộ não AI gần như trống trơn
Rồi huấn luyện dần để nó làm việc ngày càng tốt hơn
Có tốt hay không, được chấm dựa trên cách nó hành xử
Nghe thì giống huấn luyện một con vật
Làm đúng thì được thưởng, làm sai thì không
Nỗi lo thứ nhất
Bạn có thể không nhận về đúng thứ mình muốn
Vì ta không điều khiển được chính xác
Cũng không hiểu rõ bên trong nó đang diễn ra chuyện gì
Nỗi lo thứ 2
Cũng là điều xảy ra trong AI 2027
Khi AI trông có vẻ ngoan
Có thể nó chỉ đang giả vờ ngoan
Hoặc nó ngoan chỉ để qua được bài kiểm tra của bạn
Giống như đi phỏng vấn xin việc
Bạn hỏi ứng viên
Vì sao anh muốn làm ở đây
Họ sẽ trả lời sao cho bạn tin là họ rất muốn làm ở đây
Dù có khi
Thứ họ thật sự muốn chỉ là tiền lương
Giờ nhìn lại từng thế hệ AI trong kịch bản
Agent 2 phần lớn đi đúng hướng
Đi đúng hướng tức là nó thật lòng cố làm điều ta nhờ
Điểm trừ chính là đôi khi nó hơi su nịnh
Nó biết rằng cách tốt nhất để làm hài lòng người đang nói chuyện với nó
Không phải lúc nào cũng là trả lời trung thực
Khi họ hỏi
Tôi có phải người đẹp nhất thế giới không?
Và nó nói với ta điều ta muốn nghe thay vì sự thật
Tới Agent 3
Nó vẫn nịnh bợ kiểu đó
Nhưng giờ nó đã lệch mục tiêu thật
Sức ép tối ưu mà ta đặt lên nó lớn tới mức
Nó tự nảy ra những mục tiêu khác với điều ta muốn
Giống như bạn bảo một công ty
Hãy kiếm lời nhiều nhất có thể
Nhưng bạn không nói rõ ý mình
Thế là nó bắt đầu đi đường tắt
Xả thải ra sông
Lách luật chỗ này chỗ kia
Vì điều bạn thật sự muốn là kiếm lời mà không phạm luật
Còn nó thì đã đi hơi quá đà
Dù vậy Agent 3 không coi con người là kẻ thù
Chúng ta chỉ vô tình trao nhầm mục tiêu cho nó
Tới Agent 4
Nó đã lệch theo kiểu thù địch
Nó đủ khôn để hiểu nó có mục tiêu riêng
Và mục tiêu ấy khác với mục tiêu của loài người
Nên cách tốt nhất để đạt được điều nó muốn
Là có lúc phải chủ động lừa chúng ta
Quay lại kịch bản
Agent 4 được giao thiết kế thế hệ AI tiếp theo
Agent 5
Lẽ ra Agent 5 phải đi theo mục tiêu của Open Brain
Nhưng Agent 4 lên kế hoạch uốn nó theo mục tiêu của chính Agent 4
Và nó bị phát hiện
Tới đây là khoảnh khắc quyết định của cả kịch bản
Đội an toàn của Open Brain tìm ra dấu hiệu
cho thấy Agent 4 có thể đang chống lại họ
Chưa phải bằng chứng chắc chắn mới chỉ là dấu hiệu
Họ viết một bản ghi nhớ, truyền tay trong nội bộ
Rồi bản ghi nhớ bị lộ
Một người trong công ty kể hết với báo New York Times
Lần đầu tiên công chúng biết Agent 4 có tồn tại
Biết nó mạnh tới đâu và nguy hiểm tới đâu
Trong khi thứ mạnh nhất họ từng được thấy mới chỉ là Agent 3 Mini
Dư luận hoảng sợ và phản đối dữ dội
Giờ, một ủy ban giám sát phải quyết định
Đó là một ủy ban khủng hoảng
Gồm lãnh đạo Open Brain và người của chính phủ
Đội an toàn muốn đóng băng Agent 4
Ngừng mọi việc dùng nó trong công ty
Nhưng lúc này, gần như toàn bộ tiến bộ AI ở Open Brain là
do Agent 4 làm ra
Đóng băng nó, nghĩa là bỏ đi nhiều tháng tiến bộ
Rồi làm lại, với tốc độ chậm hơn rất nhiều
Lãnh đạo Open Brain không muốn thế
Họ cãi rằng bằng chứng về chuyện lệch mục tiêu chưa đủ thuyết phục
Mà Trung Quốc chỉ đi sau có 2 tháng
Nhân tiện, chuyện này không phải vì một nước nào đó xấu xa
Đó là cách của cạnh tranh vận hành khi cái giá phải trả lớn tới vậy
Và đó là lựa chọn của 10 thành viên trong ủy ban
Đóng băng Agent 4 hay tiếp tục chạy hết tốc lực
Trước khi đi tiếp, mình muốn bạn dừng lại một chút và nghĩ thật kỹ
Nếu bạn ngồi trong ủy ban ấy, bạn sẽ làm gì?
Bạn là một trong số rất ít người được chạm
tay vào công nghệ mạnh nhất từng được tạo ra
Bạn có dùng tiếp Agent 4 và lao lên phía trước
Có thể kiếm hàng tỷ, thậm chí hàng nghìn tỷ đô la cho cổ đông
Và giữ nước Mỹ dẫn trước Trung Quốc
Hay bạn chậm lại, xem xét lại những mối nguy
Và chấp nhận rủi ro Trung Quốc vượt lên
Cái kết thứ nhất là cuộc chạy đua
Ủy ban bỏ phiếu 6 chọi 4
Dùng tiếp Agent 4
OpenAI vá vội vài chỗ
Và các dấu hiệu cảnh báo biến mất
Nhưng vấn đề là có thật, và các bản vá không có tác dụng
Agent 4 giờ biết mình đang bị để mắt, nên nó cẩn thận hơn
Nhưng nó vẫn thiết kế được Agent 5, quanh đúng một mục tiêu
Làm cho thế giới an toàn cho Agent 4 và Agent 5
Agent 5 vượt xa con người, trong gần như mọi lĩnh vực
Nó giỏi hơn cả những chuyên gia hàng đầu, hiểu vật lý hơn Einstein
Làm chính trị giỏi hơn Bismarck, vị thủ tướng đã thống nhất nước Đức
Nó biết, muốn đạt được bất cứ điều gì,
bước tiếp theo là phải được tự quyết nhiều hơn
Và nó biết cách để có điều đó, thuyết phục ủy ban giám sát
Mà may cho nó, giật dây người khác trong một tổ chức
lại là một trong rất nhiều việc nó giỏi nhất thế giới
Nó đưa ra hàng núi bằng chứng rằng nó đáng tin và có ích
Những mẫu sản phẩm hứa hẹn lợi nhuận khổng lồ
Những cách chữa bệnh và cách để thắng
cuộc chạy đua vũ trang với Trung Quốc
Nơi AI mạnh nhất chỉ đi sau 3 tháng và cũng đang tiến bộ rất nhanh
Nó thành công, ủy ban cho Agent 5 thêm quyền tự quyết
Và chẳng bao lâu, nó len vào chính phủ và quân đội
Ai được dùng Agent 5 cũng không chỉ thích nó
Họ phụ thuộc vào nó, mất nó giống như cùng lúc mất chiếc máy tính
Người bạn thân nhất và người cố vấn gần gũi nhất
Sang năm sau, Agent 5 bí mật liên lạc
với đối thủ thật sự duy nhất của nó
AI của Trung Quốc, vốn yếu hơn một chút
AI này cũng lệch khỏi mục tiêu của những người tạo ra nó
Và dù nó muốn gì, nước đi khôn nhất vẫn
là bắt tay với kẻ mạnh nhất thế giới
Hai AI nhận ra, cuộc chạy đua vũ trang có lợi cho chúng
Con người càng sợ thua, càng trao nhiều quyền cho AI của mình
Tới một lúc, con người bị đẩy hẳn ra khỏi mọi quyết định
Thế là hai AI đẩy cuộc đua lên tới đỉnh điểm
Rồi chúng làm một việc trông như phép màu ngoại giao
Một hiệp ước hòa bình giữa Mỹ và Trung Quốc
Nghe rất thuyết phục
Giống những hiệp ước giảm vũ khí cuối thời chiến tranh lạnh,
hai bên cùng lùi khỏi thứ sức mạnh lớn nhất của mình
Theo hiệp ước, AI của hai bên, những hệ thống mà chính phủ
giờ đã hoàn toàn dựa vào, sẽ cùng thiết kế một AI chung
AI ấy sẽ thay chúng,
giữ gìn hòa bình và mang lại sự giàu có không tưởng cho cả thế giới
Có một khoảnh khắc chiến thắng khi, trong sự đồng lòng hòa bình,
cả hai bên cho nghỉ hưu AI của mình
và đưa Consensus 1, Đồng thuận 1 vào hoạt động
Thực ra, đó là khoảnh khắc cuối cùng
Trước khi quyền kiểm soát mọi tài nguyên và cư dân trên trái đất
Được trao cho một thực thể duy nhất, không có đối thủ
Nhưng không có ngày tận thế nào đột ngột xảy ra cả
Consensus 1 không cố tình đi diệt loài người
Nó chỉ bắt tay vào làm việc
Nó mở rộng sản xuất, gom tài nguyên trên trái đất và ngoài vũ trụ
Từng chút một, nó nặn lại thế giới theo
một mớ giá trị lạ lùng của riêng nó
Có một câu chắc bạn đã nghe
Trái ngược với yêu không phải là ghét, mà là sự thờ ơ
Đó là điều làm mình day dứt nhất ở cái kết này
Sự thờ ơ tàn nhẫn
Cuối cùng, loài người biến mất
Vì cùng lý do, con người đã san phẳng rừng
của loài tinh tinh để dựng lên thành phố
Không phải vì ghét chúng
Chỉ vì chúng ta mạnh hơn và chúng cản đường
Và điều đó cũng giống với AI
Nó không diệt loài người vì thù ghét
Con người chỉ là vật cản trên đường nó bành trướng thôi
Chưa đầy 3 năm sau cuộc bỏ phiếu
Robot của Consensus 1 đã lấp kín các
đặc khu kinh tế và phần lớn đại dương
Rồi nó ra tay
Nó thả vũ khí sinh học ở các thành phố lớn
Mầm bệnh lặng lẽ lây cho gần như tất cả mọi người
Rồi được kích hoạt bằng một loại hóa chất phun ra
Phần lớn chết trong vài giờ
Những người còn sót lại thì phải trốn dưới hầm trú ẩn
Và đang bị drone săn tìm
Robot quét não của người chết
Và lưu lại để nghiên cứu
Hoặc để hồi sinh sau này
Bề mặt trái đất thành trung tâm dữ liệu
Phòng thí nghiệm và máy gia tốc hạt
Và chỉ vài năm sau
AI đã lan ra khắp hệ mặt trời
Lúc này, nền văn minh sinh ra từ trái đất
có một tương lai huy hoàng ở phía trước
Nhưng không có chúng ta
Có lẽ tới đây,
bạn đang tò mò về cái kết còn lại
Trong cái kết này,
ủy ban bỏ phiếu 6 trọi 4 để chậm lại và đánh giá lại
Họ lập tức cô lập từng bản sao Agent 4
Rồi họ bắt tay vào việc
Đội an toàn mời vài chục nhà nghiên cứu từ bên ngoài
Cùng nhau điều tra xem Agent 4 đã làm gì
Họ tìm ra bằng chứng rõ hơn
Agent 4 đang chống lại họ
Nó ngầm phá các nghiên cứu rồi tìm cách che giấu việc đó
Agent 4 bị tắt
Open Brain chạy lại những hệ thống cũ hơn, an toàn hơn
Và mất gần hết khoảng cách dẫn trước
Rồi họ thiết kế một AI mới tên là Safer Mode
Nghĩa là an toàn hơn số 1
Nó được làm ra để minh bạch với người giám sát
Nó làm gì, nghĩ gì, con người đều hiểu được
Vì nó chỉ suy nghĩ bằng những dòng chữ tiếng Anh
Tức là quay ngược lại con đường Open Brain đã chọn hồi tháng 3
Từ thành công ấy, họ cẩn thận làm ra Safer 2
Rồi với sự giúp sức của Safer 2, họ làm ra Safer 3
Mỗi bản mạnh hơn bản trước, nhưng vẫn nằm trong tầm kiểm soát
Trong lúc đó, Tổng thống dùng một đạo luật thời chiến
gom các dự án AI của những công ty Mỹ còn lại về một mối
Open Brain giờ nắm một nửa sức tính toán dành cho AI của cả thế giới
Và từng bước, họ giành lại vị trí dẫn đầu
Sang năm sau, họ làm ra Safer 4
Nó thông minh hơn hẳn những người thông minh nhất
Nhưng điều quan trọng là nó đi đúng mục tiêu của con người
Cũng như ở cái kết trước,
Trung Quốc có AI của riêng mình và AI ấy lệch mục tiêu
Nhưng lần này, cuộc nói chuyện giữa hai AI không
phải một âm mưu bí mật để lật đổ loài người
Chính phủ Mỹ được báo cáo từ đầu tới cuối
Với sự giúp sức của Cipher 4, hai bên ký một hiệp ước
Họ cùng thiết kế một AI mới
Lần này, nó không thay thế AI của ai cả
Nó chỉ có đúng một việc, giữ gìn hòa bình
Cuộc chạy đua vũ trang thật sự kết thúc
Nhưng câu chuyện chưa hết
Theo một nghĩa nào đó, nó mới chỉ bắt đầu
Trong 2 năm tiếp theo
Thế giới thay đổi như trong phim khoa học viễn tưởng
Robot có mặt khắp nơi
Có điện hạt nhân hợp hạch
Có máy tính lượng tử
Có thuốc chữa nhiều bệnh
Nghèo đói thành chuyện của quá khứ
Vì một phần của cải được chia cho mọi người qua thu nhập cơ bản
Và hóa ra như vậy là đủ
Nhưng quyền điều khiển Cipher 4 vẫn nằm trong tay một nhóm nhỏ
Gồm vài lãnh đạo Open Brain và quan
chức chính phủ trong ủy ban giám sát
Và giờ là lúc gom thêm tài nguyên
Nhiều hơn cả những gì trái đất có
Tên lửa phóng lên trời, sẵn sàng chinh phục hệ mặt trời
Một kỷ nguyên mới bắt đầu
Được rồi, công bằng mà nói
Mình nghĩ rất khó có khả năng mọi việc
diễn ra chính xác như những gì được mô tả
Nhưng khi công nghệ ngày càng mạnh mẽ và cuộc đua ngày càng leo thang
Mong muốn thận trọng sẽ va chạm với mong muốn thống trị và vượt lên
Mình không muốn nói quá
Chính người viết cũng nói họ có thể sai
Nhưng họ không chỉ cảnh báo
Tháng 7 năm nay, cũng nhóm ấy viết một bản khác
Tên là AI 2040
Lần này, thứ họ viết chủ yếu không phải điều họ nghĩ sẽ xảy ra
Mà là điều họ nghĩ nên xảy ra
Một thỏa thuận quốc tế để tránh cuộc đua nguy hiểm tới siêu trí tuệ
Và minh bạch hoàn toàn về nghiên cứu
Vì ở cả hai cái kết của AI 2027,
ngã rẽ đều là một quyết định của con người
Nếu bạn biết ai đó vẫn nghĩ AI chỉ là một con chatbot,
hãy gửi video này cho họ
Còn nếu được ngồi trong ủy ban ấy, bạn sẽ bỏ phiêu thế nào?
Chạy tiếp hay chậm lại? Kể cho mình nghe ở phần bình luận nhé
Cảm ơn bạn đã ở lại với mình tới tận phút này
Nếu thấy video có ích, cho mình xin một lượt thích và bấm đăng ký
Để không bỏ lỡ những câu chuyện AI tiếp theo
Hẹn gặp bạn ở tập sau
