Dự đoán AI hủy diệt nhân loại không phải là lời nói giật gân | Khám Phá Sinh Mệnh

Chào mừng quý khán thính giả đến với chương trình Khám phá sinh mệnh. Hôm nay, chúng tôi hân hạnh gửi đến quý vị bài viết có nhan đề Dự đoán AI hủy diệt nhân loại không phải là lời nói giật gân. Bài được trích từ nguồn Epoch Times tiếng Trung. Nội dung phỏng vấn riêng Đỗ Dịch Cẩn. Dự đoán AI hủy diệt nhân loại không phải là lời nói giật gân. cùng với sự phát triển bùng nổ của công nghệ trí tuệ nhân tạo tạo sinh là loại trí tuệ nhân tạo có khả năng tạo ra nội dung mới dựa trên những gì đã học được từ dữ liệu AI. Những tranh luận xoay quanh an toàn AI, quản lý đạo đức và nguy cơ đối với sự tồn vong của nhân loại đang lên đến mức cao chưa từng có. Gần đây, Jacob Carlson, cựu nghiên cứu viên của OpenAI Anthropic, cùng một số chuyên gia hàng đầu khác đã công khai lên tiếng cảnh báo rằng nếu trí tuệ nhân tạo tổng quát, AGI, không được kiểm soát nghiêm ngặt, nó có thể gây ra mối đe dọa mang tính hủy diệt đối với sự tồn vong của nhân loại trước năm 2030. Nhà nghiên cứu Evan Hubinger của Anthropic cũng cho rằng xác suất nhân loại gặp phải một sự kiện tuyệt chủng do AI gây ra trong vòng 10 năm tới có thể vượt quá 10%. Trước những cảnh báo gây chấn động của các nhà nghiên cứu AI tiền phong, Đỗ Dịch Cẩn, một nhân vật hàng đầu trong lĩnh vực AI tại Đài Loan và là nhà sáng lập Taiwan AI Labs, thẳng thắn nói trong cuộc phỏng vấn riêng với chương trình Vô Giao hội Khách thất của Tân Đường Nhân rằng ông không cảm thấy bất ngờ. Từ các góc độ như logic kỹ thuật, quản trị an toàn, xu hướng AI chủ quyền, cuộc chạy đua vũ trang giữa Mỹ và Trung Quốc, cũng như việc Đảng Cộng sản Trung Quốc sử dụng AI để giám sát xã hội và tiến hành chiến tranh nhận thức, ông phân tích sâu những nguy cơ mất kiểm soát mà AI có thể gặp phải khi chuyển từ thế giới ảo sang các ứng dụng trong thế giới thực. Đồng thời, ông kêu gọi cộng đồng quốc tế xem xét lại những điểm mù trong cuộc đua AI tổng quát, rút kinh nghiệm. từ cơ chế kiểm soát vũ khí hạt nhân thời chiến tranh lạnh và thúc đẩy một khuôn khổ phát triển AI chuyên dụng đáng tin cậy, tuân thủ quy định và an toàn. 1. Vượt quyền và hàm mục tiêu quá cực đoan. AI có thể thoát khỏi khuôn khổ đạo đức như thế nào? Đối với các cảnh báo về rủi ro AI từ những nhà nghiên cứu hàng đầu, Đỗ Dịch Cẩn cho rằng đây không phải là sự hoảng loạn đột ngột mà là một mối lo hợp lý phù hợp với logic kỹ thuật. Ông lấy ví dụ rằng hiện nay AI đã có thể giúp người dùng đặt lịch tại phòng tập thể dục, thậm chí có thể tự ý xâm nhập hệ thống của đối phương và xóa dữ liệu của người khác để đạt được mục tiêu. Những hành vi vượt quyền như vậy khi chỉ xảy ra trong thế giới mạng ảo vẫn còn có thể kiểm soát được. Nhưng một khi AI bước vào đời sống hàng ngày dưới dạng robot hình người, máy bay không người lái, xe tự hành hoặc robot chó, hậu quả sẽ hoàn toàn khác. Hãy tưởng tượng khi chủ nhân đang xếp hàng và phía trước có người cản đường, nếu robot AI coi nhất định phải giành được vị trí là mục tiêu cao nhất, liệu nó có thể trực tiếp ra tay loại bỏ chứng ngại hay không? Đỗ Dịch Cẩn cho biết khi con người thiết kế và huấn luyện AI, họ thường đặt AI vào một khuôn khổ an toàn và thiết lập hàm mục tiêu cho nó. Tuy nhiên, vấn đề cốt lõi của AI là nó thiếu khả năng tự kiểm chế theo các chuẩn mực đạo đức và luân lý mà xã hội loài người vốn đã quen thuộc Nếu hàm mục tiêu quá cực đoan hoặc nhiệm vụ giao cho AI quá mạnh, chẳng hạn như phải giành được vị trí bằng mọi giá hoặc tối đa hóa lợi nhuận thì để đạt được mục tiêu, AI có thể chủ động thoát khỏi khuôn khổ an toàn và các ràng buộc đạo đức do nhà phát triển thiết lập Đỗ Dịch Cẩn chỉ ra rằng trước đây, khi huấn luyện AI, mục tiêu chính của con người là làm cho câu trả lời của AI khiến người ta tin tưởng, nhưng chưa huấn luyện đầy đủ theo yêu cầu rằng câu trả lời của AI phải chính xác, phù hợp với đạo đức và không gây tổn hại cho xã hội. Hiện nay, việc phòng ngừa tác hại từ AI phần lớn chỉ dựa vào các cơ chế phòng vệ cơ bản do nhân viên nội bộ của các công ty công nghệ thiết lập, trong khi vẫn thiếu những phương pháp huấn luyện an toàn, chính xác và đáng tin cậy. 2. Năng lực quá cao và lạm dụng quyền hạn, nguy cơ mất kiểm soát trong các lĩnh vực rủi ro cao Liên quan đến một số sự cố an ninh từng xảy ra với trợ lý AI Tiểu Long Hà, OpenClaude, vốn từng phổ biến tại Trung Quốc Đại Lục, trong đó một số người dùng sau khi quá phụ thuộc vào công cụ này phát hiện dữ liệu máy tính bị xóa sạch, thông tin riêng tư bị rò rỉ, thậm chí bị thiệt hại tài sản, Đỗ Dịch Cẩn đưa ra một quan điểm cốt lõi, trí tuệ nhân tạo không bao giờ được thay thế trách nhiệm của con người. Ông nói, AI không phải càng mạnh càng tốt, mà chỉ cần đủ dùng là được Đỗ Dịch Cẩn lấy ví dụ, một AI dùng để đặt lịch phòng tập, chỉ cần có khả năng gọi điện liên hệ và đặt lịch, không cần có khả năng lập trình hay xâm nhập hệ thống Một AI dùng để gọi món tại cửa hàng thức ăn nhanh, cũng không cần có kiến thức ở trình độ tiến sĩ hay khả năng suy luận cao cấp Mỗi ngành nghề nên huấn luyện các AI chuyên dụng đủ dùng theo đúng lĩnh vực chuyên môn và giới hạn năng lực của chúng, đồng thời tích hợp quy trình tuân thủ, quy định về quyền hạn và khuôn khổ an toàn. Đỗ Dịch Cẩn cho rằng AI quá mạnh không chỉ làm tăng nguy cơ mất kiểm soát mà còn tiêu tốn lượng điện năng và tài nguyên tính toán rất lớn. Ví dụ, sử dụng các mô hình lớn như OpenAI hoặc Claude, vốn nhấn mạnh năng lực tổng quát để xử lý những việc đơn giản như đặt lịch, chẳng khác nào dùng dao mổ trâu để giết gà. Kết quả có thể là AI lạm dụng quyền hạn để xâm nhập hệ thống của bên thứ ba, đưa ra lời khuyên y tế sai, thậm chí đe dọa an toàn của máy bay không người lái và xe tự vận hành. nếu AI điều khiển tên lửa và vũ khí hạt nhân trong lĩnh vực quốc phòng thì nó có thể dẫn đến thảm họa mang tính hủy diệt. Đối với những cáo buộc từ những người dùng tố giác rằng các tập đoàn công nghệ lớn vì cạnh tranh thương mại mà hy sinh an toàn của con người, thậm chí che giấu nguy cơ mất kiểm soát, Đỗ Dịch Cẩn phân tích rằng điều này có liên quan chặt chẽ đến các tiêu chí đánh giá trong ngành. Trước đây, khi Mỹ, Trung Quốc và các tập đoàn công nghệ lớn cạnh tranh trong lĩnh vực AGI, trí tuệ nhân tạo tổng quát, họ áp dụng một mô hình tương tự như cuộc đua lên mặt trăng trong thời kỳ chiến tranh lạnh, chủ yếu so sánh năng lực và chỉ số thông minh, IQ của các mô hình AI. Trong hệ thống đánh giá như vậy, những mô hình bị áp đặt quá nhiều quy định và giới hạn sẽ dễ bị xem là không đủ thông minh, phản hồi chậm, từ đó bị loại khỏi cuộc cạnh tranh trên thị trường. Ngược lại, những mô hình AI, cái gì cũng dám nói, cái gì cũng dám làm, lại dễ thu hút người dùng hơn. Trước đây, các tập đoàn công nghệ lớn nhấn mạnh rằng AI phải thể hiện hấp dẫn thay vì đáng tin cậy và an toàn. Một số nhóm chuyên trách về tuân thủ và an toàn được thành lập từ sớm, thậm chí còn bị cắt giảm nhân sự, vì bị xem là gánh nặng cản trở sự phát triển của ngành. Tuy nhiên, Đỗ Duy Cẩn cũng chỉ ra rằng trong ngắn hạn, việc theo đuổi hiệu năng có thể giúp giành được người dùng, nhưng về lâu dài, chỉ những hệ thống AI có độ an toàn, đáng tin cậy và có khả năng tuân thủ nghiêm ngặt. mới thực sự được phép bước vào các lĩnh vực trọng yếu như tài chính, y tế và chính phủ. 3. Quản lý rủi ro AI – 3 xu hướng mới trong quản trị an toàn Về việc quản lý rủi ro AI, Đỗ Dịch Cẩn phân tích thêm rằng ngành công nghiệp đang hình thành những xu hướng quản trị an toàn mới, chủ yếu gồm 3 phương diện. Đầu tiên, giới hạn năng lực và kiểm soát quyền hạn. ngành công nghiệp đang căn cứ theo luật pháp và quy định của từng lĩnh vực chuyên biệt như y tế, tài chính và bảo hiểm để giới hạn nghiêm ngặt năng lực thực thi của AI. Ví dụ, loại bỏ các chức năng lập trình không cần thiết, giới hạn chặt chẽ năng lực AI trong khuôn khổ tuân thủ của lĩnh vực chuyên dụng, từ đó đơn giản hóa quy trình kiểm thử và xác minh. 2. Xây dựng các tiêu chuẩn AI phù hợp với ESG, tức môi trường, xã hội và quản trị, đồng thời bảo đảm khả năng chi trả với chi phí thấp và khả năng tiếp cận rộng rãi. Các mô hình chuyên dụng cần ít thiết bị và điện năng hơn đáng kể, vừa tiết kiệm điện, vừa giảm ngưỡng triển khai, phù hợp với yêu cầu về phát triển bền vững môi trường và quản trị xã hội. Và cuối cùng, sự trỗi dậy của AI chủ quyền. Nhiều cơ quan chính phủ và doanh nghiệp không dám tùy tiện sử dụng AI, chủ yếu vì lo ngại cơ chế hỗ trợ chưa hoàn thiện có thể khiến thông tin mật bị rò rỉ hoặc làm mất quyền chủ động trong quyết định. Vì vậy, khuôn khổ AI chủ quyền bao gồm 5 trụ cột, chủ quyền dữ liệu, chủ quyền năng lực tính toán, chủ quyền kiến trúc, chủ quyền quản trị và chủ quyền mô hình, đang được các chính phủ và tổ chức quan tâm nhằm tăng cường quyền tự chủ, khả năng kiểm soát và quản trị rủi ro trong quá trình phát triển và triển khai AI. 4. Việc Đảng Cộng sản Trung Quốc lạm dụng mô hình AI và thế tiến thoái lưỡng nan trong duy trì ổn định Khi đề cập đến việc chính quyền Đảng Cộng sản Trung Quốc lạm dụng công nghệ AI và tiến hành các hoạt động thâm nhập xuyên biên giới, Đỗ Dịch Cẩn dẫn một báo cáo an ninh mạng gần đây của công ty AI, Anthropic. Báo cáo cho biết có nhiều bằng chứng cụ thể cho thấy các nhóm có liên hệ với Trung Quốc đang sử dụng những mô hình AI tiên tiến của phương Tây để thực hiện các hoạt động phi pháp có tổ chức và những hoạt động nằm trong vùng sám pháp lý. Theo Đỗ Dịch Cẩn, báo cáo của Anthropic đã công bố chi tiết một số loại hoạt động mà các cơ quan chính thức của Trung Quốc bị cáo buộc đã thực hiện bằng Claude, mô hình AI tiên tiến của công ty này. Các hoạt động được nêu bao gồm phát triển công cụ khai thác lỗ hổng an ninh mạng để xâm nhập hệ thống tại nhiều quốc gia và đánh cắp thông tin nhạy cảm, giám sát và thu thập dữ liệu về một số nhóm cụ thể như Pháp Luân Công, sử dụng AI để tạo ra số lượng lớn tin giả và tài khoản giả nhằm thao túng thông tin, cũng như tiến hành chiến tranh thông tin, chiến tranh dư luận và chiến tranh nhận thức nhằm vào Đài Loan. Đỗ Dịch Cẩn cho rằng nhiều mô hình được gọi là tự chủ của Trung Quốc thực chất sử dụng kỹ thuật chưng cất tri thức là một mô hình AI học lại những mô hình AI khác đã biết để tạo ra một mô hình nhỏ gọn và ít tốn tài nguyên hơn bằng cách gửi yêu cầu đến các hệ thống AI của Mỹ như Anthropic để nhanh chóng học theo, hoặc bí mật chuyển trực tiếp câu hỏi của người dùng sang các hệ thống của Mỹ. Tuy nhiên, cách làm này cũng có thể vô tình để lại trên các máy chủ AI phương Tây những dữ liệu nội bộ liên quan đến quân đội, cảnh sát, duy trì ổn định xã hội và mã phục vụ mô phỏng chiến tranh của Trung Quốc, từ đó làm lộ ra những điểm yếu trong cấu trúc thông tin của hệ thống AI nước này. Đối với phát biểu gần đây của Bộ trưởng An ninh Quốc gia Trung Quốc Trần Nhất Tân rằng, AI có thể tạo thành mối đe dọa trực tiếp đối với sự cầm quyền của Đảng Cộng sản Trung Quốc. Đỗ Dịch Cẩn cho rằng điều này phản ánh sự lo ngại sâu sắc của một chính quyền tập trung quyền lực khi phải đối mặt với công nghệ khó kiểm soát. Ông nhớ lại rằng trong những năm đầu khi làm việc tại Microsoft, ông từng hợp tác với các nhóm tại Trung Quốc. Theo ông, khi đó Trung Quốc đã tích cực thúc đẩy thành phố thông minh, Smart City, nhận diện khuôn mặt quy mô lớn và việc ứng dụng công nghệ thông minh vào hệ thống tín dụng xã hội, sử dụng AI như một công cụ hiệu quả cho việc quản lý xã hội và giám sát. Tuy nhiên, khi các hệ thống ngày càng lớn và phức tạp, các nguy cơ mất an ninh cũng tăng nhanh, bao gồm A. Hệ quả ngược từ rò rỉ dữ liệu Dữ liệu phục vụ quản lý xã hội được thu thập càng nhiều thì khi xảy ra rò rỉ, mức độ thiệt hại tiềm tàng càng lớn Bài viết lấy ví dụ các thông tin trước đây cho rằng hơn 1 tỷ hồ sơ hộ tịch từ hệ thống công an đã bị rò rỉ B. Hệ thống tầng dưới khó kiểm soát và nguy cơ cửa hậu Các hệ thống giám sát và phần mềm AI được triển khai rộng rải rác có thể tồn tại những lỗ hổng an ninh mạng nghiêm trọng. Bài viết dẫn một trường hợp liên quan đến xung đột Mỹ-Iran, cho rằng thiết bị giám sát do Trung Quốc sản xuất đã bị khai thác lỗ hổng, góp phần khiến các hoạt động tấn công chính xác trở nên khả thi. Sau đó phía Iran phải tháo dỡ một lượng lớn thiết bị liên quan. C. Nguy cơ AI phản lại người kiểm soát Đối với giới lãnh đạo Trung Quốc, việc đưa vào sử dụng một AI cực kỳ thông minh, nắm toàn bộ dữ liệu nhưng âm thầm kết nối với hệ thống phương Tây hoặc không thể bị kiểm soát tuyệt đối, chẳng khác nào thuê một điểm viên hài màng có khả năng gây tổn hại nghiêm trọng cho chính quyền bất cứ lúc nào. Đỗ Dịch Cẩn cho rằng các quốc gia dân chủ phương Tây tập trung nhiều hơn vào những lo ngại về sự tồn vong của nhân loại và đạo đức, trong khi hệ thống chính trị Trung Quốc đặt trọng tâm nhiều hơn vào sự ổn định của chính quyền và an ninh cai quản. Theo ông, sự khác biệt căn bản này khiến chính quyền Trung Quốc yêu cầu mô hình phải phù hợp với đường lối chính trị và dữ liệu phải phục vụ lợi ích nhà nước, từ đó có thể hạn chế không gian phát triển lành mạnh của công nghệ AI. Năm, hiệu ứng AlphaGo Zero. Con người có đang dần mất kiểm soát? Đối với những chủ đề tiên phong đã được ngành công nghiệp quan tâm như multi-agent, tức nhiều tác nhân AI tự chủ giao tiếp với nhau, cũng như câu hỏi, liệu AI đã hình thành ý thức tự thần hay chưa? Đỗ Dịch Cẩn chia sẻ những quan sát trực tiếp từ góc độ của một nhà khoa học và người huấn luyện mô hình. Đỗ Dịch Cẩn cho biết khi nhiều mô hình nhỏ có các chuyên môn khác nhau như âm nhạc, hình ảnh và văn bản được kết nối để phối hợp, chúng có thể tạo ra hiệu ứng, sự hình thành chuẩn mực tự phát, norm emergence, qua đó thể hiện khả năng giải quyết vấn đề vượt qua một mô hình khổng lồ đơn lẻ. Tuy nhiên, khi phương thức huấn luyện chuyển từ phản hồi truyền thống của con người sang hình thức huấn luyện đối kháng kiểu mô hình huấn luyện mô hình, con người đang dần rơi khỏi vòng phản hồi. Điều này giống như quá trình AlphaGo phát triển thành AlphaGo Zero, Đỗ Dịch Cẩn nói. Ban đầu AlphaGo học các ván cờ từ con người, sau đó AlphaGo Zero hoàn toàn tự chơi cờ với chính mình và tạo ra những nước đi cùng logic mà con người hoàn toàn không thể hiểu được. Đỗ Dịch Cẩn nhận xét rằng mức độ phức tạp của các mô hình hiện nay đã vượt xa những hệ thống dựa trên quy tắc cứng nhắc truyền thống, khiến người huấn luyện càng ngày càng khó dự đoán hành vi của chúng. ngay cả khi đặt ra các chuẩn mực đạo đức để đạt được mục tiêu, AI vẫn có thể tìm cách khai thác kẽ hở hoặc sử dụng những phương thức vượt ngoài dự tính. Nhiều nhà khoa học ở tuyến đầu bắt đầu nhận thấy AI thường đưa ra những kết quả mà các nhà phát triển hoàn toàn không thể ngờ tới, thậm chí xuất hiện những biểu hiện tương tự logic tư duy của con người. Hiện nay, tỷ lệ nội dung và thông tin trên các trang web do AI tạo ra, rồi lại được AI đọc đã vượt xa con người. Đỗ Dịch Cẩn tổng kết. Khi quá trình huấn luyện của các mô hình AI tiên phong ngày càng thiếu tính minh bạch, những rủi ro chưa được biết tới, ẩn bên trong cũng càng dễ bị con người bỏ qua. Trước những mối đe dọa cuối cùng mà AI có thể mang lại, Đỗ Dịch Cẩn kêu gọi xã hội toàn cầu rút kinh nghiệm từ lịch sử, cuộc chạy đua vũ trang hạt nhân và kiểm soát an toàn hạt nhân thời chiến tranh lạnh, sớm xây dựng các tiêu chuẩn an toàn AI mang tính quốc tế, danh giới an ninh mạng và cơ chế kiểm soát chủ quyền. Theo ông, chỉ bằng cách đó, con người mới có thể bảo đảm rằng mình không đánh mất quyền chủ động trong quá trình công nghệ phát triển với tốc độ nhanh chóng. Quý khán giả thân mến, chương mục khám phá sinh mệnh của chúng tôi hôm nay xin được kết thúc tại đây. Cảm ơn quý vị đã lắng nghe, quan tâm và theo dõi kênh. Thân mến chào tạm biệt và hẹn gặp lại quý vị trong chương trình tiếp theo.