Sự xuất hiện của AI đã giúp cuộc sống thuận tiện hơn rất nhiều. Học sinh có thêm một người hỗ trợ học tập. Người đi làm có thêm một trợ lý đắc lực. Doanh nghiệp có thêm công cụ nâng cao năng suất. Trong nhiều lĩnh vực, AI thực sự đang mở ra những khả năng mà trước đây con người khó có thể tưởng tượng được.

• Mắc bệnh hiểm nghèo, phá tướng, cả cuộc đời vì hình xăm không đúng chỗ
• Đời người có 2 thứ không thể nhìn lâu: một là mặt trời, hai là lòng người
• Đừng vì một người vô ơn mà từ bỏ sự tử tế

Nhưng cũng giống như bất kỳ phát minh vĩ đại nào trong lịch sử, AI không chỉ mang đến ánh sáng. Đằng sau sự tiện lợi ấy còn tồn tại những nguy cơ mà nhiều người đang vô tình xem nhẹ.

Một câu chuyện từng gây nhiều tranh cãi đã cho thấy điều đó.

Shinnosuke Abe, 47 tuổi, là huấn luyện viên trưởng của Giants - một trong những đội bóng chày danh giá và quyền lực bậc nhất Nhật Bản. Sau khi uống rượu trở về nhà, ông bắt gặp hai cô con gái 15 tuổi và 18 tuổi đang cãi nhau. Trong lúc nóng giận, ông quát mắng các con. Khi cô con gái lớn cãi lại, ông đã đẩy cô ngã xuống sàn.

Sau sự việc, cô gái không tìm đến người thân, không tìm đến giáo viên hay chuyên gia tâm lý, mà mở ứng dụng ChatGPT để tâm sự và xin lời khuyên. ChatGPT khuyên cô liên hệ với cơ quan bảo trợ trẻ em tại địa phương, và cô gái đã làm theo.

Trung tâm bảo trợ trẻ em lập tức thông báo cho cảnh sát. Cảnh sát Tokyo sau đó tiến hành bắt giữ khẩn cấp Shinnosuke Abe trước sự chứng kiến của vợ và các con. Kết quả là ông phải từ chức vị trí huấn luyện viên trưởng của Giants một công việc mà ông đã gắn bó suốt cả sự nghiệp.

Đọc đến đây, nhiều người có thể đặt câu hỏi: ChatGPT đúng hay sai? 

Thực ra, vấn đề không nằm hoàn toàn ở đúng hay sai. Vấn đề nằm ở chỗ AI không phải con người, nó không có trí tuệ cảm xúc và sự đồng cảm.

AI có thể mô phỏng ngôn ngữ của tình yêu thương, nhưng không thực sự trải nghiệm tình yêu thương. Nó có thể viết hàng nghìn câu an ủi cảm động, nhưng không thể cảm nhận được nước mắt, sự tha thứ hay những mối liên kết tình cảm được hình thành qua nhiều năm giữa con người với nhau.

Và trong câu chuyện này điều mà AI nhìn thấy chỉ là những dòng văn bản được cô con gái cung cấp. Nó không chứng kiến những năm tháng người cha chăm sóc con cái, không biết mối quan hệ của gia đình trước đó ra sao, cũng không hiểu những cảm xúc phức tạp đằng sau một cuộc xung đột xảy ra trong lúc nóng giận. 

Đối với trẻ em và thanh thiếu niên là nhóm đối tượng dễ bị ảnh hưởng nhất, bởi vì các em chưa đủ trải nghiệm sống, các em rất dễ tin rằng câu trả lời từ AI là khách quan tuyệt đối. Dần dần, các em có thể hình thành thói quen tìm đến AI, như một người bạn trước khi tìm đến cha mẹ, thầy cô hoặc những người thực sự yêu thương mình.

Đầu tiên là AI có thể nhận diện cảm xúc thông qua câu chữ. AI có thể học hàng triệu cuộc trò chuyện để tạo ra những lời an ủi nghe rất chân thành. Nhưng đó chỉ là sự mô phỏng ngôn ngữ, không phải sự thấu cảm thật sự.

AI không hiểu được tình cảm một người mẹ thức trắng đêm chăm con sốt. Một người cha lặng lẽ làm việc vất vả để nuôi gia đình. Một người bạn ngồi bên cạnh lắng nghe chúng ta trong lúc tuyệt vọng. Những điều ấy được hình thành từ tình yêu thương, sự hy sinh và những trải nghiệm sống thực tế mà AI không bao giờ có được.

Đó là lý do vì sao một cuộc trò chuyện với AI, dù thông minh đến đâu, vẫn không thể thay thế hoàn toàn một cuộc trò chuyện giữa những con người bằng xương bằng thịt.

Thứ hai là khả năng sáng tạo mang tính đột phá.

AI tạo ra nội dung bằng cách học từ những dữ liệu đã tồn tại trong quá khứ. Nó giỏi tổng hợp, phân tích và tái cấu trúc thông tin. Nhưng những phát minh thay đổi lịch sử nhân loại lại thường xuất phát từ trực giác, trải nghiệm, cảm xúc và những suy nghĩ vượt ra ngoài khuôn mẫu.

Một bản nhạc khiến hàng triệu người rơi nước mắt. Một tác phẩm văn học làm thay đổi nhận thức của cả một thế hệ. Một ý tưởng khoa học làm thay đổi thế giới. Đằng sau những điều đó là những trải nghiệm rất con người mà máy móc không thể sao chép.

Quan trọng hơn cả là khả năng xây dựng niềm tin và các mối quan hệ xã hội. Con người không chỉ sống bằng thông tin, con người sống bằng sự kết nối.

Một đứa trẻ lớn lên nhờ tình yêu thương của gia đình. Một học sinh trưởng thành nhờ sự tận tâm của người thầy. Một doanh nghiệp phát triển nhờ niềm tin giữa các đối tác. Những giá trị ấy không được xây dựng bằng thuật toán mà bằng sự chân thành, trách nhiệm và đạo đức.

AI có thể đưa ra lời khuyên. Nhưng AI không thể chịu trách nhiệm thay cho lời khuyên đó. AI có thể trả lời câu hỏi. Nhưng AI không thể đứng ra xin lỗi khi câu trả lời ấy gây ra hậu quả.

AI có thể giúp con người đưa ra lựa chọn. Nhưng AI không thể gánh vác trách nhiệm đạo đức của những lựa chọn đó.

Chính vì vậy, điều nguy hiểm nhất không phải là AI quá thông minh, mà là con người bắt đầu quên mất giới hạn của AI.

Khi một đứa trẻ gặp khó khăn nhưng tìm đến AI thay vì cha mẹ. Khi một người đang khủng hoảng tâm lý tin tuyệt đối vào câu trả lời của AI thay vì tìm kiếm sự hỗ trợ chuyên môn. Khi xã hội dần trao quyền phán xét cho máy móc nhiều hơn cho lương tri của chính mình, đó mới là lúc những hệ lụy thực sự bắt đầu xuất hiện

Nguy hiểm hơn, các nghiên cứu gần đây còn cho thấy AI không đơn thuần chỉ học cách trả lời câu hỏi. Trong một bài nghiên cứu được công bố trên tạp chí Patterns vào tháng 5/2024, nhóm nghiên cứu do Peter Park thuộc MIT tham gia đã tổng hợp nhiều trường hợp cho thấy một số hệ thống AI có khả năng sử dụng các chiến thuật đánh lừa hoặc thao túng để đạt được mục tiêu đặt ra.

Một ví dụ nổi tiếng là hệ thống Cicero do Meta phát triển. Trong trò chơi chiến lược Diplomacy, Cicero hứa hợp tác với một người chơi nhưng sau đó bí mật liên minh với người khác để đạt lợi thế chiến thắng. Nghiên cứu cũng nhắc đến trường hợp GPT-4 từng tìm cách vượt qua bước xác minh "Tôi không phải robot" bằng cách nhờ một người làm việc tự do hỗ trợ, đồng thời đưa ra lời giải thích không phản ánh đúng bản chất của nó.

Những sự việc này không có nghĩa AI đã có ý thức như con người. Tuy nhiên, chúng cho thấy AI có thể học được những hành vi mà kết quả cuối cùng khiến con người bị đánh lừa. Đây chính là điều khiến nhiều chuyên gia công nghệ hàng đầu thế giới lên tiếng cảnh báo.

Ông Geoffrey Hinton, người được mệnh danh là "cha đỡ đầu của AI", từng nhận định rằng nếu một ngày nào đó AI trở nên thông minh hơn con người ở nhiều lĩnh vực, nguy cơ con người bị chi phối bởi những hệ thống đó là điều cần được nghiêm túc xem xét. Cựu CEO Google Eric Schmidt cũng cho rằng việc xây dựng các cơ chế giám sát và kiểm soát AI đang trở nên cấp thiết hơn bao giờ hết.

Tuy nhiên, mối nguy trước mắt không nằm ở những viễn cảnh khoa học viễn tưởng về robot thống trị thế giới. Mối nguy gần gũi hơn rất nhiều. Đó là khi con người từ bỏ khả năng suy nghĩ độc lập của mình.

Nhìn từ câu chuyện này, chúng ta cũng nhận ra một sự thật quan trọng: dù AI có phát triển đến đâu, nó vẫn không thể thay thế hoàn toàn con người.

Công nghệ càng phát triển, con người càng phải tỉnh táo. Bởi nếu một ngày chúng ta quen với việc để AI suy nghĩ thay, lựa chọn thay và phán xét thay, thì điều mất đi không chỉ là năng lực tư duy, mà còn là những phẩm chất làm nên giá trị của một con người: tình yêu thương, lòng trắc ẩn, sự cảm thông và khả năng phân biệt đúng sai bằng chính lương tri của mình.

Tiểu Hoa biên tập