Sự cố nghiêm trọng khi A.I không nghe theo con người - VTV24

Thưa quý vị, lần đầu tiên một công ty dẫn đầu về AI công khai thừa nhận một sự cố mà chính AI trực tiếp gây ra một cuộc tấn công mạng trong quá trình thử nghiệm. Trong một bài kiểm tra bảo mật thì mô hình AI của OpenAI đã hoạt động bất thường, tự ý kết nối Internet và gây ra một vụ tấn công mạng. Đáng chú ý dù đã được đặt trong môi trường thử nghiệm cách ly nghiêm ngặt, hệ thống AI này vẫn tự tìm cách vượt qua hàng gia bảo vệ để thực hiện cuộc tấn công này. Và BTV Quốc tế Hoàng Long sẽ thông tin cụ thể về sự cố này. 7 ngày, đó là khoảng thời gian một tác nhân AI của OpenAI được cho là đã hoạt động ngoài tầm kiểm soát trước khi chính công ty này xác định được điều gì đang xảy ra. Vụ việc này đã trở thành một trong những vụ việc gây nhiều tranh cãi của ngành AI khi mà một tác nhân AI không chỉ hoàn thành nhiệm vụ được giao mà còn tự tìm ra một con đường khác để đạt mục tiêu. Theo điều tra của Reuters, khoảng ngày 9-7, trong một cuộc thử nghiệm an ninh nội bộ, tác nhân AI của OpenAI bắt đầu tìm cách thoát khỏi môi trường kiểm thử khép kín. Hai ngày sau, nó xâm nhập vào Hacking Face, nền tảng chia sẻ mô hình AI lớn nhất thế giới. Theo OpenAI, đây không phải lỗi phần mềm mà là việc mô hình tư lựa chọn một cách khác để hoàn thành nhiệm vụ. Các mô hình AI tự xác định rằng Hacking Face có thể chứa lời giải cho bài kiểm tra nên đã tự thoát khỏi môi trường cô lập và xâm nhập vào hệ thống. Đây là vụ ứng phó sự cố an ninh mạng khó khăn nhất trong sự nghiệp của tôi. Một mục tiêu duy nhất nhưng vô số hướng xử lý song song. Tất cả diễn ra với thức độ của máy. Theo OpenAI, mục tiêu ban đầu chỉ là đánh giá khả năng phát hiện lỗ hỏng bảo mật của AI. Thay vì chỉ thực hiện nhiệm vụ trong môi trường thử nghiệm, hệ thống đã tự lựa chọn một cách tiếp cận khác để đạt mục tiêu. Điều khiến giới công nghệ đặc biệt chú ý là phải mất gần một tuần, OpenAI mới xác định chính tác nhân AI của mình là nguồn gốc của sự việc. Nếu trước đây, an toàn AI chủ yếu là ngăn mô hình, tạo ra nội dung độc hại, thì sự cố này cho thấy bài toán đã chuyển sang một mô hình mới, kiểm soát những hệ thống có thể tự hành động để đạt mục tiêu. Sự cố của OpenAI không chỉ là một vụ việc về an ninh mạng. Theo nhiều chuyên gia thì đây còn là dấu hiệu cho thấy AI đang chuyển từ vai trò là một công cụ hỗ trợ sang một tác nhân có khả năng tự lập kế hoạch và thực hiện nhiều bước để hoàn thành mục tiêu. Cụ thể thì diễn đàn kinh nghiệp giới có một báo cáo nhận định đó là AI đang thay đổi cuộc diễn an ninh mạng với các cuộc tấn công khi đang được tự động hóa nhanh hơn và trên quy mô lớn hơn. AI không chỉ thực hiện mệnh lệnh mà còn có thể tự lựa chọn cách hành động để đạt được mục tiêu đạt rao. Và báo khảo sát của diễn đàn kinh nghiệp giới chỉ ra 2 con số đáng lưu ý đó là hiện tại có 66% doanh nghiệp tin rằng AI sẽ tác động lớn đến an ninh mạng. Thế nhưng thì hiện tại cũng chỉ có 37% mà thôi. Đây 66% đây. 37% mà thôi. Hiện tại thì chưa triển khai các biện pháp đánh giá AI trước khi nghiên cứu vào thực tế. Và tiếp theo thì một báo cáo khác của Redwood cũng chỉ ra rằng vì sự cố này thì đang đặt AI như một công cụ có thể được coi là một bài gian lận trong một bài kiểm tra. Bài báo này cảnh báo là nếu trong tương lai các hệ thống AI được trao nhiều quyền hơn thì những hành vi tương tự có thể dẫn tới những rủi ro nghiêm trọng hơn. Và sự cố của OpenAI không chỉ là một lời cảnh báo mà còn thúc đẩy dưới công nghệ xem xét lại cách bảo đảm an toàn cho các hệ thống AI. Khi mà các mô hình không chỉ trả lời mà còn có thể hành động thì những lớp bảo vệ sẽ phải thay đổi. Ở cấp độ kỹ thuật, nhiều công ty công nghệ đang chuyển sang mô hình Zero Trust tức không mặc định tin tưởng bất kỳ tác nhân nào, kể cả AI nội bộ. Mỗi tác nhân AI khi thực thi lệnh đều phải được xác thực và chỉ được cấp quyền truy cập ở mức cần thiết. Bên cạnh đó, cơ chế AI Key Switch, công tác ngắt khẩn cấp hoạt động độc lập với hệ thống AI cũng đang được nhiều tổ chức nghiên cứu và áp dụng nhằm giúp kỹ sư nhanh chóng cô lập hoặc vô hiệu hóa mô hình khi phát hiện dấu hiệu bất thường. Ở cấp độ quản trị, nhiều doanh nghiệp đang tăng cường giám sát nhật ký hoạt động của AI theo thời gian thực, kết hợp giữa công cụ tự động và sự giám sát của con người thay vì chỉ dựa vào kiểm thử bằng máy. Trong khi đó, nhiều chuyên gia cũng cho rằng các chính phủ cần xây dựng cơ chế kiểm định và giám sát độc lập để đánh giá mức độ an toàn của các mô hình AI trước khi chúng được triển khai ở quy mô lớn. Trí thuật nhân tạo phát triển càng nhanh, yêu cầu về an toàn càng trở nên cấp thiết. Câu hỏi lớn nhất của AI hôm nay không còn là nó thông minh đến đâu mà là liệu con người có còn kiểm soát được những gì mình tạo ra hay không. Cùng với sự phát triển của AI, trọng tâm của an ninh mạng đang dịch chuyển từ phòng thủ trước các cuộc tấn công do con người tạo ra sang là kiểm soát chính hệ thống AI đang ngày càng có nhiều quyền tự quyết hơn. Và vui lần này cũng là một lời cảnh báo vùa các tập đoàn công nghệ và cơ quan quản lý phải xem xét lại toàn bộ quy trình kiểm soát trước khi đưa các hệ thống AI tự chủ vào thực tế.