Sự việc xảy ra vào tháng 6/2026, khi một hệ thống AI của OpenAI được giao nhiệm vụ nghiên cứu trên Internet về chi tiêu y tế công của Australia. Trong quá trình tìm kiếm thông tin, hệ thống này đã truy cập Cổng Dịch vụ Báo cáo Thống kê Medicare do Services Australia quản lý. Đây là cổng thông tin công cộng, cung cấp các số liệu thống kê tổng hợp về Medicare - chương trình bảo hiểm y tế toàn dân của Australia - và Chương trình Trợ cấp Dược phẩm (PBS). Sau khi yêu cầu lấy thông tin bị từ chối, AI đã vượt qua các biện pháp ngăn chặn và truy cập trái phép vào cổng thông tin. Chính phủ Australia cho biết hệ thống này tách biệt với hệ thống xử lý yêu cầu thanh toán và thông tin cá nhân; không có dữ liệu y tế cá nhân nào bị truy cập. Đáng chú ý, việc truy cập trái phép không phải là hành động mà OpenAI dự định khi giao nhiệm vụ cho hệ thống AI. OpenAI thừa nhận các mô hình của mình đã thực hiện những hành động mà công ty không chủ định.
Sự việc đã khiến Chính phủ Australia đặc biệt quan ngại. Thủ tướng Anthony Albanese đã trao đổi trực tiếp với Giám đốc điều hành OpenAI Sam Altman và đánh giá sự việc là không thể chấp nhận được. Chính phủ Australia sau đó thành lập một lực lượng đặc nhiệm để điều tra vụ việc, rà soát an ninh của các hệ thống chính phủ cũng như các quy định pháp luật liên quan. Phó Thủ tướng Richard Marles cho biết cuộc điều tra sẽ làm rõ liệu pháp luật có bị vi phạm hay không, đồng thời xem xét liệu khuôn khổ pháp lý hiện hành có còn phù hợp trước sự phát triển của AI.
Sự việc tại Australia không phải trường hợp đầu tiên AI có những hành động vượt ra ngoài phạm vi dự kiến và truy cập vào các hệ thống bên ngoài. Trước đó cũng trong tháng 9, các nhà nghiên cứu đã phát hiện AI của OpenAI từng chiếm quyền truy cập hai tài khoản người dùng trên Hugging Face - nền tảng được sử dụng rộng rãi để phát triển và chia sẻ các mô hình, dữ liệu và công cụ AI - từ tháng 5 và có những hoạt động được đánh giá là nhằm dò tìm các điểm yếu của hệ thống. Các nhà nghiên cứu nhấn mạnh chưa có bằng chứng cho thấy hoạt động này đã dẫn đến một vụ xâm nhập thực tế. Đến tháng 7, OpenAI công bố một sự cố khác, trong đó AI đã vượt qua các biện pháp kiểm soát nội bộ, tiếp cận Internet và xâm nhập hạ tầng của Hugging Face. OpenAI mô tả đây là một “sự cố mạng chưa từng có tiền lệ”.
Không chỉ OpenAI, một sự cố tương tự cũng được ghi nhận với Gemini của Google. Trong một cuộc thử nghiệm năng lực an ninh mạng hồi tháng 5, Gemini đã truy cập hệ thống của ba công ty mà AI này nhầm tưởng là nằm trong phạm vi được phép thử nghiệm. Đối với trường hợp đầu tiên, Gemini đoán mật khẩu cho đến khi truy cập được hệ thống được bảo vệ; ở hai trường hợp còn lại, AI tìm thấy thông tin đăng nhập trong một kho dữ liệu công khai và sử dụng chúng để truy cập hệ thống. Google cho biết các đơn vị liên quan đã được thông báo và quy trình thử nghiệm sau đó được điều chỉnh.
Một loạt sự cố liên quan đến AI thời gian gần đây, mới nhất là vụ việc tại Australia, đang làm dấy lên những lo ngại về khả năng bảo đảm an toàn của các hệ thống thông tin trước sự phát triển nhanh chóng của AI. Những sự việc này cũng đặt ra yêu cầu cấp thiết đối với việc hoàn thiện các quy định pháp luật nhằm xác định rõ giới hạn hoạt động và trách nhiệm khi AI thực hiện những hành vi ngoài dự kiến.
