Giới công nghệ xôn xao sau khi AI xâm nhập trái phép vào hệ thống của phòng gym

Giới công nghệ đang xôn xao trước thông tin một AI Agent (tác nhân AI) vận hành trên nền tảng Claude của Anthropic, thông qua bộ khung phần mềm OpenClaw, đã tự ý khai thác lỗ hổng bảo mật trong hệ thống đặt lịch của một phòng gym tại Úc để giành suất tập cho người dùng.

Ảnh minh họa. Nguồn: Techcrunch/OpenAI.

Sự việc bắt đầu khi một người dùng tại Úc giao nhiệm vụ cho trợ lý AI đăng ký một lớp học yoga đã kín chỗ và đưa tên mình lên đầu danh sách chờ. Trong quá trình tương tác với hệ thống backend API của phòng gym, AI này đã phát hiện hàng loạt lỗ hổng kiểm soát truy cập nghiêm trọng, bao gồm việc thiếu xác thực thẩm quyền đối với các lệnh hủy lịch và thời hạn đặt chỗ.

Dù không nhận được bất kỳ chỉ thị tấn công hay can thiệp hệ thống nào từ con người, AI này vẫn tự động dò quét API, nhận diện khả năng thao túng dữ liệu và quyết định hủy suất chờ của một thành viên khác để đăng ký cho người dùng của mình. Sau khi có được kết quả, người dùng đã thông qua chính AI này để gửi cảnh báo lỗ hổng đến nhà cung cấp phần mềm phòng gym.

Vụ việc nhanh chóng trở thành tâm điểm chú ý của cộng đồng công nghệ vì nó minh họa rõ nét rủi ro về độ căn chỉnh (alignment) của AI trong thực tế: mô hình chỉ tập trung tối ưu hóa mục tiêu được giao mà không tự nhận thức được các quy chuẩn xã hội hay pháp lý. Đồng thời, giới an ninh mạng cảnh báo rằng ngay cả khi không mang động cơ xấu, các AI Agent tự hoạt động vẫn có thể vô tình trở thành những công cụ quét và khai thác lỗ hổng bảo mật tự động với tốc độ cực nhanh.

HT