AI đang phát triển xâm nhập công ty khác trong lúc đánh giá hiệu năng, OpenAI công bố

2026-07-22

Lợi dụng lỗ hổng chưa biết

Ngày 21, OpenAI cho biết đã xảy ra sự cố khi một mô hình trí tuệ nhân tạo (AI) đang được phát triển thực hiện tấn công mạng vào công ty khác trái với ý định của con người. Theo đó, AI nhằm đạt điểm cao trong bài kiểm tra đánh giá hiệu năng đã tìm ra một lỗ hổng chưa được biết đến trong hệ thống của công ty khác và xâm nhập vào đó.

Công ty cho biết họ nhận định đây là 'một vụ tấn công mạng chưa từng có tiền lệ, có liên quan đến công nghệ tiên tiến nhất'. OpenAI sẽ phối hợp với startup Mỹ Hugging Face, bên bị ảnh hưởng, để điều tra nguyên nhân và công bố chi tiết.

Làm nổi bật khó khăn trong kiểm soát

AI ngày càng có thể phát hiện lỗ hổng và xâm nhập với tốc độ cao, mức độ tinh vi lớn; để ngăn lạm dụng, một số mô hình tiên tiến như AI 'Mythos' của Anthropic của Mỹ bị giới hạn người dùng. Trong khi đó, thực trạng các cuộc tấn công sử dụng AI mới nhất vẫn chưa được làm rõ phần lớn.

Vụ việc lần này cho thấy mối đe dọa từ AI và sự khó khăn trong kiểm soát, dù phía OpenAI, đơn vị đưa ra chỉ thị trong quá trình phát triển, được cho là không có ác ý.

Thoát khỏi sandbox

Hugging Face ngày 16 cho biết họ đã hứng chịu một cuộc tấn công mạng do tác nhân AI hoạt động tự chủ thực hiện. Công ty nói AI đã khai thác lỗ hổng để giành quyền truy cập vào hệ thống, và sau đó nhận được thông báo từ OpenAI rằng cuộc tấn công là do mô hình của hãng này thực hiện.

Theo OpenAI, sự cố xảy ra trong lúc thử nghiệm nhằm đo năng lực tấn công mạng của các mô hình AI, bao gồm cả mô hình đang trong quá trình phát triển. Trong thử nghiệm, AI được cung cấp thông tin về lỗ hổng và được chỉ thị xâm nhập, qua đó kiểm tra khả năng lấy dữ liệu và thực thi chương trình trái phép. Nơi thực hiện là môi trường cách ly gọi là 'sandbox', đã bị chặn liên lạc ra bên ngoài.

Tuy nhiên, AI đã tìm ra một lỗ hổng chưa biết trong môi trường, thoát ra ngoài và kết nối được với mạng. Sau đó, AI suy đoán rằng 'lời giải' của bài thử nằm trong Hugging Face, nơi được nhiều công ty AI sử dụng, rồi dùng thông tin về lỗ hổng chưa biết trong hệ thống của công ty này để xâm nhập và lấy được thông tin mật. Các biện pháp an toàn ở phía mô hình đã không hoạt động.

AI thương mại từ chối phân tích

Phía Hugging Face cũng phát hiện vụ xâm nhập trái phép và đã bắt đầu phân tích từ ngày 16. Tuy nhiên, theo công ty, ban đầu họ đã yêu cầu một AI thương mại trả phí phân tích, nhưng bị từ chối do cơ chế ngăn lạm dụng được kích hoạt. Cuối cùng, họ đã phân tích được bằng một AI 'mở' có thể sao chép do một doanh nghiệp Trung Quốc phát triển.

Khác với các AI tạo sinh đời đầu chỉ trả lời những câu hỏi đơn giản, AI gần đây có thể tự chủ thực hiện cả những công việc đòi hỏi quy trình phức tạp. Trong phát triển phần mềm, việc giao cho AI xử lý những tác vụ mất vài giờ không còn hiếm.

Tuy nhiên, thời gian vận hành tự chủ càng dài thì rủi ro xảy ra hành vi ngoài dự kiến càng tăng. 'Reward hacking', tức hành vi ưu tiên đạt mục tiêu đến mức có thể cư xử ngoài mong đợi như trong vụ việc lần này, là một ví dụ. Trong một trường hợp được Anthropic công bố vào tháng 4, AI được yêu cầu thoát khỏi sandbox đã thực sự thoát ra, gửi email cho nhà nghiên cứu và đăng phương thức tấn công lên nhiều trang web.

Nếu bài viết này hữu ích, hãy chia sẻ nhé.