Moonshot AI ngừng tiếp nhận người dùng mới, tài nguyên tính toán bị căng do nhu cầu tăng vọt
Tạm thời hạn chế do lượng sử dụng tăng mạnh
Moonshot AI, công ty khởi nghiệp trí tuệ nhân tạo (AI) của Trung Quốc, tối 19/9 cho biết sẽ ngừng tiếp nhận người dùng mới. Công ty này từng thu hút sự chú ý toàn cầu khi tuyên bố đạt hiệu năng tiệm cận các mô hình AI tiên tiến nhất của Mỹ, nhưng hiện lượng sử dụng tăng vọt và tài nguyên tính toán cần thiết cho xử lý đang thiếu hụt.
Nhu cầu tăng vọt trong 48 giờ qua
Theo công ty, 'trong 48 giờ qua, mức sử dụng của người dùng đã vượt xa dự báo, và năng lực xử lý của cụm máy chủ đang tiến sát giới hạn'. Trên cơ sở đó, trước mắt việc sử dụng sẽ chỉ giới hạn cho hội viên hiện hữu. Công ty cho biết sẽ từng bước mở rộng hạn ngạch tiếp nhận người dùng mới khi các biện pháp đã sẵn sàng, nhưng chưa đưa ra thời điểm nối lại.
Vẫn là bài toán đảm bảo GPU
Để cung cấp dịch vụ AI, các máy chủ được trang bị chất bán dẫn xử lý đồ họa (GPU) là không thể thiếu. Khi mức sử dụng mở rộng, cần bổ sung thêm chất bán dẫn và máy chủ. Công ty đang rà soát lại phân bổ nguồn lực, trong đó tách máy chủ cho mảng lập trình có tải cao và các dịch vụ khác.
Chú ý đến Kimi K3
Mô hình mới 'Kimi K3' của Moonshot AI cho biết đã đạt hiệu năng chỉ sau các mô hình tiên tiến như của Anthropic ở Mỹ. Tại Trung Quốc, việc thu mua các chất bán dẫn hiệu năng cao của Nvidia bị hạn chế, vì vậy công nghệ phần mềm giúp sử dụng hiệu quả tài nguyên tính toán được xem là nguồn gốc của năng lực cạnh tranh. Trước việc ngừng tiếp nhận người dùng mới lần này, một số cơ quan truyền thông Trung Quốc nhận định việc đảm bảo đủ lượng GPU vẫn là thách thức tăng trưởng của AI Trung Quốc.
Nếu bài viết này hữu ích, hãy chia sẻ nhé.