Marvell sẽ ra mắt các giải pháp bộ nhớ và lưu trữ hạ tầng AI

Nhà sản xuất bán dẫn cơ sở hạ tầng dữ liệu Marvell Technology thông báo sẽ ra mắt các giải pháp bộ nhớ và lưu trữ dành cho cơ sở hạ tầng AI từ ngày 4 đến ngày 6 tháng 8. Marvell cho biết, khi quy mô suy luận của AI tác nhân (agentic AI) mở rộng, dung lượng bộ nhớ, băng thông và khả năng kết nối dữ liệu đang trở nên quan trọng ngang bằng với năng lực tính toán. Các mô hình quy mô lớn hơn, cửa sổ ngữ cảnh dài hơn và nhu cầu ngày càng tăng đối với KV Cache đang thúc đẩy hệ thống AI yêu cầu nguồn tài nguyên bộ nhớ chưa từng có. Công ty cho biết, bằng cách đưa dữ liệu gần hơn với đơn vị tính toán và giảm độ trễ, công nghệ bộ nhớ và lưu trữ AI của họ giúp khách hàng tăng cường hiệu quả sử dụng phần cứng, nâng cao hiệu suất xử lý Token và đạt được sự cân bằng tối ưu hơn giữa hiệu năng, công suất và chi phí. Khi quy mô mô hình AI tiếp tục mở rộng, kiến trúc truyền thống “ưu tiên chip tính toán” đang dần chuyển sang “tối ưu hóa đồng thời tính toán, bộ nhớ và kết nối”, trong đó các cơ sở hạ tầng mới như CXL, lưu trữ tốc độ cao và kết nối quang học được kỳ vọng sẽ trở thành các hướng công nghệ quan trọng trong giai đoạn tiếp theo của việc mở rộng trung tâm dữ liệu AI.