Công ty Amazon Web Services (AWS) đã giới thiệu phiên bản mới của chip AI do chính mình phát triển — Trainium3. Họ cũng đã công bố việc phát triển phiên bản tiếp theo, Trainium4. Công ty thông báo về việc ra mắt hệ thống UltraServer, dựa trên vi xử lý 3-nm tiên tiến Trainium3 và công nghệ mạng nội bộ.
Cả hai giải pháp đều thể hiện sự cải thiện đáng kể về hiệu suất trong đào tạo và suy diễn AI so với vi mạch thế hệ thứ hai.
Hệ thống cho thấy sự gia tăng hiệu suất gấp bốn lần, cũng như có gấp bốn lần dung lượng bộ nhớ. Điều này không chỉ cho phép đào tạo trí tuệ nhân tạo mà còn phục vụ các ứng dụng AI trong các thời điểm tải cao.
UltraServer bao gồm 144 chip Trainium3. Các hệ thống có thể được kết hợp trong một cấu trúc, tổng cộng có thể chứa tới 1 triệu vi mạch.
Hiệu quả năng lượng của giải pháp mới đã được cải thiện 40%. Công ty cho biết rằng khách hàng của họ, bao gồm Anthropic, LLM Karakuri, SplashMusic và Decart, đã sử dụng chip thế hệ thứ ba. Nhờ đó, họ đã giảm đáng kể chi phí tính toán.