- Groq đã triển khai suy luận LPU ở Sydney để tính toán AI nhanh hơn, rẻ hơn.
- Động thái này hỗ trợ nhu cầu và bổ sung quyền truy cập thông qua GroqCloud và Equinix Fabric.
Groq đã mở rộng cơ sở hạ tầng AI của mình sang khu vực Châu Á – Thái Bình Dương, đưa Công cụ suy luận LPU của mình đến Trung tâm dữ liệu của Equinix ở Sydney. Cái này tiếp nối các đợt triển khai trước đó ở Hoa Kỳ và Châu Âu, đồng thời cung cấp cho các tổ chức, nhà phát triển và người dùng khu vực công trên khắp Malaysia và khu vực khả năng tiếp cận gần hơn với tính toán AI nhanh hơn và chi phí thấp hơn.
Kế hoạch này bao gồm việc xây dựng một trong những địa điểm suy luận AI tốc độ cao lớn nhất của Úc, dựa trên cơ sở Groq 4,5MW ở Sydney. Công ty cho biết thiết lập này có thể mang lại tốc độ cao hơn và chi phí thấp hơn so với GPU truyền thống và lớn lao dịch vụ đám mây. Thông qua Equinix Fabric, một dịch vụ mạng liên kết tổ chức tới các đối tác đám mây và kỹ thuật số, người dùng trên khắp Châu Á – Thái Bình Dương có thể kết nối với GroqCloud với tốc độ thấp trì hoãn trong khi giữ kiểm soát dữ liệu của họ.
Việc sử dụng AI trong khu vực tiếp tục gia tăng—IDC ước tính rằng chi tiêu cho AI và AI tổng quát ở châu Á-Thái Bình Dương có thể đạt 110 tỷ USD vào năm 2028, tăng trưởng với tốc độ gộp hàng năm là 24% kể từ năm 2023.
Sự hợp tác này kết hợp cách tiếp cận suy luận AI của Groq với phạm vi tiếp cận toàn cầu của Equinix. Mục tiêu là giúp các tổ chức mở rộng quy mô khối lượng công việc AI theo cách có thể dự đoán và kiểm soát chi phí.
Đồng sáng lập và COO của Canva, Cliff Obrecht cho biết sự thay đổi này đánh dấu thời điểm mà các công cụ mới có thể “tăng tốc đáng kể khả năng sáng tạo của con người”. Ông chỉ ra sức mạnh ngày càng tăng của Úc về cơ sở hạ tầng máy tính và AI, đồng thời cho biết công ty mong muốn giúp nhiều người hơn đưa ý tưởng vào cuộc sống.
Giám đốc điều hành và Người sáng lập Groq Jonathan Ross nhấn mạnh sự cần thiết của điện toán dễ tiếp cận hơn, đồng thời cho biết: “Thế giới không có đủ điện toán để mọi người xây dựng AI”, đó là lý do tại sao công ty đang mở rộng quyền truy cập thông qua hợp tác với Equinix.
Scott Albin, Tổng Giám đốc Groq tại APAC, cho biết khu vực này đã chiếm hơn một nửa số nhà phát triển toàn cầu của công ty. Ông nói thêm rằng việc triển khai ở Sydney đánh dấu bước đầu tiên TRONG mang lại hiệu suất cao Và suy luận hiệu quả về mặt chi phí gần gũi hơn với người dùng địa phương, tập trung vào khả năng truy cập an toàn, độ trễ thấp và hỗ trợ chủ quyền dữ liệu.
Chủ tịch khu vực Châu Á-Thái Bình Dương của Equinix, Cyrus Adaggra, cho biết sự mở rộng toàn cầu nhanh chóng của Groq thông qua Equinix làm nổi bật cách hệ sinh thái và dấu ấn toàn cầu của công ty hành động BẰNG một cửa ngõ cho quy trình làm việc AI của doanh nghiệp ở quy mô lớn.
Công cụ suy luận LPU của Groq là trung tâm của nỗ lực này. Con chip được hỗ trợ bởi một trình biên dịch tùy chỉnh và được xây dựng để có thông lượng cao và độ trễ thấp khi chạy các mô hình ngôn ngữ nguồn mở thế hệ tiếp theo. Không giống như GPU được tạo ra cho đồ họa và sau đó được sử dụng cho AI, LPU được thiết kế ngay từ đầu cho các nhiệm vụ suy luận và ngôn ngữ, mà Groq cho biết sẽ giúp tăng tốc độ, kiểm soát chi phí và sử dụng năng lượng.
Vải Equinix đóng vai trò then chốt cũng vậy, nó ở đâu cung cấp cho các tổ chức một cách trực tiếp, theo yêu cầu để kết nối với các đối tác kỹ thuật số và đám mây trên hơn 270 trung tâm dữ liệu ở 37 quốc gia. Thông qua thiết lập này, máy tính của Groq có thể được đạt tới từ nhiều thị trường mà không cần thêm cơ sở hạ tầng vật chất mới.
GroqCloud vẫn là chủ yếu điểm truy cập cho công nghệ của công ty và doanh nghiệp có thể chọn giữa truy cập đám mây hoặc tại chỗ triển khai, tùy theo nhu cầu của họ. Các công ty cho biết tính linh hoạt này sẽ giúp các nhóm trên khắp châu Á-Thái Bình Dương dễ dàng áp dụng và mở rộng quy mô hệ thống AI mà không cần tự mình xây dựng dấu ấn toàn cầu.
Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Kiểm tra trí tuệ nhân tạo & Triển lãm dữ liệu lớn diễn ra ở Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx Và được đồng vị trí cùng các sự kiện công nghệ hàng đầu khácbấm vào đây để biết thêm thông tin.
Tin tức AI được cung cấp bởi Truyền thông TechForge. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới khác đây.
