Mac Studio M5 Max & M5 Ultra – máy chạy AI local cho doanh nghiệp

Yếu tố số một là dung lượng bộ nhớ đủ chứa mô hình, sau đó mới tới băng thông bộ nhớ. Quy tắc nhanh: mô hình nén 4-bit tốn khoảng 0,5GB cho mỗi tỷ tham số, cộng thêm phần cho ngữ cảnh hội thoại. Mac Studio rẻ nhất trên trang (36GB, 84.000.000₫) chạy được mô hình tới khoảng 43B tham số; bản 256GB chạy tới khoảng 307B.

Tuỳ cỡ mô hình: 36GB chạy tới ~43B, 64GB tới ~76B, 96GB tới ~115B, 128GB tới ~153B và 256GB tới ~307B tham số (ước lượng ở mức nén 4-bit). Cách tính: macOS cho phần đồ hoạ dùng khoảng 75% bộ nhớ, chừa 20% cho ngữ cảnh, mỗi tham số tốn khoảng 0,5 byte.

Có, từ bản 64GB trở lên. Cấu hình rẻ nhất chạy được mô hình 70B là Mac Studio M5 Max 18CPU 40GPU 64GB 512GB, giá 117.000.000₫ đã gồm VAT, chứa được mô hình tới khoảng 76B ở mức nén 4-bit. Muốn chạy 70B ở mức nén nhẹ hơn cho chất lượng trả lời cao hơn, hoặc phục vụ nhiều người cùng lúc, nên chọn 128GB trở lên.

Tuỳ phiên bản DeepSeek quý vị định chạy. Các bản rút gọn cỡ vài chục tỷ tham số chạy được từ bản 36GB (~43B). Bản đầy đủ của DeepSeek lớn hơn nhiều so với mức ~307B mà máy 256GB chứa được ở 4-bit, nên cần nén mạnh hơn hoặc ghép nhiều máy. Hãy gửi tên mô hình cụ thể, Namtech quy đổi ra cấu hình phù hợp.

Tại Namtech, Mac Studio M5 Max có giá từ 84.000.000₫ đến 169.800.000₫, M5 Ultra từ 192.000.000₫ đến 366.900.000₫ ở ổ lưu trữ mặc định. Giá đã gồm VAT, có hoá đơn, kèm tư vấn chọn cấu hình theo mô hình AI cần chạy. Nâng SSD tính thêm, chọn trong trang chi tiết từng máy.

M5 Ultra gấp khoảng đôi M5 Max ở những chỗ quan trọng cho AI: băng thông bộ nhớ 1.2TB/s so với 460GB/s/614GB/s, GPU 64/80 lõi so với 32/40 lõi, Neural Engine 32 lõi so với 16 lõi. M5 Max có bộ nhớ 36–128GB (mô hình tới ~153B); M5 Ultra có 96–256GB (tới ~307B).

Bản 96GB chạy mô hình tới khoảng 115B tham số, bản 256GB tới khoảng 307B (ước lượng, nén 4-bit). Bản 96GB hợp với mô hình lớn cho nhiều người truy vấn; bản 256GB hợp với mô hình rất lớn hoặc chạy nhiều mô hình cùng lúc. Giá bản 96GB: 192.000.000₫ – 234.900.000₫; bản 256GB: 324.000.000₫ – 366.900.000₫, đã gồm VAT.

Tuỳ cỡ mô hình. Theo NVIDIA, RTX 5090 có 32GB bộ nhớ đồ hoạ, nên mô hình lớn hơn mức đó phải ghép nhiều card hoặc chạy chậm đi. Mac Studio dùng bộ nhớ hợp nhất tới 256GB, nạp mô hình tới ~307B trong một máy, tiêu thụ tối đa 480W. Ngược lại, với mô hình vừa trong 32GB và công cụ viết riêng cho NVIDIA, PC RTX 5090 là lựa chọn đáng cân nhắc.

Cả hai đều là máy để bàn dùng bộ nhớ hợp nhất. Theo NVIDIA, DGX Spark có 128GB bộ nhớ hợp nhất; Mac Studio M5 Ultra có tuỳ chọn 256GB, chứa được mô hình lớn hơn trong một máy. DGX Spark có lợi thế chạy hệ sinh thái phần mềm của NVIDIA. Mac Studio dùng macOS, đặt gọn ở văn phòng và dùng được như một máy tính làm việc bình thường.

Được, với mô hình nhỏ, thử nghiệm hoặc một vài người dùng. Khi cần mô hình lớn, ngữ cảnh dài hoặc nhiều người hỏi cùng lúc thì nên lên Mac Studio, vì Mac Studio có mức bộ nhớ từ 36GB tới 256GB. Namtech tư vấn thẳng: nếu Mac mini đã đủ cho bài toán của quý vị, chúng tôi sẽ nói.

AI on-premise là mô hình AI chạy trên máy đặt tại công ty, không gửi câu hỏi hay tài liệu lên dịch vụ bên ngoài. AI cloud thì ngược lại: dữ liệu đi qua máy chủ của nhà cung cấp và thường tính phí theo lượt dùng. On-premise hợp với hồ sơ nhân sự, hợp đồng, dữ liệu khách hàng; đổi lại, doanh nghiệp đầu tư máy một lần và tự quản lý.

Có. Mac Studio chạy được trợ lý hỏi đáp trên kho tài liệu nội bộ cho nhân viên trong mạng công ty, dữ liệu không ra ngoài. Máy là máy nguyên bản Apple; Namtech nhận cài đặt và tinh chỉnh phần mềm chạy mô hình (MLX, Ollama hoặc LM Studio) theo nhu cầu, báo giá riêng theo khối lượng công việc.

Về kỹ thuật là có: nhiều máy nối với nhau qua Thunderbolt 5 để chia một mô hình lớn. Tuy nhiên cách này phức tạp hơn khi vận hành. Với phần lớn doanh nghiệp, chọn một máy đủ bộ nhớ ngay từ đầu vẫn đơn giản hơn. Nếu bài toán thật sự cần cụm máy, Namtech tư vấn theo trường hợp cụ thể.

Không. Bộ nhớ của Mac Studio gắn liền trong chip, phải chọn đúng mức ngay khi đặt máy. Vì vậy nên tính kỹ cỡ mô hình định chạy trước khi chốt cấu hình.

Có. Giá niêm yết trên trang đã bao gồm VAT và Namtech xuất hoá đơn đầy đủ cho doanh nghiệp. Cấu hình nâng RAM hoặc SSD là hàng đặt riêng; mốc giao báo cụ thể khi nhận yêu cầu.