GPU AI rẻ nhất cho server cũ: Tesla P40 24GB đã qua sử dụng

Vì sao Tesla P40 là điểm ngọt của ngân sách thấp?

Điểm mạnh lớn nhất của P40 là dung lượng VRAM. InsiderLLM cho rằng 24GB VRAM của P40 cho phép chạy một số mô hình hoàn toàn trên GPU, trong khi các card 12GB như RTX 3060 không chứa nổi; cùng lúc, nguồn này cũng lưu ý P40 chậm theo tiêu chuẩn hiện đại và trong so sánh của họ chậm hơn RTX 3090 khoảng 3 lần ^[5].

Với một máy suy luận tại nhà, đánh đổi này đôi khi chấp nhận được. Nếu bạn dùng để chat với mô hình cục bộ, thử trợ lý lập trình, tìm kiếm tài liệu, học cách triển khai LLM hoặc dựng một dịch vụ nội bộ nhỏ, việc mô hình nằm gọn trong VRAM có thể quan trọng hơn kiến trúc GPU đời mới. Khi mô hình phải tràn nhiều sang RAM hệ thống, trải nghiệm có thể tụt mạnh hơn so với dùng một GPU cũ nhưng nhiều VRAM.

P40 cũng không phải card gaming thông thường. Các nguồn mô tả nó là card 24GB đời cũ, vốn được thiết kế cho suy luận và ảo hóa trong trung tâm dữ liệu, rồi được cộng đồng local AI tận dụng lại nhờ lợi thế VRAM trên mỗi USD ^[2].

Trước khi mua: checklist để khỏi biến rẻ thành mệt

P40 rẻ, nhưng hệ thống xung quanh mới quyết định cấu hình có dùng được hay không. Trước khi đặt mua, hãy kiểm tra kỹ 5 điểm sau.

1. Khe PCIe và không gian vật lý

Máy cần có khe PCIe x16 hoặc riser tương thích, đồng thời phải đủ không gian cho một card dài kiểu trung tâm dữ liệu. Nhiều server cũ dùng riser, shroud gió hoặc layout rất chật, khiến việc lắp GPU full-length không hề đơn giản.

2. Công suất nguồn và dây cấp điện

InsiderLLM liệt kê Tesla P40 với TDP 250W ^[5]. Điều đó có nghĩa PSU, dây cấp điện và airflow của server phải chịu được tải kéo dài. Đừng giả định rằng cứ có khe PCIe là lắp được accelerator.

3. Tản nhiệt: không chỉ là có quạt trong thùng máy

Đây là bẫy lớn nhất. Tổng quan của Accio về P40 nêu rõ vấn đề 'cooling challenges' khi dùng card này cho local LLM ^[2]. Trong nhiều cấu hình homelab, người dùng phải dùng blower riêng, ống gió in 3D hoặc chassis server có luồng gió ép thẳng qua GPU.

Nếu đặt một GPU thiên về trung tâm dữ liệu vào case tower bình thường mà không có gió cưỡng bức, card có thể quá nóng, bóp hiệu năng hoặc mất ổn định. Với P40, nên dành một phần ngân sách cho tản nhiệt ngay từ đầu.

4. Không có cổng xuất hình

Đừng mua P40 với kỳ vọng cắm màn hình như card chơi game. Một hướng dẫn mua GPU cũ liệt kê Tesla P40 là lựa chọn 24GB và ghi chú 'no display out' ^[9]. Bạn cần dùng đồ họa tích hợp trên bo mạch chủ, một card xuất hình rẻ khác hoặc vận hành headless qua SSH/remote desktop.

5. Kỳ vọng phần mềm: suy luận, không phải mọi thứ AI

P40 phù hợp nhất cho inference — tức chạy mô hình đã có sẵn để sinh kết quả — hơn là huấn luyện nặng. Accio gắn sự trở lại của P40 với việc chạy local LLM và nhắc đến llama.cpp trong bối cảnh homelab dùng P40 ^[2]. Trên thực tế, bạn nên dùng mô hình lượng tử hóa và điều chỉnh kích thước mô hình, độ dài context, mức GPU offload thay vì kỳ vọng chạy mọi mô hình mới ở full precision.

Hiệu năng: đủ dùng, không phải đỉnh cao

Kỳ vọng hợp lý là dùng được, không phải tối tân. InsiderLLM mô tả P40 là chậm theo chuẩn hiện đại nhưng vẫn đáng giá nhờ giá thấp và 24GB VRAM ^[5]. Một người dựng server local LLM ngân sách thấp cho biết trong cấu hình cụ thể của họ, P40 chạy Qwen3 Coder 30B ở khoảng 50 token/giây ^[10].

Con số đó chỉ nên xem là trải nghiệm tham khảo, không phải benchmark phổ quát. Tốc độ còn phụ thuộc vào mô hình, mức lượng tử hóa, độ dài prompt, driver, CPU, RAM, PCIe và đặc biệt là tản nhiệt. Điểm chính là: nếu cấu hình đúng, P40 có thể đủ sức cho nhiều workflow suy luận cục bộ; nhưng nó không phù hợp cho huấn luyện nghiêm túc, phục vụ tải lớn hay một chiếc PC yên tĩnh cắm vào là chạy.

Khi nào nên chọn RTX 3090 thay vì P40?

Nếu vẫn muốn tiết kiệm nhưng muốn ít rắc rối hơn, RTX 3090 24GB cũ là lựa chọn dễ chịu hơn. Hướng dẫn GPU cũ năm 2026 của InsiderLLM liệt kê RTX 3090 24GB ở khoảng 700–850 USD đã qua sử dụng, trong khi Tesla P40 24GB ở khoảng 200–250 USD ^[9].

Khoảng chênh này chính là quyết định. P40 thắng nếu ưu tiên chi phí ban đầu thấp nhất. RTX 3090 đắt hơn, nhưng là GPU consumer có 24GB VRAM, dễ lắp vào desktop hơn và kỳ vọng hiệu năng hiện đại hơn. So sánh của InsiderLLM mô tả P40 chậm hơn RTX 3090 khoảng 3 lần ^[5].

Hãy chọn RTX 3090 nếu bạn quan tâm đến tốc độ, độ ồn, tản nhiệt dễ hơn và ít đau đầu tương thích. Hãy chọn P40 nếu ngân sách rất chặt và server hiện có xử lý được nguồn, dây cấp điện và luồng gió.

Khi nào A100 mới đáng nghĩ tới?

A100 nằm ở một hạng ngân sách hoàn toàn khác. CraftRigs mô tả A100 80GB đã qua sử dụng ở khoảng 4.000–8.000 USD ^[4], trong khi JarvisLabs ghi nhận giá A100 80GB cũ khoảng 4.000–9.000 USD và giá mới khoảng 7.000–15.000 USD trong hướng dẫn giá năm 2026 ^[3]. GPUVec liệt kê A100 có các biến thể 40GB và 80GB VRAM ^[7].

Dung lượng đó rất có ý nghĩa nếu bạn cần mô hình lớn hơn, phục vụ nhiều người dùng hơn hoặc thử nghiệm nghiêm túc hơn. Nhưng nếu mục tiêu chỉ là tận dụng phần cứng cũ với chi phí thấp, A100 thường làm mất ý nghĩa của chữ 'rẻ'. Nó thuộc nhóm ngân sách nghiêm túc, không phải nhóm cứu một server cũ trong homelab.

Chọn theo mục tiêu

Kết luận

Nếu mục tiêu là ít tiền nhất để chạy AI cục bộ trên server cũ, công thức hợp lý là: mua Tesla P40 24GB đã qua sử dụng, sau đó đầu tư nghiêm túc cho tản nhiệt. Sức hút của P40 không nằm ở tốc độ thô, mà ở việc 24GB VRAM có thể biến local LLM từ ý tưởng thành cấu hình chạy được với chi phí mà GPU 24GB đời mới khó sánh được ^[5][9].

Nếu muốn cùng dung lượng 24GB nhưng trải nghiệm desktop mượt và ít công hơn, hãy chọn RTX 3090 cũ. Còn nếu bạn thật sự cần bộ nhớ kiểu A100, hãy chuẩn bị ngân sách lớn hơn nhiều — lúc đó câu chuyện không còn là nâng cấp giá rẻ nữa.