Günstiges KI-Upgrade für alte Server: Warum die gebrauchte Tesla P40 24 GB überzeugt

Wichtig ist aber die richtige Erwartung: Die P40 ist kein modernes Leistungswunder. Vast.ai führt die Tesla P40 mit Veröffentlichungsdatum 13. September 2016 und 24 GB Speicher ^[8]. Sie ist günstig, weil sie alte Rechenzentrums-Hardware ist – nicht, weil sie mit aktuellen High-End-GPUs mithalten würde.

Warum ausgerechnet die Tesla P40?

Der Reiz der P40 liegt fast vollständig im Speicher. InsiderLLM argumentiert, dass ihre 24 GB VRAM einige Modelle komplett auf der GPU laufen lassen können, die auf eine 12-GB-RTX-3060 nicht passen würden; dieselbe Quelle betont aber auch, dass die P40 nach heutigen Maßstäben langsam ist und in ihrem Vergleich ungefähr dreimal langsamer als eine RTX 3090 ausfällt ^[5].

Für ein Homelab kann dieser Kompromiss trotzdem sinnvoll sein. Bei Chatbots, Coding-Assistenten, Dokumentensuche, Experimenten und Lernprojekten ist es oft wichtiger, dass das Modell überhaupt in den Grafikspeicher passt. Wenn ein Modell stark in den Arbeitsspeicher ausweicht, kann sich die Nutzung deutlich zäher anfühlen als mit einer älteren, aber speicherstärkeren GPU.

Dazu kommt: Die P40 war nie als normale Gaming-Grafikkarte gedacht. Sie ist eine Rechenzentrums-Karte, ursprünglich für Inferenz und Virtualisierung gebaut, die heute wegen ihres VRAM-pro-Budget-Vorteils von lokalen KI-Bastlern wiederentdeckt wird ^[2]. Genau deshalb passt sie gut in alte Server – aber nicht automatisch in jeden Desktop-PC.

Checkliste vor dem Kauf

Die Karte selbst ist nur ein Teil des Projekts. Ob der Umbau funktioniert, entscheidet die Umgebung: Steckplatz, Strom, Luftführung und Software.

1. PCIe-Steckplatz und Platz im Gehäuse

Prüfen Sie zuerst, ob ein PCIe-x16-Steckplatz oder ein kompatibles Riser-Setup vorhanden ist. Viele ältere Server arbeiten mit Risern, Luftleitblechen und engen Einschüben. Eine Karte kann elektrisch passen, aber mechanisch trotzdem Ärger machen.

Auch die Länge der Karte, der Abstand zu anderen Steckkarten und die Position der Stromanschlüsse sollten vor dem Kauf geklärt sein. Bei Gebrauchtware lohnt sich außerdem ein Blick auf Fotos des konkreten Angebots, nicht nur auf generische Produktbilder.

2. Stromversorgung nicht unterschätzen

InsiderLLM listet die Tesla P40 mit einer TDP von 250 W ^[5]. Das heißt: Netzteil, Kabel und Anschlüsse müssen die Karte unter Last zuverlässig versorgen können. Ein freier PCIe-Slot allein reicht nicht.

Gerade bei alten Servern ist außerdem wichtig, ob passende Stromkabel vorhanden sind oder proprietäre Anschlüsse genutzt werden. Ein vermeintlich günstiger Kauf kann schnell unpraktisch werden, wenn Adapter, Kabel oder ein anderes Netzteil nötig sind.

3. Kühlung ist der Knackpunkt

Die größte praktische Hürde ist die Kühlung. Accio nennt ausdrücklich Kühlungsprobleme als Thema bei der P40-Nutzung für lokale LLMs ^[2]. In vielen Homelab-Builds braucht es daher einen dedizierten Blower-Lüfter, einen 3D-gedruckten Luftkanal oder ein Servergehäuse mit starkem, gezielt durch die Karte geführtem Luftstrom.

Das ist der Punkt, an dem aus einer billigen Karte ein frustrierendes Projekt werden kann: Wird eine Rechenzentrums-GPU ohne passende Luftführung in ein Tower-Gehäuse gesteckt, drohen Drosselung, Abstürze oder zu hohe Temperaturen. Ein Teil des Budgets gehört also in Lüfter, Luftkanäle und saubere Kabelführung.

4. Kein Monitoranschluss

Die P40 verhält sich nicht wie eine Gaming-Karte. Eine Gebraucht-GPU-Übersicht führt die Tesla P40 als 24-GB-Option auf und vermerkt ausdrücklich: kein Display-Ausgang ^[9]. Für die Bildausgabe braucht es daher Onboard-Grafik, eine zweite einfache Grafikkarte oder einen rein headless betriebenen Server mit Fernzugriff.

5. Software: Inferenz statt Wunderwaffe

Die P40 sollte man als Inferenzkarte betrachten. Accio verbindet die neue Beliebtheit der Karte mit lokaler LLM-Ausführung und nennt llama.cpp im Kontext von P40-Homelab-Nutzung ^[2]. In der Praxis heißt das: quantisierte Modelle verwenden, Modellgröße und Kontextlänge bewusst wählen und die GPU-Offload-Einstellungen testen.

Wer Training, Fine-Tuning großer Modelle oder hohe Produktionslast erwartet, ist mit der P40 schnell in der falschen Klasse. Für lokale Experimente und persönliche KI-Workflows kann sie dagegen erstaunlich viel ermöglichen – sofern das Setup stimmt.

Welche Leistung ist realistisch?

Erwarten Sie nützlich, nicht Spitzenklasse. InsiderLLM beschreibt die P40 als langsam nach modernen Maßstäben, aber weiterhin attraktiv wegen des niedrigen Preises und der 24 GB VRAM ^[5]. Ein Builder berichtete in einem konkreten Budget-Server-Setup, eine P40 mit Qwen3 Coder 30B bei ungefähr 50 Tokens pro Sekunde genutzt zu haben ^[10].

Diese Zahl ist keine allgemeingültige Benchmark. Modell, Quantisierung, Prompt-Länge, CPU, Treiber, Kühlung und Konfiguration beeinflussen den Durchsatz deutlich. Sie zeigt aber, warum die P40 noch interessant ist: Richtig eingerichtet kann sie für lokale Chat-, Coding- und Experimentier-Workflows brauchbar sein.

Nicht geeignet ist sie für alle, die eine leise, unkomplizierte Plug-and-play-Desktop-Erfahrung erwarten. Auch für ernsthaftes Training oder stark frequentiertes Serving ist eine modernere Plattform die bessere Wahl.

Wann die RTX 3090 die bessere Wahl ist

Wenn günstig wichtig ist, aber nicht das absolute Minimum, ist eine gebrauchte RTX 3090 24 GB oft die angenehmere Lösung. InsiderLLM listet die RTX 3090 mit 24 GB und etwa 700–850 US-Dollar gebraucht, während die Tesla P40 dort mit 24 GB und etwa 200–250 US-Dollar geführt wird ^[9].

Der Preisunterschied ist die Entscheidung. Die P40 gewinnt beim niedrigsten Einstiegspreis. Die RTX 3090 kostet deutlich mehr, ist aber eine Consumer-GPU mit 24 GB VRAM, typischer Bildausgabe, einfacherer Desktop-Integration und deutlich besseren Leistungserwartungen. InsiderLLM beschreibt die P40 im Vergleich als ungefähr dreimal langsamer als eine RTX 3090 ^[5].

Kurz gesagt: RTX 3090 wählen, wenn Geschwindigkeit, Lautstärke, Kühlung und weniger Bastelaufwand wichtig sind. P40 wählen, wenn das Budget knapp ist und der vorhandene Server Stromversorgung und Luftstrom liefern kann.

Wann eine A100 überhaupt Sinn ergibt

Die A100 gehört in eine andere Budgetklasse. CraftRigs nennt für gebrauchte A100-80-GB-Karten etwa 4.000–8.000 US-Dollar ^[4]. JarvisLabs nennt in einem Preisüberblick für 2026 etwa 4.000–9.000 US-Dollar gebraucht und 7.000–15.000 US-Dollar neu für die A100 80 GB ^[3]. GPUVec führt A100-Varianten mit 40 GB und 80 GB VRAM auf ^[7].

Dieser zusätzliche Speicher ist wichtig, wenn größere Modelle, ernsthaftere Experimente oder stärkere Inferenzlasten gefragt sind. Für die günstige Wiederbelebung alter Hardware ist eine A100 aber meist am Ziel vorbei. Sie ist kein Spar-Upgrade, sondern eine Investition für ein deutlich größeres Projekt.

Welche Karte passt zu welchem Ziel?

Fazit

Der günstigste sinnvolle Weg vom alten Server zur lokalen KI-Maschine ist meist eine gebrauchte NVIDIA Tesla P40 24 GB – plus ein realistisch eingeplantes Kühlkonzept. Ihr Vorteil ist nicht rohe Geschwindigkeit, sondern die Möglichkeit, 24 GB VRAM für wenig Geld in ein vorhandenes System zu bringen ^[5][9].

Wer dieselbe Speichermenge mit weniger Bastelarbeit, besserer Desktop-Tauglichkeit und mehr Tempo will, greift eher zur gebrauchten RTX 3090. Wer A100-Speicher braucht, sollte nicht mehr von einem billigen Upgrade sprechen, sondern ein deutlich größeres Budget einplanen.