Te koop mijn Nvidia Tesla A2 met 16GB GDDR6. Heeft in mijn homelab gezeten voor lokale AI met Ollama, maar wordt eigenlijk nauwelijks gebruikt. Daardoor is hij zo goed als nieuw, en zonde om hem stof te laten vangen. Dus hij mag weg.
Specs:

• 16GB GDDR6 VRAM
• Ampere-architectuur, CUDA en Tensor cores
• Maar 60 watt, voeding via het PCIe-slot (geen extra stroomkabel nodig)
• PCIe 4.0 x8, low profile
• Passief gekoeld, dus hij heeft wel airflow in de kast nodig (ideaal in een server of een kast met goede luchtstroom)

Gebruik:
qwen3:8b via Ollama draait volledig op de kaart met ±26 tokens/s. Werkt meer dan prima met driver 550 en de Nvidia container toolkit in Docker. Ook grotere modellen tot ±14B passen erop. Daarnaast uitermate geschikt voor bijvoorbeeld Whisper of Immich ML.
Zelf heb ik deze GPU icm Ollama in Home Assistant gebruikt voor lokale spraakbesturing. Aangezien ons huis nu zo goed als geautomatiseerd is en iedereen hier liever op een tablet aan de muur tikt dan tegen een kastje praat, is het zonde om hem nog langer in mijn server te laten zitten. Hopelijk kan ik er iemand anders blij mee maken.
Prijs: €375. Redelijke biedingen bespreekbaar, geen ruilen.
Ophalen of verzekerd verzenden in overleg.