Nato ad Hanau, in Germania, il 13 aprile 1960. Acquistato da Dino Viola dal Werder Brema disputa cinque stagioni con la maglia della Roma. Deludente la prima, ottima la seconda, splendida la terza, buona la quarta, discreta l'ultima. Viene ceduto poichè ritenuto lento da Boskov, lui si toglie la soddisfazione di vincere una Coppa Dei Campioni a Marsiglia e di disputare il mondiale di Usa 94. Centravanti moderno e persona straordinaria, Rudi Voeller fa innamorare i tifosi della Roma. Storico il coro che gli dedicarono i tifosi romanisti sulle note della canzone "La notte vola", "Tedesco vola, sotto la curva vola, la curva s'innamora! Tedesco vola...".

Nel 1990 si laurea Campione del Mondo con la nazionale tedesca proprio a Roma. L'anno successivo vince il suo unico trofeo romanista, la coppa Italia 1990/91. Voeller molto probabilmente in una squadra come quella di oggi avrebbe fatto sfracelli, immaginatelo con Cassano e Totti... In rose modesta e dalle poche pretese, come quelle a cavallo degli anni '90, riuscì comunque a esaltarsi e a rendere la Roma una buonissima squadra, capace di ottenere buoni risultati in Italia ed in Europa. In campionato Voeller realizza 45 gol in 142 presenze, in coppa Italia 11 gol. In Europa vanta 22 gare e 12 reti, 10 delle quali nella Coppa Uefa 90/91 (triplette con Bordeaux ed Anderlecht). Il 31 agosto 2004, a due settimane dall'inizio della stagione, ritorna a Roma ingaggiato come allenatore in sostituzione di Cesare Prandelli. La sua avventura sulla panchina della Roma dura però soltanto un paio di mesi. La squadra non gira, i risultati non arrivano e dopo quattro giornate di campionato Voeller lascia l'incarico.