Nasce in Germania nel 1942 da genitori austriaci e tedeschi che morirono durante un bombardamento nel 1943.Visse a Graz, in Austria, con i nonni.La passione per le corse, iniziò nel 1962. Gareggiò con una non competitiva Formula Junior Cooper nel 1963 e fu molto sorpreso quando la Ford gli propose di guidare una Brabham - Cosworth F.2 nel 1964.Si fece notare in due gare, a Mallory Park, dove giunse secondo, e a Crystal Palace, dove vinse.Per questi risultati, la Cooper gli chiese di affiancare Bruce McLaren nel campionato di F.1 del 1965.

Le Cooper non erano competitive quell'anno e gli consentirono solo un quarto e un sesto posto nei G.P. di Germania e U.S.A..Lo stile di Rindt era particolare, apparentemente remissivo ma, in realtà, veloce e redditizio.Corse la 1000 Km del Nuerburgring con una Porsche in coppia con Bonnier e finì terzo, vince la 24 ore di Le Mans, corre nel campionato NART con una Ferrari insieme a Masten Gregory, infine con la Ford.Continua anche a correre in F.2 ed ottiene ottimi risultati tanto da diventare un eroe nazionale.

Le stagioni in F.1 con la Cooper furono deludenti a causa della scarsa competitività della vettura.Le soddisfazioni arrivano dalla F.2.nel 1967 vinse nove gare.Ebbe anche un pauroso incidente nel tentativo di qualificare una Eagle ad Indianapolis.

Nel 1968, Jochen, divenne il numero due alla Brabham Repco V-8, ormai giunta alla fine della sua la vita competitiva.Sembrava che Rindt, sbagliasse sempre vettura e molti si chiedevano se mai avrebbe vinto un G.P..Fra questi c'era Denis Jenkinson, giornalista celebre, che dichiarò che, se Rindt avesse vinto un Gran Premio, si sarebbe tagliato la sua celebre barba.Jenkinson avrebbe dovuto onorare presto il suo impegno.

Alla fine dell'anno Rindt firma col team Lotus e,come compagno, ha Graham Hill. Il suo primo anno fu segnato per un brutto incidente durante il G.P. di Spagna.Ne uscì con una mascella rotta e una commozione celebrale.Fortunatamente si ristabilisce presto, ma risente di qualche problema alla vista e all'equilibrio per qualche tempo.A Watkins Glen Rindt vince il suo primo G.P. e Jenkinson, si taglia la barba!!. La felicità venne guastata dal grave incidente occorso a G. Hill che si frattura le gambe.

Nel 1970 è il pilota di punta della Lotus che progetta la rivoluzionaria e, in seguito, leggendaria "72".Non viene però utilizzata nelle prime gare ma anche il modello 49c, risulta competitivo e consente a Rindt di conquistare una vittoria a Monaco dopo una rimonta leggendaria ai danni del "vecchio" Brabham.Una gara fantastica con sorpasso all'ultimo giro.Il nuovo modello debutta in Olanda e consente a Rindt di vincere altre quattro gare e di ipotecare il titolo mondiale.Durante il G.P. d'Olanda, muore il suo Amico Courage e molti sono convinti che si ritirerà a fine stagione.Arriva al G.P. d'Italia con un consistente vantaggio in classifica e voleva chiudere il campionato proprio in questa gara.Durante le qualificazioni del Sabato, la Lotus 72 impazzisce alla fine del lungo rettilineo prima della parabolica.La vettura si disintegra contro il guard-rail e Jochen muore sul colpo. 

La perdita di Jochen, alla vigilia della conquista del titolo, sconvolse il mondo delle corse.Jacky Ickx aveva ancora la possibilità di superare i punti totali di Rindt ma la vittoria di Emerson Fittipaldi, su Lotus 72, al G.P. di U.S.A., assicurò il titolo allo sfortunato pilota austriaco. Karl Jochen Rindt diventa campione mondiale postumo.