Romanen begynder i 1944, nazidiktaturets næstsidste år i Tyskland, og slutter med de sidste dage i Berlin, hvor de allierede bomber hovedstaden sønder og sammen, og Hitler tager sit liv i Førerbunkeren. Vi følger to personer, som begge er regimets mænd, men også gør deres eget oprør.
Ruprecht Haas bliver meldt til SS, efter at han har været for åbenmundet en nytårsaften og ender i koncentrationslejren Buchenwald. Han undslipper under et luftbombardement og tager mod Berlin for at slå dem ihjel, der har stukket ham.
Hans-Wilhelm Kalterer er jurist i politiet, men melder sig til fronten for at gøre karriere. Han såres og sendes hjem, hvor han bliver sat i gang med at finde ud af, hvem der har myrdet et meget fremtrædende medlem af nazipartiet. De to mænds veje krydses i en vanvittig spændende, jagt, mens de sovjettiske tropper indtager byen, og flygtningene strømmer væk i uendelige kolonner.
'Den der bliver tilbage har ret' har fået de to vigtigste krimipriser i Tyskland, Deutscher Krimi Preis og Friedrich-Glauser-Preis.