Nació en Munich en 1900 y participó en la Primera Guerra Mundial. Tras convertirse en uno de los primeros afiliados del partido nazi, consiguió la atención de Adolf Hitler, con quien desarrolló posteriormente una estrecha relación.
Su grado de cercanía con el Führer llevó a que éste lo nombrara en 1929 como jefe de su guardia personal, la temida SS.
Luego de la llegada de los nazis al poder ocupó otro cargo clave: jefe de la policía política, también conocida como la Gestapo.
Los cargos que desempeñó lo encumbraron como una de las figuras más prominentes del tercer Reich.
Cuando la Segunda Guerra Mundial se estaba librando, fue uno de los más implacables perseguidores de los judíos.
En el conflicto, comandó a las fuerzas que combatían en el este, donde hizo intentos para negociar la rendición, por lo que Hitler lo destituyó en 1945.
Su final no difiere del de los grandes jerarcas del régimen, pues se envenenó tras ser capturado por los ingleses.