Zloglasno tajno službo je vodil med letoma 1952 in 1986, v tem času pa ga niso nikoli fotografirali. Wolf je bil vodja glavne uprave za preiskovanje, nadzoroval pa je delo več kot 4.000 vohunov. Eden izmed njegovih vohunov je postal celo eden glavnih pomočnikov zahodnonemškega kanclerja Willija Brandta in ko so ga odkrili leta 1974 je moral Brandt odstopiti.

Po padcu berlinskega zidu je bil Wolf zaradi vohunstva in izdaj obsojen na šest let zapora, a je višje sodišče sodbo razveljavilo.