Ministrem obrany Sovětského svazu byl v letech 1987 až 1991. Maršálem se stal v roce 1990 a po neúspěšném pokusu o převrat ze srpna následujícího roku musel odejít do penze.
Pokus o puč selhal poté, co tisícovky lidí vyjádřily svůj nesouhlas se zastánci tvrdé linie a podpořily směřování k demokracii. V čele demokratizačního hnutí stál pozdější ruský prezident Boris Jelcin a ten v roce 1994 pučisty amnestoval.
Současný prezident Vladimir Putin roku 2004 Jazova vyznamenal řádem, který se uděluje za "výkony v prospěšných sociálních činnostech".
