Né dans un milieu défavorisé, Johnson devient tailleur puis conseiller municipal et maire de Greeneville avant d'être élu à la Chambre des représentants du Tennessee en 1835. Après un bref mandat au Sénat du Tennessee, Johnson est élu à la Chambre des représentants des États-Unis en 1843 où il siège pendant dix ans. Il devient ensuite gouverneur pendant quatre ans et est élu par la législature de l'État au Sénat des États-Unis en 1857. Durant ses années au Congrès, il défend la Homestead Bill qui est adoptée peu après son départ du Sénat en 1862.
Lorsque les États du Sud, dont le Tennessee, font sécession pour former les États confédérés d'Amérique, Johnson reste un défenseur fervent de l'Union. En 1862, Lincoln le nomme gouverneur militaire du Tennessee dont une grande partie est reprise. En tant que démocrate partisan de la guerre et Sudiste et opposé à la sécession, Johnson est le candidat logique pour devenir le colistier de Lincoln. Il est choisi et son camp remporte largement l'élection présidentielle de 1864. Johnson prête le serment de vice-président le 4 mars 1865 et six semaines plus tard, l'assassinat de Lincoln le propulse à la présidence.
Dans le cadre de la Reconstruction, Johnson veut réintégrer rapidement les États du Sud dans l'Union et il les autorisa à organiser des conventions et des élections pour reformer des gouvernements civils. Les électeurs sudistes réélisent cependant beaucoup d'anciens dirigeants confédérés et votent en faveur des Black Codes qui privent les Afro-Américains d'un grand nombre de leurs droits civiques. Le Congrès refuse d'accueillir les représentants du Sud et adopte des législations pour annuler leurs décisions. Dans ce qui devint la règle jusqu'à la fin de son mandat, Johnson pose son veto aux lois mais le Congrès passe outre. Johnson s'oppose en particulier au 14e amendement de la Constitution accordant la citoyenneté aux Afro-Américains. Alors que les relations entre les branches exécutive et législative se tendent, le Congrès vote le Tenure of Office Act qui limite la capacité de Johnson à limoger les membres de son Cabinet. Lorsque'il persiste à vouloir renvoyer le secrétaire à la MarineEdwin M. Stanton, la Chambre des représentants lance une procédure de destitution qui échoue à une voix près au Sénat.
Après la fin de son mandat, il retourne au Tennessee avant de devenir le seul ancien président à être élu au Sénat en 1875 où il siège quelques mois avant sa mort. Même si les évaluations de sa présidence varient au cours du temps, il est actuellement considéré comme l'un des pires présidents américains du fait de son opposition à des droits garantis au niveau fédéral pour les Afro-Américains.