1896 г. в деревне Стрелковка, Калужской губернии, в семье
крестьянина-бедняка. В 1903-1906 гг. учился в церковно-приходской школе, которую окончил с похвальным листом. В 1907 г. был отдан обучаться ремеслу в Москву и в 1913 г. стал мастером-скорняком.В 1915 г. Жуков был призван в армию в кавалерию. Участвовал в Первой мировой войне. К лету 1916 г. стал унтер-офицером. За проявленный героизм на Юго-Западном фронте был награжден двумя Георгиевскими крестами. В 1917 г. был избран председателем эскадронного солдатского комитета.
После демобилизации и болезни Жуков в октябре 1918 г. добровольцем вступил в Красную Армию. В ее составе участвовал в Гражданской войне 1918-20 гг. Жуков сражался против войск А.И.Деникина и П.Н.Врангеля, участвовал в разгроме восстания крестьян в Тамбовской губернии, за что был награжден орденом Красного Знамени. Решительный и храбрый кавалерист из рядового стал командиром взвода, а затем и кавалерийского эскадрона. Во время Гражданской войны вступил в ряды РКП(б).