Москве в семье типографского рабочего. Его отец, Иван Жаров —
подкидыш, воспитывался в Николаевском приюте и свою фамилию получил от своей наставницы. Мать, Анна Семеновна Дроздова, происходила из семьи бывших крепостных крестьян Смоленской губернии. В 1913 году отец устроил Михаила учеником наборщика в типографию, где работал сам.С 1915 года Жаров — администратор и помощник режиссёра в труппе Оперного театра Зимина. Там же ему впервые начали доверять роли статистов. В 1918 году поступил в студию при Театре ХПСРО (педагоги А. П. Зонов иВ. М. Бебутов) и в том же году дебютировал на сцене театра, сыграв Шута в комедии У. Шекспира «Виндзорские проказницы». По окончании студии в 1920 году недолгое время служил в Опытно-героическом театре, затем — в Первом передвижном фронтовом театре.