Михаил Ефремов родился в Москве, в семье советского актера Олега Николаевича Ефремова, основателя театра «Современник», и актрисы кино и театра, народной артистки РСФСР Аллы Борисовны Покровской.
Дед Ефремова Борис Покровский был оперным режиссером, профессором, лауреатом множества премий. Прадед Иван Яковлев - просветителем, писателем и переводчиком. Он создал новый чувашский алфавит.
На сцену Михаил Ефремов впервые вышел в 13 лет – играл в спектакле «Уходя, оглянись!», одноименном фильме и картине «Дни хирурга Мишкина». Известность к нему пришла, когда он снялся в ленте «Когда я стану великаном».
Однако пока Ефремов учился, а позже служил в армии, карьера его несколько затихла. Высшее образование актер получил в Школе-студии МХАТ. Когда он окончил первый курс, призвали в армию. Отслужив, Ефремов окончил обучение и в 1987 году стал руководителем театра-студии «Современник-2», которая спустя несколько лет распалась. После этого Ефремов-младший пришел к отцу, в МХАТ, где проработал восемь лет, до 1999 года.
С 2000 года актер начал много сниматься в кино. На его счету десятки ролей в фильмах и сериалах: "Граница.Таежный роман", "Каменская", "Антикиллер"
С 1995 года – Заслуженный артист РФ.