Родился Мстислав Леопольдович в Баку. Всей своей (и родителей) жизнью связан с Оренбургом. В начале Отечественной войны семья Ростроповичей приехала в Оренбург, где поселилась в доме крестной матери Мстислава учительницы Е. А. Лонткевич. Родители устроились на работу в музыкальное училище. Леопольд Витольдович подрабатывал также игрой в кинотеатре. 31 июля 1942 г. он умер от сердечного приступа, и это явилось переломным моментом в судьбе 15-летнего паренька, которому пришлось стать главой семьи. Он заменил отца на преподавательской работе, стал артистом концертно-эстрадного бюро, с артистическими бригадами объездил всю область.
В 1943 г. семья вернулась в Москву. В 16 лет поступил в Московскую консерваторию в класс виолончелиста Семена Козолупова. Началась его блестящая карьера музыканта: победа на всесоюзном конкурсе, первые призы на молодежных фестивалях, первый приз на международном конкурсе виолончелистов в Праге (1950). Он получил звания заслуженного и народного артиста, стал лауреатом Сталинской и Ленинской премий.
В 1955 году, спустя четыре дня после знакомства на фестивале "Пражская весна" с известной оперной певицей Г. П. Вишневской, фактически стали мужем и женой.
Но с 1969 г., когда он и Г. Вишневская, приютили у себя на даче Александра Солженицына, начались гонения со стороны властей. В 1974 г. семья была вынуждена временно уехать за границу. В 1978 г. они были лишены советского гражданства.
В 1990 г. М. Горбачев издал указ об аннулировании Постановлений Президиума Верховного Совета о лишении их гражданства и о восстановлении снятых почетных званий. Многие страны предлагали Ростроповичу взять их гражданство.
Известен и своей благотворительной деятельностью: президент «Благотворительного фонда Вишневской - Ростроповича», который оказывает помощь детским лечебным учреждениям Российской Федерации. В 2000 г. фонд стал проводить в России программу по детской вакцинопрофилактике. Основатель фонда помощи молодым музыкантам в Германии, фонда для талантливых детей в России.).
Национальная академия звукозаписи США в феврале 2003 г. наградила его музыкальной премией «Грэмми» «за экстраординарную карьеру виолончелиста и дирижера, за жизнь в записях». Его называют «Гагариным виолончели» и «маэстро Славой».
В 1997 г. Оренбургское музыкальное училища преобразовано в Оренбургский государственный институт искусств им. Леопольда и Мстислава Ростроповичей.
14 ноября 2001 г. в своем частном доме по улице Зиминской, 25 был торжественно открыт Оренбургский дом-музей Ростроповичей. В 1960 г. дом был приобретен у крестной матери Мстислава Ростроповича Елены Адольфовны Лонткевич вместе с мебелью, домашней утварью, мастерскими, амбарами и каретной.
Летом 2006 г. Мстислав Леопольдович тяжело заболел: в феврале и в апреле 2007 года он перенёс две операции в связи со злокачественной опухолью печени. Мстислав Леопольдович скончался 27 апреля 2007 года. Похоронен в Москве, на Новодевичьем кладбише.