Макаревич народився 1953 року в Москві. Із дитинства грав на гітарі та фортепіано. 1968 року з однокласниками організував ансамбль The Kids. За рік з’явилася група Time Machines, яка виконувала кавер-версії пісень The Beatles і The Rolling Stones. 1974 року Time Mashines було перейменовано на «Машину времени».
1971 року вступив до Московського архітектурного інституту, за три роки його відрахували, як вважають, через заняття рок-музикою, яку в ті часи засуджували. 1977-го все-таки закінчив вечірнє відділення інституту (отримав диплом художника-графіка й архітектора).
Група «Машина времени» продовжує свою діяльність. За пів століття колектив випустив приблизно 30 альбомів. Макаревич є основним автором текстів, а також композитором і виконавцем значної частини пісень колективу.
У 1980–1990-х Макаревич виступав із сольними бардівськими проєктами. 2001 року він організував проєкт «Оркестр креольського танго», який грає джаз, блюз, боса-нову, румбу, свінг і шансон. Незалежно від «Машины времени» музикант видав ще понад 20 сольних альбомів, серед яких «Песни под гитару», «Старая машина», «Облака», «Идиш Джаз» та інші.
2019 року Макаревич одружився вчетверте – його дружиною стала ізраїльська бізнесвумен Ейнат Кляйн, яка молодша за музиканта на 30 років. Від попередніх стосунків у музиканта є троє дітей: дві дочки та син.