Будущий актер родился в Москве. С детства увлекался рисованием и музыкой, а также посещал кружок актерского мастерства. Своим главным наставником Жарков считает преподавателя художественной речи из Дома пионеров Ивана Елягина, известного также под прозвищем Человек в пенсне. Несмотря на то, что позже учителями жаркова были Алексей Грибов, Софья Пилявская, Алла Тарасова, Михаил Яншин, актер вспоминает мастера добрым словом и по сей день.
В 1960-м двенадцатилетний Леша Жарков читал «Гармонь» Твардовского в Колонном зале Дома союзов, аккомпанируя себе на баяне. Эксцентричного мальчугана заметил режиссер Марк Донской и пригласил его на роль Пети в фильм «Здравствуйте, дети!». Спустя 8 лет жарков снялся у Донского в картине «Такой большой мальчик».
Жаркова стали замечать после того, как в конце 70-х он снялся в эпической ленте Киры Муратовой «Познавая белый свет». Однако подлинную известность Жаркову принесли роли в фильмах Семена Арановича «Торпедоносцы» (1983) и Алексея Германа «Мой друг Иван Лапшин». Кроме того, зрители любят Алексея Жаркова за роль одумавшегося грузчика-алкоголика в картине Вадима Абдрашитова «Парад планет».
В арсенале Алексея Жаркова около ста ролей. Последний раз он появился на экране в 2009-м году в «Палате №6». Поклонники актера недоумевали, почему он так долго не снимается, и накануне юбилея всплыла печальная правда. Журналисты «Экспресс-газеты», пытаясь поздравить любимца публики, дозвонились до него. Однако обычно вежливый и словоохотливый актер говорил очень медленно, как бы нехотя и быстро свернул разговор.
Коллеги Жаркова пролили свет на причины столь странного его поведения. Брат Алексея Жаркова Александр рассказал «ЭГ»: «Алексей сейчас себя не очень хорошо чувствует. И еще самое главное, чтобы творческие традиции нашей семьи не прерывались. Мы с детства с Лешей занимались в кружке художественного слова. Наши замечательные родители - папа-плотник, мама-бухгалтер - вырастили четверых детей, и все мы трудились в сфере искусства: брат Анатолий окончил Институт культуры, был режиссером, а потом стал преподавать, сестра Антонина выучилась на художника-гримера, работала в Театре Маяковского. Конечно, у всех профессий есть свои отклонения. К примеру, мой знаменитый брат в свое время пил. У каждого свои слабости...».
Более подробную информацию о болезни Алексея Жаркова дала его бывшая однокурсница по Школе-студии МХАТ Елена Перова: «После инсульта у Леши отказали ноги, нам, однокашникам, надо объединиться и, чем можем, помочь ему. Пока, думаю, во всем семья помогает, у него крепкий тыл».