Он родился в Казани. Семья много путешествовала, так как отец актера был радистом. Когда Леониду Алексеевичу исполнилось семь, его родители развелись. Мальчик уехал вместе с мамой в Ашхабад, где впоследствии в местной прессе появились его первые публикации.
Закончив школу, Филатов приехал в Москву. Он собирался поступать на режиссерский факультет ВГИКа, однако судьба распорядилась иначе. Туда юноша не попал, зато успешно сдал все экзамены на актерском факультете Щукинского училища. Так, в 1965 году Филатов был принят на курс Львовой и Шихматова. Он окончил училище через четыре года, после чего поступает на службу в Московский театр на Таганке.
В этом театре Филатов сыграл множество ролей. Он принимал участие в таких спектаклях, как «Мастер и Маргарита», «Вишнёвый сад», «Дом на набережной», «Пристегните ремни», «Пугачёв», «Антимиры», «Товарищ, верь», «Гамлет», «Павшие и живые».
С 1970-х начинается кинематографическая карьера Филатова. Он снимается в таких картинах, как «Город первой любви», «Экипаж», «Женщины шутят всерьёз», «Грачи», «Успех», «Чичерин», «Забытая мелодия для флейты», «Город Зеро», «Благотворительный бал».
Девяностые и нулевые ознаменовались для актера началом его работы на телевидении. С 1995 года в течение восьми лет он вел передачу «Чтобы помнили», посвящённую незаслуженно забытым, хотя и известным в прошлом артистам, ушедшим из жизни.
В 1993 году Филатов совместно с другими актерами создает творческое объединение «Содружество актёров Таганки». В это же время у популярного артиста случается инсульт. Через два года Филатову удалили обе почки. Еще через два года актеру пересадили почку от донора.
В октябре 2003 года Филатов простудился, у актёра началось двустороннее воспаление лёгких. 16 октября он попал в реанимацию. А через 10 дней после этого скончался. Его похоронили на Ваганьковском кладбище.