Мать — Калерия Георгиевна Климова. Жена — Лариса Ефимовна Шепитько — известный советский кинорежиссёр. Сын — Антон Элемович Климов (PR-директор)
Э. Г. Климов родился 9 июля 1933 года в Сталинграде (ныне Волгоград). По окончании в 1957 Московского авиационного института работал инженером-конструктором на одном из московских заводов, а также сотрудничал в Молодежной редакции Всесоюзного радио и Центрального телевидения и в Московской филармонии.
В 1964 году закончил режиссёрский факультет ВГИКа (мастерская Е. Л. Дзигана) и начал работать на киностудии «Мосфильм».
Первым полнометражным фильмом Климова была комедия «Добро пожаловать, или Посторонним вход воспрещён» (1964), имевшая большой успех в стране. Однако следующий фильм режиссёра «Похождения зубного врача» (1965) вышел в 1967 г. в ограниченном прокате (78 копий) и был «положен на полку». Повторный выпуск состоялся только в 1987 году. Позднее Климов говорил, что и сам не был доволен этим фильмом.
Также Климов завершил (совм. с Г. Лавровым и М. Хуциевым) неоконченный фильм М. Ромма «И всё-таки я верю».
В 1965 году женился на Ларисе Шепитько.
В конце 1980-х годов намеревался экранизировать роман М.Булгакова «Мастер и Маргарита», для которого совместно с братом Германом написал сценарий — однако, этот замысел так и остался невоплощённым.
Э. Г. Климов умер 26 октября 2003 года от инсульта. Похоронен в Москве на Троекуровском кладбище.