Будущий пианист родился в еврейской семье в Одессе. В детстве он очень любил играть на фортепиано, пока родителей не было дома. Когда закончилась гражданская война, укрепилась власть Советов, пятилетнего Эмиля повели к известному педагогу Якову Ткачу, который согласился учить мальчика. Восемь лет Эмиль учился у Ткача, регулярно повторяя технические упражнения, которые надоедали Гилельсу, но он не очень крутил носом, так как денег у семьи не было, а музыкантом он хотел быть. Спустя восемь лет занятий у Ткача, Эмиль сыграл первый сольный концерт. Он смело исполнил Патетическую сонату Бетховена, удивив всех присутствующих на концерте.
В 1930 году Эмиль поступил в Одесскую консерваторию. Его новый учитель, Берта Рейнгбальд, сразу ощутила, что общее развитие у мальчика слабое, потому Гилельс долго и упорно трудился. Конечно, основным предметом для него оставалась музыка, но профессор Рейнгбальд понимала, что недостаток образования может сковать творческий потенциал молодого Гилельса в будущем. Он стал больше читать, посещал оперные спектакли, анализировал музыку, которую слышал. Он завел много полезных знакомств. Поскольку семейство Гилельсов нуждалось материально, Эмиль не брезговал выступать на развлекательных вечерах. К 1931 году материальное положение стабилизировалось, ведь Эмиль получил персональную стипендию правительства украинской ССР.
Гилельс готовился к участию в первом Всесоюзном конкурсе музыкантов-исполнителей. В 1933 году он выдвинулся в Москву, совсем не рассчитывая, что эта поездка изменит всю его жизнь. Он играл «Свадьбу Фигаро» Моцарта. Как только он закончил, зрители вскочили со своих мест и начали аплодировать, причем ему аплодировали и восхищенные члены жюри. Первое место в конкурсе молодому человеку присудили единогласно. Гилельс стал знаменитым буквально за несколько часов.
Надо сказать, что постепенно открывались и его недостатки. Например, излишняя романтичность, граничащая с ветреностью. Когда он приехал в Ленинград, то забывал обо всем на свете, гуляя по Северной Пальмире, любуясь дворцами, мостами. Для того чтобы он занялся музыкой, его отвезли в зал на Невском и заперли там, чтобы он не отвлекался. Эмилю было сложно работать таким образом. Он заучивал произведения механически, что сказывалось на игре. Эмиля начали критиковать, а затем он и вовсе удивил всех, сказав, что на целый год прекращает выступления и едет в Одессу, где хочет спокойно поработать.
6-7 часов в день Гилельс проводил за музыкальным инструментом. Закончив консерваторию в Одессе, он вернулся в Москву, где поступил в аспирантуру столичной консерватории к Генриху Нейгаузу. Игра Эмиля стала более глубокой и серьезной. Он удивил всех в Большом зале Московской консерватории, сыграв Вторую сонату Шопена. Гилельс принимал участие в Венском и Брюссельском конкурсах. В последнем ему было очень трудно, так как надо было выучить совершенно новый концерт из трех частей за неделю. Упорный труд принес свои плоды. Гилельсу присудили первую премию, он стал европейской звездой, хотя пианисту было лишь 22 года.
Закончив аспирантуру, молодой человек преподавал в консерватории. Он мечтал исполнять концерты без дирижера, ведя оркестр за собой. Пробный такой концерт состоялся в Тбилиси. К сожалению, в дальнейшем Гилельс не экспериментировал с этим, лишь через двадцать лет такой вариант проведения концерта стали использовать Давид Ойстрах, Вэн КЛайберн. Во время Второй мировой войны Эмиль и его приятели записались в народное ополчение. Гилельс давал концерты в воинских частях. В 1943 году он выступал в осажденном Ленинграде.
После войны Гилельс гастролировал во многих странах: в Японии, в Канаде, США, Мексике. В Лондоне он произвел фурор после игры «Аппассионаты». У Гилельса был блестящий дар прочтения музыкальных произведений, их понимания, трактовки. Гилельс удостоился множества наград, а его популярность во всем мире была вполне обоснована. Великий пианист скончался в 1985 году.