Хабиаримана родился 8 марта 1937 года в Руанде в аристократической семье хуту. Он изучал гуманитарные науки и математику в колледже Святого Павла, прежде чем принять решение изучать медицину в университете в нынешней Демократической Республике Конго. После возвращения из Конго, начал обучение в Национальной гвардии в Кигали и в 1960 году поступил в военную школу. Во время военной подготовки он зарекомендовал себя как выдающийся курсант, а также имел хорошую подготовку как парашютист. Жювеналь стал одним из первых офицеров Национальной гвардии и получил звание второго лейтенанта в декабре 1961 года.
Он стал начальником штаба в 1963 году, занимал должность в течение следующих двух лет. Затем поступил на государственную службу в 1965 году в качестве министра обороны и начальника штаба полиции. Хабиаримана совершил переворот в июле 1973 года и сверг президента Грегуара Кайибанду, обвинив его в том, что он не предпринял адекватных шагов по прекращению племенных и региональных конфликтов, вытеснив правящую партию Пармехуту. Затем Жювеналь занял пост президента Руанды 5 июля 1973 года. В 1978 году его избрали на пятилетний срок в качестве президента; он был единственным кандидатом на этот пост. Первоначальные годы его президентства были отмечены значительным развитием и экономическим прогрессом. Им была завоевана благосклонность как этнических групп хуту, так и тутси из-за его, казалось бы, беспристрастной политики. Но со временем граждане стали недовольны его управлением. В 1980 году была предпринята попытка государственного переворота, чтобы свергнуть этого диктатора, но она оказалась неудачной. К этому времени на него было оказано значительное давление со стороны западного мира, который критиковал его диктаторское правление.
Президент был женат на Агате Хабариману, чья семья была хорошо связана с влиятельными политиками хуту. Считалось, что его жена сыграла очень важную роль в политической карьер лидера. У пары было восемь детей. 6 апреля 1994 года политик летал на самолете с президентом Бурунди Сиприеном Нтарьямирой из международного аэропорта Дар-эс-Салама в Танзании в международный аэропорт Бужумбуры в Бурунди. Ракета «воздух-земля» ударила по одному из крыльев самолета, а вторая ракета врезалась в его хвост, в результате чего самолет вспыхнул в воздухе, а затем врезался в сад президентского дворца. Все 12 пассажиров самолета погибли в результате крушения. Убийство двух африканских президентов привело к руандийскому геноциду и Первой конголезской войне, в результате чего было убито примерно 500000-1000000 жителей Руанды, что в последнее время стало самой кровопролитной бойней 20 века.