Серж Генсбур получил при рождении имя Люсьен. Он появился на свет в семье у русско-еврейских эмигрантов, Иосифа и Ольги, которые переехали в Париж после русской революции. Вместе со своей сестрой Лилиан (они были двойняшки), начал играть на пианино в раннем возрасте. Когда Серж был подростком, Вторая мировая война оказала глубокое влияние на его психологию, и отчуждение, с которым он столкнулся как еврей, очень мучило его. Затем юноша отправился в Лимож, где работал с оркестром и мог отправлять свои доходы в семью. Вскоре все его родственники также переехали в Лимож, используя поддельные документы и удостоверения личности, и жили в уединении. Как только Париж был освобожден от нацистской оккупации, семья вернулась в город. В 1945 году Генсбур увлекся живописью и музыкой.
Не достигнув значительного успеха в живописной карьере, Генсбур в 1954 году начал писать и исполнять песни в различных ночных клубах, особенно в знаменитом клубе «Milord L'Arsoille» в Париже. Именно здесь его увидели певица Мишель Арно и композитор Борис Виан, который распространил слухи о его таланте. Дебютный альбом, выпущенный в 1958 году под названием «Du chant a la une», получил главный приз Академии Чарльза Кросса. Поскольку собственные работы Генсбура пользовались лишь скромными продажами, он оттачивал свои навыки написания песен и начал создавать шедевры для других артистов, включая Жюльетт Греко, Петулу Кларк, Нану Мускури, Франс Галль, Франсуазу Арди. Когда французская молодежь начала играть американский и британский рок-н-ролл в 60-х годах, этот музыкант отошел от джаза, работал над большим количеством рок-мелодий, писал партитуры и снялся в фильме с Рондой Флеминг, в 1960 году. Музыкальная продукция этого потрясающего артиста в 70-х годах представляет собой список очень влиятельных альбомов, включая «Histoire de Melody Nelson», «Rock Around the Bunker» и «L'Homme a tete de chou».
Он женился на Елизавете Левицкой 3 ноября 1951 года и расстался с ней в 1957 году. В 1964 году его супругой стала Франсуаз-Антуанетт Панкрацци, с которой Серж развелся в 1966 году. У них было двое детей: Наташа и Павел. Генсбур также был влюблен в певицу Джейн Биркин, и многие утверждали, что они женаты, однако их дочь Шарлотта опровергла эти заявления. У музыканта также родился сын Люсьен в 1986 году от еще одной женщины, чье сценическое имя было Бамбу. Будучи заядлым курильщиком при жизни, музыкант умер от сердечного приступа во сне. Его похоронили на кладбище Монпарнас в Париже.