Герхард Херцберг родился в Гамбурге, Германия, 25 декабря 1904 года. Его отцом был Альбин Херцберг, а матерью Элла Бибер. У Герхарда также был старший брат по имени Вальтер. Ранняя жизнь ученого была очень сложной, так как отец умер в 1915 году, а матери пришлось иммигрировать в Америку в 1922 году, чтобы работать там экономкой. Герхард посещал среднюю школу во Франкфурте с 1915 по 1916 год. После этого присоединился к средней школе в Гамбурге в 1924 году. Херцберг получил диплом инженера в 1927 году, а через год получил степень доктора медицины Технологического университета Дармштадта. Он также проводил свои последипломные исследования в Университете Гёттингена в 1928 году под руководством Джеймса Франка и Макса Борна. С 1928 по 1930 год Херцберг проводил масштабные исследования в Университете Бристоля, Англия. В 1929 году он стал первым ученым, который дал точное объяснение химической связи, которая происходит на уровне электронов.
Герхард Херцберг вернулся в Германию и начал работу в Технологическом университете Дармштадта в качестве преподавателя в 1930 году, проработав там до 1935 года. Затем он покинул Германию и переехал в Канаду. В Университете Саскачевана, Канада Херцберг стал профессором физики и преподавал там до 1945 года. В 1941 году им было доказано, что ионы CH+ присутствуют в межзвездных облаках или в газе, занимающем пространство между двумя звездами. Он также обосновал то, что молекулы водорода присутствуют в атмосфере, окружающей разные планеты в 1948 году. Работая в Канаде, с 1948 по 1955 год ученый занимал должность директора физического отдела Национального исследовательского совета Канады. С 1956 по 1957 год занял должность президента Канадской ассоциации физиков и вице-президента Международного союза прикладной физики (с 1957 по 1963 год).
В 1953 году ученый получил «Медаль Генри Маршалла Тори» от «Королевского общества химиков». В 1969 году его наградили званием «Заслуженный исследователь науки». В 1970 году он получил «Медаль Фарадея» от «Химического общества Лондона». Через год Херцбергу вручили Нобелевскую премию по химии. Были опубликованы такие работы ученого: «Атомные спектры и атомная структура» (1937 г.), «Спектры диатомовых молекул» (1939 г.), «Электронные спектры многоатомных молекул» (1966 г.).
Женой Херцберга была Луиза Оттингер, которая работала спектроскопистом. Она имела еврейское происхождение. У пары родилось двое детей: сын по имени Пол Альбин и дочь по имени Агнесс Маргарет. Также ученый женился на Монике Элизабет Тентофф 21 мая 1972 года. Это было уже после того, как его первая жена умерла в 1971 году за несколько месяцев до получения им Нобелевской премии. Во втором браке у него родилась дочь по имени Луиза. Герхард Херцберг умер от болезни в Оттаве, Онтарио, Канада, 3 марта 1999 года.