Родился в небогатой еврейской семье, был восьмым из двенадцати детей. Сын эмигранта из России, рабочего швейной фабрики. На кларнете научился играть в 10 лет. Брал частные уроки музыки. В 1925, поступив в оркестр Б. Поллака, выступал с ним в Калифорнии, Чикаго и Нью-Йорке (вместе с Гленном Миллером, Дж. Макпартлэндом, Джеком Тигарденом). В декабре 1926 впервые записался на пластинки. В 1929 участвовал в постановке мюзиклов Джорджа Гершвина в нью-йоркских театрах. В это же время начал заниматься аранжировкой и композицией.
В дальнейшем развернул активную деятельность в качестве свободного художника в многочисленных театральных и танцевальных оркестрах, на радио и студиях звукозаписи, сотрудничал с джазовыми коллективами и отдельными музыкантами.
В 1931 организовал театральный оркестр, участвовавший в ревю Free For All (всего состоялось 15 представлений), потом работал в мюзик-холле на Бродвее. В конце 1933 - начале 1934 по предложению продюсера и менеджера Джона Хэммонда записал крупную серию пластинок и для этой цели привлек несколько талантливых негритянских музыкантов, сделала несколько записей с Билли Холидей. В 1934 Гудмен и его брат Гарри (тоже музыкант) создали свинговый биг-бэнд, получивший спустя два года мировую известность. Именно с ним связаны кульминационный пик расцвета оркестрового свинга и титул Гудмена - "король свинга", которого он был удостоен прессой и поклонниками. В том же году гудменовский биг-бэнд принял участие в серии музыкальных радиопрограмм "Let's Dance" ("Потанцуем"), финансировать которую взялась крупная бисквитная фирма. Название радиосериалу дала одноименная музыкальная пьеса, служившая своеобразной музыкальной заставкой оркестра Гудмена. Для широких масс слушателей она стала символом свинга. Сам термин "свинг" впервые вошел в массовый обиход в связи с этими концертами, он использовался ведущими вместо термина "джаз". Концерты давались каждую субботу и продолжались с 11 часов утра до 2-х часов ночи; 53 радиостанции транслировали их на всю страну. "Стартовым капиталом" оркестра Гудмена стали 36 готовых аранжировок, написанных Ф. Хендерсоном. Воздействие этой музыки на белую публику в изысканно-элегантной гудменовской интерпретации было ошеломляющим. Негритянские оркестры, существовавшие еще с середины 1920-х годов, не могли конкурировать (особенно в период экономического кризиса) с многочисленными коммерческими свинг-бэндами белых, и широкие массы не знали их.
Записи его комбо (в которых он предоставил негритянским солистам ведущие роли) нередко признаются даже более удачными и интересными, чем биг-бэндовые образцы, с точки зрения джазовой специфики и качества свинга. Представляют интерес и его опыты использования комбо не только как самостоятельного импровизирующего ансамбля, но и в сочетании с биг-бэндовым окружением. Одним из первых Гудмен ввел в малый ансамбль вибрафон в амплуа ведущего солирующего инструмента (1936), а несколько позднее - электрогитару (1939). С именем Гудмена связаны и первые филармонические концерты джаза, начало которым положил знаменательный концерт в нью-йоркском Карнеги-Холле в 1938, ранние эксперименты в области свинговой стилизации музыки барокко (датой рождения барок-джаза считается 1937, когда состоялось исполнение джазовыми музыкантами Двойного концерта d-moll Баха). Как кларнетист Гудмен оказал влияние на многих музыкантов диксиленда, свинга и модерн-джаза. Он воспитал целую плеяду "звезд", видных руководителей оркестров, аранжировщиков и композиторов. Известен и как профессиональный музыкальный педагог (с 1940-х годов - руководитель класса кларнета в институте Джульярда). В 1941 опубликовал школу игры на кларнете. Кроме того, написал книгу "The Kingdom of Swing" ("Королевство свинга", совместно с Ирвингом Колодиным, 1939). Автор многочисленных музыкальных произведений, в том числе Lullaby In Rhythm, Don't Be That Way (с Эдгаром Сэмпсоном), Flyin' Home (с Л. Хэмптоном), Soft Winds, Air Mail Special, и др.