Физик Штерн появился на свет 17 февраля 1888 года в преуспевающей еврейской семье в Зорау. Город расположен в регионе Верхней Силезии в Польше. На момент рождения Отто его родной город был частью Королевства Пруссии. Отец Отто, Оскар Штерн, был богатым торговцем зерном, ему также принадлежал завод по производству муки. Мать звали Евгения Розенталь. У пары было пятеро детей, среди которых Отто был самым старшим. В 1892 году семья переехала во Вроцлав, Польша, где юношу приняли в гимназию. В этой школе мало внимания уделялось математике и наукам в целом, поэтому Штерн дополнял свое образование, много читая сам. После школы он посещал несколько университетов, а в 1906 году поступил в университет на факультет физической химии. Отто Штерн закончил учебу в 1912 году, получив докторскую степень. В том же году он поступил в Карлов университет в Праге, чтобы учиться у Эйнштейна. В 1915 году Штерн получил высшую академическую квалификацию.
Началась Первая мировая война, Штерн был призван в немецкую армию. К концу войны его назначили военным исследованием в лаборатории Берлинского университета. Там он подружился с Джеймсом Франком и Максом Вольмером, двумя известными экспериментаторами. Вначале Отто продолжал работать над теоретическими проблемами и опубликовал статью о поверхностной энергии твердых тел, но очень скоро почувствовал, что должен представить экспериментальные доказательства проделанной работы. В 1922 году Штерн вместе с Вальтером Герлахом провели свой исторический эксперимент с молекулярными пучками. Их известный эксперимент подтвердил теорию квантования спина, в которой говорилось, что в магнитном поле атомы могут выстраиваться только в нескольких направлениях. В 1923 году Штерн присоединился к Гамбургскому университету как профессор физической химии. Здесь он создал выдающуюся группу, которая провела множество новаторских экспериментов. Так Гамбургский университет стал известным центром атомных, молекулярных и ядерных исследований.
Отто Штерн не был женат. В молодости он любил хорошую жизнь и танцы. Отто также был хорошим теннисистом и имел много друзей. 8 марта 1939 года физик стал гражданином Соединенных Штатов Америки. Последние годы он провел в Беркли, штат Калифорния. Там вел уединенную жизнь, но оставался заинтересованным в новых открытиях в физике и астрофизике. Штерн также регулярно ездил в кино. Ученый умер 17 августа 1969 года в возрасте 81 года в Беркли. У него случился сердечный приступ во время просмотра фильма. Штерн был похоронен на кладбище в Эль Серрито, Калифорния.