Второй сын императора Фердинанда III Габсбурга и Марии Анны Испанской. Двоюродный брат французского короля Людовика XIV. Родился в Вене в 1640 году. Воспитывался у иезуитов для принятия духовного сана, но после смерти старшего брата Фердинанда IV в 1654 году объявлен наследником австрийских земель и провозглашен королем Венгрии и Чехии. После смерти отца в 1657 году Леопольда избрали императором Священной Римской империи. Коронация состоялась 18 июля 1658 года.
Время правления Леопольда I характеризуется укреплением императорской власти, продолжительной войной с Турцией за венгерские земли и соперничеством с Францией за доминирование в Европе. В 1683 году с осады Вены турецкой армией началась Великая Турецкая война. На помощь Габсбургам пришли войска польского короля Яна Собеского, разгромившие турок. Это поражение положило конец продвижению Турции в Центральной Европе. В 1684 году против Турции под эгидой Габсбургов была создана Священная Лига в составе Австрии, Речи Посполитой и Венецианской республики. В 1686 году в антитурецкий союз удалось вовлечь и Русское царство, подписавшее «Вечный мир» с Польшей. Благодаря совместным действиям союзников Священная Римская империя разгромила Турцию и по решению Карловицкого конгресса 1699 года получила большую часть Венгрии, Трансильванию, Хорватию и Славонию.
Знаменитые Азовские походы 1695–1696 годов Петр I предпринял в рамках Великой Турецкой войны. По личной просьбе русского монарха Леопольд I прислал под Азов одного из лучших австрийских инженеров Эрнста фон Боргсдорфа. После взятия Азова Боргсдорф работал над укреплением южных русских рубежей, оказав большое влияние на развитие отечественного фортификационного искусства, и положил начало военно-инженерной литературе в России.
Знания и навыки иностранных военных специалистов поразили Петра I, который решил лично отправиться в Европу для обучения прикладным наукам. Изначально маршрут Великого посольства пролегал через немецкие земли в Австрию. Однако после избрания на польским трон саксонского курфюрста Фридриха Августа I, ставленника Леопольда I, русский царь решил повременить с посещением Вены и отправился в Нидерланды. В австрийскую столицу Великое посольство прибыло только в июне 1698 года. 6 июля состоялась частная встреча Петра I с Леопольдом I, в ходе которой русскому правителю удалось произвести хорошее впечатление на императора и его придворных. 21 июля состоялся бал-маскарад, устроенный венской знатью в честь высокого гостя из России. Уже более 20 лет, в связи с Турецкой войной, подобные мероприятия не проводились. Император с императрицей играли роль шутов, а русского монарха представили как «капитана корабля из Фрисландии».
Несмотря на пышный прием Великого посольства в Вене, своих изначальных целей оно не достигло. Леопольд I, одержавший блестящую победу над турками в 1697 году, уже стремился к признанию всех завоеваний и миру с Турцией. В то время его больше беспокоила грядущая война с Францией за испанское наследство. Император дал понять Петру I, что Австрия продолжать войну с турками не намерена и новой антитурецкой коалиции не будет. По этой причине государь обратил свой взор на Балтику как на будущий плацдарм для наступления.
В 1701 году Леопольд I начал войну против Франции, рассчитывая добиться испанской короны для своего сына эрцгерцога Карла. В то время испанским королем стал Филипп Анжуйский, внук французского короля Людовика XIV. Вскоре к Леопольду I присоединилось большинство европейских правителей и государств, недовольных политикой Франции. В 1705 году, когда война была в самом разгаре, император скончался.
Леопольд I имел неприятную наружность и невысокий рост. Он редко выезжал за пределы своих австрийских владений. Покровительствовал наукам и искусствам, основав университеты в Инсбруке, Ольмютце и Бреслау. В 1677 году утвердил создание академии естествоиспытателей, названной в его честь «Леопольдина». Любил музыку и сам сочинял ее, выступая в качестве композитора.