В 1940 году окончил оперно-драматическую студию имени К. С. Станиславского. По окончании студии в 1941 году был принят в Московский драматический театр имени К. С. Станиславского.

 

Во время войны ушёл на фронт добровольцем. После войны Глебов вновь вступил в труппу театра и прослужил в нем более двадцати лет. Являясь одним из ведущих актеров, участвовал в спектаклях «Три сестры», «Дни Турбиных», «Салемские ведьмы» и других.

Исполнил эпизодические роли в фильмах: «Любимая девушка» Ивана Пырьева (1940), «Мечта» Михаила Ромма (1941), «Поезд идет на восток» Юлия Райзмана (1947), «Убийство на улице Данте» Ромма (1956). 

Самой значительной работой Петра Глебова в кино стала роль Григория Мелехова в экранизации романа Михаила Шолохова «Тихий Дон», созданной режиссером Сергеем Герасимовым в 1957—1958 годах. 

Петр Глебов продолжал работать в кино до середины 90-х годов. Актера не стало 17 апреля 2000 года.