Родился 13 августа 1905 в Петербурге. Трудовую деятельность начал в 14 лет. В 1920 стал учиться в фабрично-заводском училище, где получил квалификацию электромонтера. Тогда же он вступил в комсомол, по призыву которого некоторое время находился в частях особого назначения (ЧОН). В 1927 П. В. Баранов вначале занял должность заведующего отделом Северо-Западного бюро ЦК ВЛКСМ, а позднее — Ленинградского обкома комсомола. В январе 1931 25-летний Павел Баранов, не имевший юридического образования и каких бы то ни было практических навыков в области права, был направлен на работу в органы прокуратуры и сразу же занял должность прокурора Дновского района Ленинградской области. Вскоре его энергию и напористость по достоинству оценили в прокуратуре Ленинградской области и взяли на работу в аппарат. Так он стал помощником областного прокурора. А еще через два года (в 1934) он был назначен прокурором Кировского района.
Решением ЦК ВКП(б) от 11 сентября 1937 Баранов переводится прокурором Свердловской области. 23 июня 1941, в связи с началом Великой Отечественной войны, П. В. Баранов направляется в действующую армию. В годы военного лихолетья он прошел ряд должностей военного прокурора армии и фронта, закончил войну военным прокурором Северной группы войск.
Весной 1948 новый Генеральный прокурор СССР Г. Н. Сафонов рекомендовал Павла Владимировича на должность заместителя Прокурора РСФСР по общим вопросам. С 21 августа 1948 Павел Владимирович Баранов стал исполнять обязанности Прокурора РСФСР, а 31 декабря был утвержден в этой должности. Прокурором республики прослужил чуть более пяти лет.
В марте 1954 новый Генеральный прокурор СССР Р. А. Руденко вошел с представлением в ЦК КПСС об утверждении государственного советника юстиции 2-го класса П. В. Баранова своим первым заместителем. В здании на Пушкинской улице П. В. Баранов проработал три года. Постановлением Совета Министров СССР от 30 апреля 1957 года (подписал Н. Булганин) он был назначен первым заместителем председателя юридической комиссии при Совмине СССР. В апреле 1961 года он вышел в отставку.
После этого Павел Владимирович никакой номенклатурной должности не занимал. Скончался П. В. Баранов в апреле 1988 года, на 83 году жизни и был похоронен на Кунцевском кладбище.