Автоматика работает по схеме использования отдачи при коротком ходе ствола. Запирание канала ствола осуществляется при помощи качающейся в вертикальной плоскости боевой личинки. Личинка, взаимодействуя с рамой пистолета, опускается вниз, освобождая затвор-кожух. Далее ствол с личинкой останавливаются в крайнем заднем положении, в то время, как затвор-кожух продолжает свой откат, экстрактируя стрелянную гильзу, а затем досылая следующий патрон в патронник при обратном движении вперед. В раме пистолета расположены две возвратные пружины. УСМ куркового типа, двойного действия, с отбоем и предохранительным взводом курка. Усилие спуска при стрельбе с предварительно взведенным курком составляет 2,5 кг., при стрельбе самовзводом – 6,5 кг. Флажковый предохранитель, рычаг которого расположен на левой стороне затвора-кожуха, блокирует ударник и одновременно безопасно спускает курок с боевого взвода. Ствол наполовину выступает из короткого затвора-кожуха открытого типа. Рычаг затворной задержки размещен с левой стороны рамы, а перед ним, на той же стороне, находится фиксатор ствола, используемый при разборке пистолета.
Оружие снабжено указателем наличия патрона в патроннике, по конструкции аналогичным таковому у пистолета PP. Однорядный магазин, емкостью восемь патронов, крепится в рукоятке, расположенной снизу защелкой. Пластиковые щечки рукоятки поначалу имели мелкую ромбовидную насечку и черный цвет, но во время войны их начали производить из особой пластмассы – бакелита, имевшего коричневый цвет. Такие щечки получили крупную насечку в виде широких горизонтальных канавок. В P.38 использовались два вида защитного покрытия – фосфатирование и оксидирование. В начале использовалась дорогостоящая полировка с последующим оксидированием, но такую обработку поверхности вскоре заменили более дешевой к концу 1941 г. Во время войны фосфатированные пистолеты имели серый или светло-серый цвет, а оружие послевоенного выпуска – темно-серый. Поверхность стальных деталей пистолетов, прошедших заводской ремонт с нанесением нового покрытия, обрабатывалась оксидированием, после чего оружие имело черный цвет.
Боевое применение P.38 показало эффективность стрельбы, достаточно высокую надежность работы, высокую степень безопасности в обращении и хорошую точность стрельбы. Это оружие использовалось всеми воевавшими сторонами, и впоследствии P.38 был признан многими специалистами лучшим военным пистолетом Второй мировой. У офицеров и солдат этот выдающийся пистолет зарекомендовал себя как простое в использовании и эксплуатации, прочное, надежное и точное оружие. Его преимуществами являлось отличное для своего времени сочетание боевых и служебно-эксплуатационных качеств. Оружие было безопасно в заряженном состоянии, владелец мог открыть огонь в любой момент или определить на ощупь заряжен ли пистолет. Но, несмотря на традиционнее, для немецкого оружия, высокое качество изготовления и другие положительные качества, P.38 все же имел несколько довольно существенных недостатков, из-за которых он не стал копироваться другими производителями в своем изначальном виде. Так же как и высокое качество, немецкому оружию свойственна и усложненность, что проявилось и в P.38. В пистолете много пружин, стоит лишь вспомнить две возвратные, не говоря об остальных – всего 11 против 7 у пистолета Парабеллум. Механизм запирания, хотя и обеспечивает прямолинейное движение ствола при откате, отличается громоздкостью и достаточно сложен в производстве. П.38 имеет избыточную толщину для пистолета с однорядным магазином. УСМ довольно сложный по устройству и отличается значительным усилием спускового крючка при стрельбе самовзводом.
Предохранитель надежно защищал владельца пистолета от случайных выстрелов при ношении оружия. Однако практика показала, что флажковый предохранитель наряду с положительными качествами имеет и большой недостаток. Известны неоднократные случаи, когда в бою, в стрессовой ситуации, стрелок забывал выключить предохранитель, о последствиях чего говорить излишне. Высокой точности в изготовлении требует и ударно-спусковой механизм, заимствованный у пистолетов PP. При производстве деталей УСМ требовалось уделять особое внимание качеству используемой стали и ее термообработке. Восьми патронов в однорядном магазине по современным стандартам и требованиям к боевому пистолету, слишком мало. Вдобавок оружие имеет большую ширину, препятствующую скрытому ношению. Однако все эти недостатки не помешали пистолету стать одним из самых популярных у солдат всех воевавших армий и желанным трофеем. Всего за годы войны было выпущено 1180000 пистолетов этой модели.