В 1897 году И. Г. Щегловитов становится товарищем обер-прокурора уголовного кассационного департамента Правительствующего сената. С 1900 по 1903 год он последовательно занимает должности вице-директора первого департамента Министерства юстиции и члена консультации при министерстве, выслуживает чин действительного статского советника. Его познания в области уголовного права и судопроизводства были настолько обширны и основательны, что он по праву считался лучшим криминалистом России. Иван Григорьевич участвовал в образованной под председательством министра юстиции Н. В. Муравьева Комиссии по пересмотру Судебных уставов, в многочисленных совещаниях по правовым вопросам, разрабатывал законопроекты по переустройству карательных учреждений Сахалина, об отмене ссылки и прочее. Большую организаторскую работу проделал он по подготовке Конгресса криминалистов в Петербурге в 1902 году, с этой целью посетил Париж и внимательно ознакомился там с деятельностью Центрального союза криминалистов.
Современники отмечали, что в те годы Щегловитов "чтил Судебные уставы и возражал против нажима на суд". Именно по его инициативе министр юстиции издал даже циркуляр о праве присяжных заседателей ходатайствовать об облегчении участи осужденных. В молодости Щегловитов "не чужд был и свободолюбивых речей". И. В. Гессен отмечает такой примечательный факт. 15 апреля 1902 года, в день убийства министра внутренних дел Д. С. Сипягина, он был в театре и в одном из антрактов встретил бывшего тогда вице-директором департамента Министерства юстиции Щегловитова. "Поздоровавшись и не выпуская моей руки, — писал Гессен, — он увлек меня в сторону и спросил: "Ну, что скажете?" Я ответил: "Конечно, это ужасно". Не давая мне окончить фразы, он торопливо перебил: "Ужасно, ужасно! Но поделом вору и мука"".
6 апреля 1903 года Щегловитов занял высокий пост обер-прокурора уголовного кассационного департамента Правительствующего сената. Ему приходилось давать заключения по самым разнообразным делам, причем их содержательная часть всегда отличалась высоким профессионализмом, основательностью и глубиной, что отмечал даже такой требовательный юрист как А. Ф. Кони. Последнему, например, очень понравилось заключение Щегловитова по делу Семенова, в котором обер-прокурор убедительно разъяснил, что в уголовном процессе слова "виновен" и "совершил" не синонимы.
Обремененный многочисленными служебными делами, зачастую довольно сложными, требующими напряжения всех сил, Иван Григорьевич продолжал разрабатывать теоретические вопросы уголовного права, судопроизводства и судоустройства. Одна за другой в печати появляются его заметки, статьи и сообщения, многие из которых он выпускает затем отдельными изданиями.
В 1903 году Щегловитов в качестве профессора стал читать лекции в Императорском училище правоведения, сначала по теории и практике уголовного судопроизводства, а позднее — об основных началах судоустройства. По материалам своих лекций он издал двухтомный "Курс русского судоустройства".
Будучи обер-прокурором Правительствующего сената, Щегловитов успешно выполнил ряд ответственных поручений первостепенной важности, чем обратил на себя внимание Высочайшего двора. Ему было доверено выполнение прокурорских обязанностей в Особом присутствии Правительствующего сената по так называемому Делу о злодеянии, жертвой коего пал великий князь Сергей Александрович. Расследованием дела занимался судебный следователь по особо важным делам Московского окружного суда Головня. Наблюдал за производством следствия обер-прокурор Щегловитов. Обвинительный акт был составлен Щегловитовым 23 марта 1905 года. Само событие было изложено так: "4 февраля 1905 года в Москве, в то время, когда его императорское высочество великий князь Сергей Александрович проезжал в карете из Николаевского дворца на Тверскую, на Сенатской площади, на расстоянии 55 шагов от Никольских ворот, неизвестный злоумышленник бросил в карету бомбу. Взрывом Сергей Александрович был убит, а сидевшему на козлах кучеру Андрею Рудинкину, который скончался через несколько дней, были причинены многочисленные тяжкие повреждения".
Неизвестным злоумышленником оказался И. П. Каляев, член Боевой организации партии социалистов-революционеров.
Дело слушалось в Особом присутствии Правительствующего сената 5 апреля 1905 года под председательством П. А. Дейера. Обвинение поддерживал Щегловитов. Подсудимого защищали присяжные поверенные М. А. Мандельштам и В. А. Жданов, произнесший одну из лучших своих речей. В три часа пополудни был вынесен приговор. Каляев осуждался на смертную казнь через повешение. Выслушав приговор, он заявил: "Я счастлив вашим приговором и надеюсь, что вы исполните его надо мною так же открыто и всенародно, как я исполнил приговор партии. Учитесь мужественно смотреть в глаза надвигающейся революции". Казнь состоялась в ночь на 10 мая 1905 года в Шлиссельбургской крепости.