С 1900 по 1903 год И. Г. Щегловитов последовательно занимал должности вице-директора 1-го департамента Министерства юстиции и члена консультации при министерстве и выслужил чин действительного статского советника. Его познания в области уголовного права и судопроизводства были настолько обширны и основательны, что он по праву считался лучшим криминалистом России. Большую организаторскую работу он провел по подготовке конгресса криминалистов в Петербурге в 1902 году. С этой целью побывал в Париже, где внимательно ознакомился с деятельностью центрального союза криминалистов.
Современники отмечали, что в те годы И. Г. Щегловитов «чтил Судебные уставы и возражал против нажима на суд», «не чужд был и свободолюбивых речей2.
6 апреля 1903 года Иван Григорьевич занял высокий пост обер-прокурора уголовного кассационного департамента Правительствующего сената. Ему приходилось давать заключения по самым разнообразным делам, причем их содержательная сторона всегда отличалась высоким профессионализмом, основательностью и глубиной, что отмечал даже такой требовательный юрист, как А. Ф. Кони. Анатолию Федоровичу, например, очень понравилось заключение И. Г. Щегловитова по делу Семенова, в котором обер-прокурор убедительно разъяснил, что в уголовном процессе слова «виновен» и «совершил» — не синонимы.
Будучи обер-прокурором Правительствующего сената, И. Г. Щегловитов выполнил ряд поручений первостепенной важности, чем обратил на себя внимание высочайшего двора. Ему доверили выполнять прокурорские обязанности в Особом присутствии Правительствующего сената по «Делу о злодеянии, жертвой коего пал великий князь Сергей Александрович». Слушалось дело 5 апреля 1905 года. И. Г. Щегловитов сам поддерживал обвинение. Каляева приговорили к смертной казни через повешение.
Щегловитов одним из первых в России понял всю ценность судебной фотографии для расследования преступлений. Он дал не только научное обоснование судебной фотографии, но и многое сделал для ее практического применения, образовав судебно-фотографическую лабораторию при прокуроре Санкт-Петербургской судебной палаты. С 1903 года Иван Григорьевич, в качестве профессора, стал читать лекции в Императорском училище правоведения по теории и практике уголовного судопроизводства и об основных началах судоустройства. На их основе он впоследствии издал двухтомный «Курс русского судоустройства».
Вскоре после окончания дела Каляева И. Г. Щегловитов вернулся на службу в Министерство юстиции. Высочайшим указом от 22 апреля 1905 года его переводят на должность директора 1-го департамента.
Иван Григорьевич с восторгом воспринял известие о подписании государем манифеста от 17 октября 1905 года и искренне приветствовал начавшееся в России преобразование государственного аппарата, созыв I Государственной думы. Однако его отношения с высшими царскими сановниками складывались непросто. Появились явные недоброжелатели. Из них самый опасный и влиятельный — председатель Совета Министров С. Ю. Витте. Сергей Юльевич настолько невзлюбил Щегловитова, что однажды даже просил министра юстиции С. С. Манухина не приглашать того на заседания Совета Министров. По мнению Витте, новый директор департамента высказывал слишком «трафаретные красные идеи». Поэтому, когда 1 февраля 1906 года новый министр юстиции М. Г. Акимов назначил Ивана Григорьевича своим заместителем, Витте очень удивился и поинтересовался у министра, хорошо ли он знает его. Акимов ответил, что не только хорошо знает Щегловитова, но и ценит его как отличного работника.
В апреле 1906 года С. Ю. Витте был отправлен в отставку. Вслед за ним оставили свои посты почти все министры, в том числе и М. Г. Акимов. Место председателя Совета Министров занял И. Л. Горемыкин. 24 апреля 1906 года министром юстиции и генерал-прокурором в новом правительстве стал И. Г. Щегловитов.
Назначение И. Г. Щегловитова министром вызвало неоднозначную реакцию. У одних — сдержанную, у других — откровенно враждебную. Вот что писал впоследствии С. Ю. Витте: «Это — самое ужасное назначение из всех назначений министров после моего ухода, в течение этих последних лет и до настоящего времени. Щегловитов, можно сказать, уничтожил суд».