Константин Петрович Горшенин родился 28 мая 1907 года в небольшом городе Алатырь Симбирской губернии в семье рабочего-железнодорожника. Его отец всю жизнь трудился на Казанской железной дороге. Начинал с подручного, был слесарем, помощником машиниста, машинистом и наконец занял место дежурного по станции. Он умер в 1931 году. Мать вела домашнее хозяйство.
В 17-летнем возрасте Константин Горшенин, окончив Казанскую железнодорожную школу (девятилетку), стал учащимся индустриального техникума. Через полтора года, оставив учебу, начал работать слесарем в паровозном депо на станции Юдино Казанской железной дороги (Татарская АССР). Он стал одним из организаторов комсомольской ячейки станции, которую сам же и возглавил, а вскоре — освобожденным секретарем местного комитета профсоюза железнодорожников и ответственным секретарем поселкового Совета рабочих и крестьянских депутатов. Через два года его избрали депутатом поселкового Совета, и он вошел также в члены президиума Совета. В 1929 году Константин Горшенин выполнял обязанности заведующего рабочим клубом на той же станции Юдино. Юноша тянулся к знаниям, серьезно увлекался правом, экономикой, философией. Для пополнения своего образования он выбрал Московский институт советского права, только что созданный на базе реорганизованного юридического факультета МГУ. Его он и окончил в 1932 году.
Константин Петрович учился блестяще, получая по всем предметам самые высокие оценки и проявляя особую склонность к научной и преподавательской деятельности. После завершения учебы он был оставлен в аспирантуре при институте. Своей научной специализацией избрал трудовое законодательство. В течение нескольких лет Горшенин усиленно работал над диссертацией по избранной им теме: «Правовое регулирование труда рабочих и служащих за первый год диктатуры пролетариата». Еще до окончания аспирантуры (в 1934 году) К. П. Горшенин стал официально работать в институте, занимая первое время должность заведующего хозяйственно-правовым отделением, а затем — и. о. заместителя директора по научной и учебной работе. В качестве ассистента он вел также практические занятия со студентами по курсу трудового права. В 1935 году его, как наиболее перспективного ученого, направили на работу в Казанский институт советского права, где он стал заместителем директора по научной и учебной работе и одновременно, в качестве доцента кафедры трудового права, читал лекции.
Спустя два года К. П. Горшенина выдвинули на работу в Народный комиссариат юстиции СССР, которым в то время руководил Н. В. Крыленко. Здесь он возглавил управление учебных заведений. Служебные обязанности хотя и отвлекали Горшенина от научной деятельности, тем не менее он все же сумел защитить диссертацию в Московском юридическом институте. Постановлением совета института от 28 июня 1938 года Константину Петровичу была присуждена ученая степень кандидата юридических наук. В 1938 году он стал членом коллегии Наркомата юстиции СССР.
В январе 1940 года Константин Петрович получил новое высокое назначение — он возглавил Народный комиссариат юстиции РСФСР. Органами юстиции республики ему пришлось руководить в самые тяжелое для страны время — в годы Великой Отечественной войны. На этом посту он сумел проявить себя вдумчивым, инициативным администратором, хорошо знающим систему руководимых им органов, задачи, стоящие перед ними, а также материальное и процессуальное право. За непродолжительное время, в течение которого он занимал эту должность (чуть более трех с половиной лет), К. П. Горшенин многое успел сделать для улучшения деятельности органов юстиции и судов республики. В ЦК ВКП (б), в правительстве Союза и Российской Федерации его работу оценивали довольно высоко, что и позволило ему вскоре подняться на одну из вершин в правоохранительной системе.