Сергей Андреевич Емельянов родился 11 августа 1936 года в Велижском районе Смоленской области в семье работников совхоза «Сивец» Андрея Семеновича и его жены Прасковьи Стефановны. Незадолго до войны родители переехали на жительство в совхоз «Кайдановский», расположенный в соседнем Семлевском районе. В 1944 году Сергей поступил в кайдановскую семилетнюю школу, а после ее окончания — в вяземскую среднюю школу № 1. Сразу же после получения в 1954 году аттестата зрелости он подал документы на юридический факультет Московского государственного университета. В 1959 году после его окончания Сергея Емельянова распределили в вяземскую межрайонную прокуратуру, где он стажировался в течение года, в основном, занимаясь следствием. Старательный и активный стажер заслужил несколько благодарностей от прокурора Смоленской области. В год окончания университета Сергей Андреевич женился на Ирине Валентиновне. В 1960 году у них родился сын Анатолий, а в 1971 году — второй сын, Юрий. В сентябре 1960 года С. А. Емельянов перешел на работу в органы прокуратуры города Москвы. Его назначили следователем прокуратуры Октябрьского района. Наряду с выполнением сложных служебных обязанностей (а дел у следователя всегда было невпроворот), он активно включился и в общественную работу, став внештатным пропагандистом Октябрьского райкома партии. К расследованию преступлений молодой юрист подходил всегда тщательно и скрупулезно. Сергей Андреевич хорошо освоил основные формы и методы следственной работы, криминалистическую технику, что позволяло ему заканчивать в месяц до 8 уголовных дел. Среди преступлений, которые расследовал Сергей Емельянов, было немало сложных: убийства, крупные хищения и другие. Вскоре, 16 сентября 1961 года, он получил свой первый чин — юрист 3-го класса. Прокурор Октябрьского района П. Прохоров был очень доволен молодым и инициативным сотрудником и вскоре выдвинул его на должность старшего следователя. 18 марта 1962 года Генеральный прокурор СССР Р. А. Руденко, в порядке поощрения, «за успешную работу по борьбе с особо опасными преступлениями» досрочно присвоил Сергею Андреевичу чин юриста 1-го класса.
В августе 1963 года энергичного и квалифицированного следователя пригласили на работу в аппарат прокуратуры города Москвы, где он стал прокурором отдела по надзору за следствием в органах охраны общественного порядка (так в те годы назывались органы внутренних дел). Ему приходилось проверять уголовные дела, находившиеся в производстве следственных отделов Управления охраны общественного порядка (УООП) Мосгорисполкома по Свердловскому, Первомайскому и Фрунзенскому районам. В ноябре 1963 он изучил организацию работы следственного отдела Первомайского района по борьбе с хищениями, а в декабре того же года по поручению райкома партии проверил деятельность прокуратуры и органов охраны общественного порядка этого же района по борьбе с правонарушениями. В марте 1964 года С. А. Емельянову был присвоен очередной классный чин младшего советника юстиции.
В сентябре 1964 года С. А. Емельянова выдвинули на должность прокурора отдела кадров. Прокурор города Москвы М. Г. Мальков характеризовал его как «добросовестного, дисциплинированного и исполнительного работника, умеющего правильно и принципиально решать вопросы подбора, расстановки и воспитания кадров». Обладая хорошими ораторскими данными, он часто поддерживал государственное обвинение в Московском городском суде по наиболее сложным уголовным делам, охотно выступал с лекциями и беседами в трудовых коллективах. Его избрали в партийное бюро парторганизации прокуратуры города Москвы. Будучи исключительно честным, скромным и чутким человеком, он пользовался неподдельным авторитетом среди сотрудников прокуратуры.