Николай Васильевич Сергеев родился в селе Озерки Курской губернии. На сцене с 1920 года.
   В 1925 году окончил Московский театральный техникум имени А.В.Луначарского и до 1932 года был актером в различных домах самодеятельности.
   В 1932-36 годах он играл в Театре ВЦСПС, в 1936-1959 - в Центральном академическом театре Советской Армии.
   Хотя в кино Николай Сергеев впервые снялся в 1937 году, дебютировав ролью командира фашистской эскадрильи в фильме "Глубокий рейд", известность ему принесли роли возрастные.
   Этапной в этом отношении для него стала роль старого рабочего Басманова в картине Иосифа Хейфеца "Большая семья" (1954).
   В этой картине актера заметил Михаил Швейцер и дал ему создать совершенно противоположный образ - скупого крестьянина Силантия Ряшкина в "Чужой родне" (1955).
   С этого момента Николая Сергеева стали приглашать ведущие советские режиссеры, и вскоре он оставил театр ради кино.
   Самой выдающейся работой актёра считается иконописец Феофан Грек в картине Андрея Тарковского "Андрей Рублев".
   Награжден Орденом Трудового Красного Знамени (1980).
   Похоронен на Ваганьковском кладбище.