В 1941 году он окончил среднюю школу и сразу после начала Великой Отечественной войны пошёл работать на завод учеником в отдел кооперирования. В 1943 году Смирнов поступил в театральное училище имени Щепкина, которое окончил в 1947 году. С 1947 по 1955 годы Николай Андреевич был актёром Новочеркасского театра драмы, театра Группы советских войск в Германии, Первого московского областного театра драмы, Вышневолоцкого театра драмы. С 1955 года Николай Смирнов работал исключительно в кино. С 1962 года актёр киностудии имени Горького. Исполнял в основном роли простых русских мужиков и рабочих.
