Николай Яковченко родился 3 мая 1900 года в городе Прилуки, Украина. Не имея специального актерского образования, в 1918 году дебютировал на любительской сцене в Прилуках, впоследствии играл в театрах Симферополя, Черкасс, Лубен, Чернигова, Днепропетровска и Харькова. С 1928 года являлся артистом Киевского театра им Франко.
В 1931 году Николай направился в состав труппы новосозданного Харьковского театра революции. Сезон открылся 7 ноября спектаклем «Дело чести». В этом же году Яковченко женился на Татьяне Марковне, которая выбрала его, отклонив ухаживания многих претендентов, в том числе известного актера Виктора Добровольского. Свадьбу сыграли в Киеве на Шулявке, после чего супружеская пара выехала в Харьков. С 1934 года Яковченко стал снова актером театра Франко.
Николая Федорович в 1939 году призвался в армию. Участвовал в Советско-финской войне. В годы Великой Отечественной войны в составе фронтовой бригады своего театра Яковченко много выступал перед бойцами: на призывных пунктах, передовой, в госпиталях. Награжден медалями «За оборону Сталинграда» и «За доблестный труд в Великой Отечественной войне 1941-1945 годов».
Вернувшись после войны в Киев, Яковченко продолжил свою театральную карьеру в театре имени Франко. Среди основные его работ на сцене — роли в спектаклях: «Платон Кречет», «В степях Украины», «Мартын Боруля», «Последний», «Фараоны», «Делец».
Всесоюзную известность Яковченко принес все же кинематограф. Как киноактер он дебютировал в фильме «Украденное счастье» в 1952 году, а затем был очень востребован режиссерами. Артист сыграл в таких известных фильмах, как: «Калиновая роща», «Максим Перепелица», «Штепсель женит Тарапуньку», «За двумя зайцами», «Вечера на хуторе близ Диканьки», «Королева бензоколонки», «Вий», «Меж высоких хлебов», «Захар Беркут» и многих других.
Всего в фильмографии актера около 60 ролей. Многие фразы из фильмов в его исполнении стали в нашей стране крылатыми: «Завязал, не пью. Но с тобой — с большой охотой», «Посмотрю в зеркало — и плюнуть хочется!», «Все было как у людей — выпили, закусили…».
Николай Федорович Яковченко скончался 11 сентября 1974 года в Киеве, в больнице из-за осложнений после аппендицита. Похоронен на Байковом кладбище украинской столицы.
