Родился 31 марта 1908 года в Москве. Окончил 7 классов. Работал на одном из столичных предприятий, потом на нефтепромыслах, потом служил в Азербайджанской дивизии и стал одним из лучших пулемётчиков. После срочной службы вернулся на нефтепромысел. Там его и застала война. Нефтяники не подлежали мобилизации, но Петрухин написал заявление в военкомат с просьбой послать его на фронт.

С 1941 года служил в частях береговой обороны Потийской Военно-Морской базы Черноморского флота. Бывший пулемётчик успешно освоил и снайперское дело. В мае 1943 года его направили в 384-й отдельный батальон морской пехоты. Участвовал в десантах по освобождению городов Азовского побережья: Мариуполь и Осипенко (ныне Бердянск). Затем были бои на Кинбурнской косе, освобождение посёлков Херсонской области Александровка, Богоявленское (ныне Октябрьский) и Широкая Балка.

Во второй половине марта 1944 года войска 28-й армии начали бои по освобождению города Николаева. Чтобы облегчить фронтальный удар наступающих, было решено высадить в порт Николаев десант. Из состава 384-го ОБМП выделили группу десантников под командованием старшего лейтенанта Константина Ольшанского. В неё вошли 55 моряков, 2 связиста из штаба армии и 10 сапёров. Проводником пошёл местный рыбак Андреев. Одним из десантников был матрос Петрухин.

Со своей снайперской винтовкой Николай выбрал удобное место - у углового окна на 2-м этаже здания конторы порта. Когда начались атаки, он тщательно выбирал цели и поражал их. Осколками разорвавшейся неподалёку мины его ранило. Перевязывать рану не стал - некогда. От взрыва снаряда обрушилась стена. Петрухина привалило, он потерял сознание. Когда товарищи вытащили его из-под завала и хотели отнести в подвал, где был устроен лазарет, он отрицательно покачал головой: "Ещё могу стрелять". При очередном артобстреле Н. Д. Петрухин погиб. Похоронен в братской могиле в городе Николаев в Сквере 68 десантников.

Указом Президиума Верховного Совета СССР от 20 апреля 1945 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецкими захватчиками и проявленные при этом отвагу и геройство матросу Петрухину Николаю Дмитриевичу было присвоено звание Героя Советского Союза (посмертно). Награждён орденом Ленина. Именем Героев-десантников названа улица города, открыт Народный музей боевой славы. В Николаеве в сквере имени 68-ми десантников установлен памятник. В посёлке Октябрьском на берегу Бугского лимана, откуда уходили на задание десантники, установлена мемориальная гранитная глыба с памятной надписью.