Отец — урядник, сиделец в винной лавке. Мать была сказательницей и плачеей. Учился в городских училищах Вытегры и Петрозаводска. Среди предков Клюева были староверы, хотя его родители и он сам (вопреки многим его рассказам) не исповедовали старообрядчества.
Участвовал в революционных событиях 1905-1907 годов, неоднократно арестовывался за агитацию крестьян и за отказ от армейской присяги по убеждениям. Отбывал наказание сначала в Вытегорской, затем в Петрозаводской тюрьме.
В автобиографических (или псевдоавтобиографических) заметках Клюева «Гагарья судьбина» упоминается, что в молодости он много путешествовал по России. Конкретные рассказы не могут быть подтверждены источниками, и такие многочисленные автобиографические мифы — часть его литературного образа.
Клюев рассказывает и как послушничал в монастырях на Соловках; и как был «царем Давидом… белых голубей — христов», но когда его хотели оскопить, сбежал; и как на Кавказе познакомился с красавцем Али, который, по словам Клюева, «полюбил меня так, как учит Кадра-ночь, которая стоит больше, чем тысячи месяцев. Это скрытное восточное учение о браке с ангелом, что в русском белом христианстве обозначается словами: обретение Адама…», затем же Али покончил с собой от безнадежной любви к нему; и как в Ясной Поляне беседовал с Толстым; и как встречался с Распутиным; и как трижды сидел в тюрьме; и как стал известным поэтом и «литературные собрания, вечера, художественные пирушки, палаты московской знати две зимы подряд мололи меня пестрыми жерновами моды, любопытства и сытой скуки».
Впервые стихи Клюева появились в печати в 1904 году. На рубеже 1900-х и 1910-х годов Клюев выступает в литературе, причем не продолжает стандартную для «поэтов из народа» традицию описательной минорной поэзии в духе И. З. Сурикова, а смело использует приемы символизма, насыщает стихи религиозной образностью и диалектной лексикой. Первый сборник — «Сосен перезвон» — вышел в 1911 году. Творчество Клюева было с большим интересом воспринято русскими модернистами, о нем как о «провозвестнике народной культуры» высказывались Александр Блок (в переписке с ним в 1907 году; оказал большое личное и творческое влияние на Клюева), Валерий Брюсов и Николай Гумилев.
Николая Клюева связывали сложные отношения (временами дружеские, временами напряженные) с Сергеем Есениным, который считал его своим учителем. В 1915-1916 годах Клюев и Есенин часто вместе выступали со стихами на публике, в дальнейшем их пути (личные и поэтические) несколько раз сходились и расходились.
Как указывает А. И. Михайлов, Александр Блок неоднократно упоминает Клюева в своих стихах, записных книжках и письмах и воспринимает его как символ загадочной народной веры. В одном из писем Блок даже заявил: «Христос среди нас», и С. М. Городецкий отнес эти слова к Николаю Клюеву.
Стихи Клюева рубежа 1910-х и 1920-х годов отражают «мужицкое» и «религиозное» приятие революционных событий, он посылал свои стихи Ленину (хотя несколькими годами раньше, вместе с Есениным, выступал перед императрицей), сблизился с левоэсеровской литературной группировкой «Скифы». В берлинском издательстве «Скифы» в 1920-1922 годах вышли три сборника стихов Клюева.
После нескольких лет голодных странствий около 1922 года Клюев снова появился в Петрограде и Москве, его новые книги были подвергнуты резкой критике и изъяты из обращения.
С 1923 года Клюев жил в Ленинграде (в начале 1930-х переехал в Москву). Катастрофическое положение Клюева, в том числе и материальное, не улучшилось после выхода в свет его сборника стихов о Ленине (1924).
Вскоре Николай Клюев, как и многие новокрестьянские поэты, дистанцировался от советской действительности, разрушавшей традиционный крестьянский мир; в свою очередь, советская критика громила его как «идеолога кулачества». После самоубийства Есенина он написал «Плач о Есенине» (1926), который был вскоре изъят. В 1928 году выходит последний сборник «Изба и поле».
В 1929 году Клюев познакомился с молодым художником Анатолием Кравченко, к которому обращены его любовные стихотворения и письма этого времени (преобладание воспевания мужской красоты над женской в поэзии Клюева всех периодов подчеркнуто филологом А. И. Михайловым).
Сам Клюев в письмах поэту Сергею Клычкову и В. Я. Шишкову называл главной причиной ссылки свою поэму «Погорельщина» , в которой усмотрели памфлет на коллективизацию и негативное отношение к политике компартии и советской власти. Аналогичные обвинения (в «антисоветской агитации» и «составлении и распространении контрреволюционных литературных произведений») были предъявлены Клюеву и в связи с другими его произведениями — «Песня Гамаюна» и «Если демоны чумы, проказы и холеры…», входящими в неоконченный цикл «Разруха». В последнем стихотворении, например, упоминается Беломоро-Балтийский канал, построенный с участием большого числа раскулаченных и заключенных.
Стихотворения из цикла «Разруха» хранятся в уголовном деле Н. Клюева как приложение к протоколу допроса.
По воспоминаниям функционера И. М. Гронского (редактора «Известий ВЦИК» и главного редактора журнала «Новый мир»), Клюев все более переходил «на антисоветские позиции» (несмотря на выделенное ему государственное пособие), когда же он прислал в газету «любовный гимн», предметом которого являлась «не «девушка», а «мальчик»», Гронский изложил свое возмущение в беседе с Клюевым, но тот отказался писать «нормальные» стихи, после чего Гронский позвонил Ягоде и попросил выслать Клюева из Москвы (это распоряжение было санкционировано Сталиным). Мнение, что причиной ареста Клюева стала именно его гомосексуальность, высказывал также позднее в частных беседах М. М. Бахтин.
2 февраля 1934 года Клюев был арестован по обвинению в «составлении и распространении контрреволюционных литературных произведений» (ст.58 10 УК РСФСР). Следствие по делу вел Н. Х. Шиваров. 5 марта после суда Особого совещания выслан в Нарымский край, в Колпашево. Осенью того же года по ходатайству артистки Н. А. Обуховой, С. А. Клычкова и возможно Горького переведен в Томск.
5 июня 1937 года он был снова арестован и в конце октября расстрелян на Каштачной горе.
Николай Клюев был реабилитирован в 1957 году, однако первая посмертная книга в СССР вышла только в 1977 году.