Анатолий Мариенгоф родился 24 июня 1897 года в Нижнем Новгороде в дворянской семье. Предки по отцовской линии — выходцы из Лифляндской губернии.
Мариенгофы жили в Нижнем Новгороде, где Анатолий учился в Дворянском институте. Детство Анатолия Мариенгофа прошло под сильнейшим влиянием отца — Бориса Михайловича. Он участвовал и в формировании литературного вкуса сына. Чрезвычайная антирелигиозность Анатолия Мариенгофа, судя по всему, также была воспитана отцом.
В 1913 году, после смерти жены, отец Мариенгофа, воспользовавшись приглашением английского акционерного общества «Граммофон», стал его представителем в Пензе, и переехал туда с детьми (у Анатолия была младшая сестра). Там Анатолий продолжил учебу в 3-й частной гимназии С. А. Пономарева, где в 1914 году издавал журнал «Мираж», «более чем наполовину заполняя его собственными стихами, рассказами, статейками…».
Неординарным событием для молодого Мариенгофа явилось путешествие летом 1914 года по Балтике на учебной парусной шхуне. Он побывал в Финляндии, Швеции и Дании, и даже получил матросское свидетельство, чем чрезвычайно гордился. Однако плавание прервалось после того, как началась Первая мировая война.
В 1916 году Мариенгоф окончил гимназию, и уехал в Москву, где поступил на юридический факультет Московского университета. Не проучившись там и полгода, он попал на фронт, где в составе инженерно-строительной дружины занимался устройством дорог и мостов. На фронте он продолжал писать стихи. В том же году появляется первая пьеса в стихах «Жмурки Пьеретты».
В 1917 году, пока он ехал в отпуск, произошла революция. Возвратившись в Пензу, с головой уходит в литературу. Его произведения вышли в нескольких поэтических сборниках, он также в 1918 году выпустил первую собственную книжку под названием «Витрина сердца».
Летом белые чехословаки входят в город. От случайной пули погибает отец. После этого Мариенгоф навсегда покинул Пензу и переехал в Москву, где остановился у своего двоюродного брата и совершенно случайно показал свои стихи Бухарину, бывшему на тот момент главным редактором «Правды». Тому стихи не понравились, но талант в молодом человеке он разглядел моментально, и устроил его литературным секретарем издательства ВЦИК, которым руководил по совместительству.
Вскоре в издательстве ВЦИК происходит его встреча с Сергеем Есениным, имевшая существенное значение в судьбах обоих. Потом знакомится с В. Шершеневичем и Рюриком Ивневым. Так оформляется группа имажинистов, заявившая о себе «Декларацией», опубликованной в январе 1919 года в журнале «Сирена» (Воронеж).
Тесная дружба связывает Мариенгофа с Есениным. Их биографии словно бы переплетаются. Осенью 1919 года они поселяются вместе и на несколько лет становятся почти неразлучны. Публикуют в печати письма друг другу, чем вызывают негодование критиков. Есенин посвятил Мариенгофу стихи «Я последний поэт деревни», поэму «Сорокоуст», драму «Пугачев», стихотворение «Прощание с Мариенгофом».
В конце 1923 года Мариенгоф женился на артистке Камерного театра А. Б. Никритиной. Рождается сын Кирилл.
В 1924-1925 годах Мариенгоф работал заведующим сценарным отделом Пролеткино, вскоре также начал писать киносценарии. Всего их было создано около десяти.
В 1928 году в берлинском издательстве «Петрополис» вышел роман «Циники» (в СССР издан только в 1988 г.). Публикация «Циников», равно как и следующего романа «Бритый человек», вышедшего в том же издательстве в 1930 году, принесла Мариенгофу массу неприятностей, и за который он был подвергнут в СССР травле.
В июне 1941 года поэт приходит на Ленинградское радио и ежедневно пишет баллады. Вскоре, вместе с Большим драматическим театром, Мариенгоф с женой были эвакуированы в Киров, где прожили около трех лет. Возвращается в Ленинград.
Анатолий Мариенгоф умер 24 июня 1962 года (в день своего рождения по старому стилю) в Ленинграде. Похоронен на Богословском кладбище.