Родился в Петербурге 21 сентября (3 октября) 1899 года в семье Вагенгеймов: обрусевшего немца Константина Адольфовича, подполковника жандармской службы, и Любови Алексеевны, дочери богатого сибирского помещика. Образование получил в гимназии Я. Гуревича, где проучился с 1908 по 1917 год. В 1915 году членам семьи Вагенгеймов (отец, мать и трое сыновей) Высочайше было позволено именоваться Вагиновыми (искусственная переделка фамилии, связанная с антинемецкими настроениями в России). Летом 1917 года поступил на юридический факультет Петроградского университета, в 1919 году был мобилизован в Красную Армию. Воевал на польском фронте и за Уралом.
В 1920 году или в начале 1921 года Вагинов вернулся в Петроград, поселившись в доме 105 по набережной Екатерининского канала. Еще в гимназии Вагинов начал писать стихи, подражая «Цветам зла» Бодлера. В поэзии Вагинова одно из центральных мест занимает образ Петербурга. Вагинов собирает и изучает литературу по античной истории и археологии, имеет прекрасную коллекцию монет.
Вагинов входит в разнообразные поэтические группы, в большом количестве существовавшие в Петрограде начала 1920-х годов, а летом 1921 года был принят в «Цех поэтов» Николая Гумилева. В то же время вместе с Н. Тихоновым, П. Волковым и С. Колбасьевым основал группу «Островитяне». В сентябре 1921 года «Островитяне» выпустили первый (машинописный) сборник стихов, в котором впервые были напечатаны стихи Вагинова. Было объявлено о готовящихся к выходу книгах стихов Вагинова «Петербургские ночи» и прозы «Монастырь Господа нашего Аполлона», но эти издания так и не удалось осуществить из-за нехватки средств. Однако «Монастырь Господа нашего Аполлона» был напечатан в 1922 году в первом выпуске альманаха «Абраксас» под ред. М. Кузмина и А. Радловой. В конце 1921 года усилиями другой литературной группы, «Кольца поэтов им. К. Фофанова», вышла первая книга стихов Вагинова «Путешествие в Хаос».
Хотя Вагинов, по его собственным словам, в 1921-1922 годах «состоял почти во всех поэтических объединениях Петрограда», его нельзя причислить к какой-либо школе. Поэзия Вагинова носила ярко индивидуальный характер.
В 1923-1927 годах Вагинов учился на словесном отделении Высших государственных курсов искусствознания при Институте истории искусств, одновременно слушая лекции на изобразительном отделении. Среди его преподавателей были Ю. Тынянов, Б. Эйхенбаум, Б. Энгельгардт.
В 1924 году Вагинов знакомится с Михаилом Бахтиным, который высоко оценил его творчество и прежде всего его «карнавальные» романы. В круге Бахтина Вагинов знакомится с И. И. Соллертинским, М. В. Юдиной, П. Н. Медведевым, Л. В. Пумпянским.
В 1926 году выходит в свет книга стихотворений Вагинова (без названия), в 1931 году — «Опыты соединения слов посредством ритма».
Вагинов известен прежде всего как прозаик, автор модернистских романов «Козлиная песнь», «Труды и дни Свистонова», «Бамбочада», «Гарпагониана».
В 1928 году Вагинов вместе с Д. Хармсом, А. Введенским и Н. Заболоцким принимает участие в знаменитом вечере обэриутов «Три левых часа», который впоследствии в пародийной форме выводит в своем романе «Труды и дни Свистонова».
26 апреля 1934 года после продолжительного заболевания туберкулезом Вагинов умирает. На страницах «Литературного Ленинграда» появляется некролог за авторством Вс. Рождественского и Н. Чуковского: «Облик Кости Вагинова был отмечен чертами исключительного личного обаяния. Строгий и требовательный к себе, замкнутый в сфере своих творческих замыслов, до предела скромный в оценке собственных достижений, — он с искренним сочувствием относился к работе своих сотоварищей по литературе и оставил по себе долгую и прочную память в поэтическом содружестве последних лет как тонкий и изысканный мастер, прекрасный товарищ, вдумчивый и взыскательный друг».
Благодаря открытию заново обэриутов, начавшемуся в 1960-х, обратили внимание и на Вагинова. Леонид Чертков подготовил в Кельне первое «Собрание стихотворений» Вагинова, вышедшее в 1982 году. В 1983 в США вышел роман «Гарпагониана». Первые публикации в СССР появились в 1989.
Проза Вагинова представляет собой сложное и многоплановое явление. В ней можно обнаружить влияния петербургских повестей Гоголя и Достоевского, Андрея Белого, античного романа и новелл Возрождения, плутовского романа XVIII века.