Родился 25 октября (5 ноября) 1733 в Переяславле, Левобережной Украины (сейчас — Переяслав-Хмельницкий в Киевской области Украины). Происходил из валахской семьи из боярского рода Хереско. Его отец, Матвей Андреевич Херасков, переселился из Валахии в Россию в 1712 году при Петре I. Отец умер почти сразу после рождения Михаила. Вскоре мать Анна Даниловна Хераскова, в девичестве Друцкая-Соколинская, замечательная красавица, воспетая А. П. Сумароковым, вышла замуж за Никиту Юрьевича Трубецкого и после назначения отчима генерал-прокурором в 1740 году переехала с сыном в Петербург.
В 1743 году Херасков поступил в Сухопутный шляхетский кадетский корпус в Петербурге — одно из лучших гуманитарных учебных заведений. Еще кадетом Херасков начал под руководством Сумарокова писать статьи, которые потом печатались в «Ежемесячных Сочинениях». В 1751 году после завершения обучения получил звание подпоручика.
Служил сначала в Ингерманландском полку, потом в 1754 году в коммерц-коллегии, а в 1755 году подает прошение об отставке и поступает работать в открывшийся Московский университет, где организует и руководит несколькими печатными изданиями, выходящими в типографии Университета.
С 1756 году начал помещать свои труды в «Ежемесячных Сочинениях». С 1760 года в течение 3 лет издавал, вместе с И. Ф. Богдановичем, журнал «Полезное Увеселение». В 1761 году Херасков издал поэму «Храм Славы» и поставил на московскую сцену героическую поэму «Безбожник».
Начиная с 60-х годов, дом Хераскова (на месте нынешнего здания по Тверской,21) становится центром литературной Москвы.
В 1762 году написал оду на коронацию Екатерины II и был приглашен, вместе с Сумароковым и Ф. М. Волковым, для устройства уличного маскарада «Торжествующая Минерва» по случаю коронации, после чего в том же 1763 г. назначен директором Университета в Москве.
В 1770 году Херасков переезжает в Петербург в связи с назначением на пост вице-президента Берг-коллегии — учреждения, ведавшего горной промышленностью России. В Петербурге Херасков тоже создает литературное общество, издает журнал «Вечера», за что разгневанная на поэта императрица увольняет его в отставку.
В 1778 году Херасков был назначен вторым куратором Московского университета. В этой должности он отдал Н. И. Новикову университетскую типографию, чем дал ему возможность развить свою издательскую деятельность.
В 1779 году выходит поэма Хераскова «Россиада», над которой работал с 1771 года, после чего Екатерина II отменяет опалу и возвращает поэта в Московский университет на должность куратора. Херасков переселяется в Москву, занимается издательской деятельностью, создает университетский Благородный пансион, где позже получили образование В. Жуковский, М. Лермонтов, Ф. Тютчев и другие знаменитые литераторы. Предполагают, что в том же году (1779) он вступил в масонскую ложу и начал новую большую поэму «Владимир возрожденный», напечатанную в 1785 году В 1779 году Херасков выпустил в свет первое издание собрания своих сочинений.
В 1783 году стал членом только что созданной Российской академии.
В 1802 году Херасков, в чине действительного тайного советника, полученного за преобразованием Университета, вышел в отставку.
Умер Херасков 27 сентября (9 октября) 1807 в Москве и похоронен на кладбище Донского монастыря.
Херасков вошел в историю русской литературы как крупный представитель русского классицизма. Наиболее знаменит как автор эпических поэм — «Россиада» и «Владимир Возрожденный». Характерная черта его произведений — серьезность содержания. Известны также духовные произведения поэта, например стихотворение «Коль славен наш Господь в Сионе», которое было положено на музыку Д. С. Бортнянским и в начале XIX века считалось неофициальным Гимном Российской империи.
В доме Хераскова собирались все, кто имел стремление к просвещению и литературе, в особенности литературная молодежь; в конце своей жизни он поддерживал только что выступившего на литературное поприще В. А. Жуковского. Херасков издавал или так или иначе участвовал в издании нескольких журналов: «Полезное увеселение» (1760-1762), «Свободные часы» (1763), «Вечера» (1772-1773), «Утренний свет» (1777-1779).