Народився Михайло Богданович в Ліфляндії в маєтку свого батька і діда Памушис в 1761 році 16 (27) грудня. Його прізвище походила зі стародавнього Шотландського роду, але його предки жили в Ризі з середини XVII століття. Його батько після служби в російській армії отримав дворянство. Михайлу з ранніх років готували військову кар’єру, службу він почав в 1776 році. Кар’єра юнака була не такою стрімкою, як йому мріялося, можливо, причиною тому була його походження або бідність його сім’ї.
У 1805 році брав участь у боротьбі з Наполеоном, до цього часу вже був генерал-майором. За якісну роботу Барклай де Толі неодноразово був представлений до нагороди різного ступеня важливості. У 1809 році, в ході російсько-шведської війни виявив блискучі здібності до тактичного осмислення і стратегічного планування. Результат військових дій був практично вирішений завдяки операції спланованою Михайлом. До цього часу події на полі битви складалися не найсприятливішим чином для російської армії, і необхідно було терміново змінити ситуацію.
Михайло Богданович пропонує перекинути значну частину бойового складу армії через Ботнічна затоку в Швецію. Переходити треба було взимку по льоду, ситуація була ускладнена важкими погодними умовами. Але завдяки витриманого і жорсткого управління, постійної координації руху між корпусами перехід був здійснений в термін, і атака пройшла за планом, що сприяло успішному завершенню воєнних дій. За успіх у битві зі шведами Барклай де Толі був удостоєний чину генерал від інфантерії, стає головнокомандувачем фінської армії, а потім і губернатором Фінляндії.
Особливо варто відзначити його роль у Вітчизняній війні 1812 року. У бойових діях в Європі 1805-1807 років, Барклай де Толі уважно вивчав французьку армію, тактику ведення бою Наполеоном. За його особистим переконанням війни з Францією Росія уникнути не могла, а значить, потрібна якісна підготовка російської армії.
В 1810 році, коли Михайло Богданович стає главою військового міністерства, він використав усі свої знання для реформування армії та реорганізації військового міністерства. Особливу увагу він приділяв військовій підготовці та умов утримання армії. Було покращено харчування і постачання бойового складу. Завдяки його участі були переглянуті права і обов’язки офіцерів, були введені вдосконалені військові статути, посилена дисципліна і контроль. Також міністерство сприяло активному будівництва військових укріплень, зокрема на західному напрямку з’явилися Динабургская і Бобруйська фортеці.
Коли Наполеон оголосив Російської Імперії війну, Барклай де Толі мав величезний військовий, управлінський і організаторський досвід, досконало володів знаннями ведення бою і ідеально знав ворога. Саме тому він був поставлений на передову на чолі 1-ї Західної армії для зустрічі з ворогом. Але Михайло Богданович, спираючись на свої переконання, робить тактику відступу, виснажуючи противника незначними сутичками і ведучи ар’єргардні бої. Багато його сучасники, в тому числі Олександр I не схвалювали таке ведення боротьби і вважали його тактику проявом боягузтва. Але на сьогоднішній день військові історики переконані, саме завдяки відступу російської армії і її подальшого об’єднання з армією Багратіона перед основною битвою і було можливе подальше поразка Наполеона. Так як військового потенціалу 1-ї Західної армії не було достатньо для розтрощення французів, і результат війни в цілому міг бути іншим.
Наприкінці серпня 1812 року займає посаду головнокомандувача князь Кутузов, а Барклай де Толя стає у його підпорядкуванні. Засудження його військових дій з початку війни суспільством досягла до цього часу занадто високого ступеня, відносини з Кутузовим не складалися, що випливає з військових листів самого Михайла дружині. І, будучи абсолютно впевненим у правоті своїх дій, але, страждаючи від навколишнього презирства, в битві при Бородіно він навмисно йде на відкриту боротьбу з противником. Під ним було вбито і поранено п’ять коней. Це була його остання значуща битва в Вітчизняній війні. Його командування Західної армією залишалося формальним, і при першій можливості Барклай де Толі отримує відпустку і відправляється в своє село в Ліфляндії. Пізніше Олександр I визнав заслугу Михайла Богдановича у перемозі над французами, але лише в особистому листуванні.
Після Барклай де Толі знову встає на чолі російської армії і в союзі з пруськими військовими силами, а потім під командуванням австрійського фельдмаршала Шварценберга протягом всього 1813 року з успіхом веде закордонні бої проти Наполеона. Бере участь у взятті Парижа. За вміле ведення військових дій та за особливі заслуги перед Вітчизною після остаточної перемоги над Наполеоном Барклай де Толі отримав безліч нагород різних ступенів від Російської Імперії і від союзних держав. У 1815 році він отримав титул графа, а потім і князя. Помер Михайло Богданович в травні 1818 року, йому було 56 років. Він прямував на лікування в Німеччину, але не переніс тривалої дороги.