Ο Όσιος Μιχαήλ γεννήθηκε στην Παλαιστίνη το 761 μ.Χ (ή κατ' άλλους, το 763 μ.Χ.). Οι πρόγονοί του ήταν Πέρσες και οι ευσεβείς γονείς του τον αφιέρωσαν στη διακονία του Θεού. Ο Πατριάρχης Ιεροσολύμων Θεόδωρος τον έκειρε αναγνώστη στον ναό της Ανάστασης και στην Ιερουσαλήμ εκπαιδεύτηκε κατά τον καλύτερο τρόπο.

Σε ηλικία 25 ετών έγινε μοναχός στη Μονή του Αγίου Σάββα και μετά 12 χρόνια άσκησης, χειροτονήθηκε από τον Πατριάρχη Θωμά πρεσβύτερος, με πρόταση του ηγουμένου της Μονής.

Μετά δύο χρόνια αποσύρθηκε από τη Μονή σ' ένα κελί, όπου καλλιέργησε πολύ την προσευχή. Μάλιστα ο ηγούμενος της Λαύρας, εμπιστεύτηκε στον Μιχαήλ την πνευματική μόρφωση των δύο αδελφών Γραπτών Θεοδώρου και Θεοφάνη. Αλλά ο Πατριάρχης Θωμάς, έχοντας ανάγκη τον Μιχαήλ, τον μετακινεί μαζί με τους δύο μαθητές του στα Ιεροσόλυμα και τον καθιστά σύγκελλο και σύμβουλό του.

Αργότερα τον στέλνει στη Ρώμη για κάποια εκκλησιαστικά ζητήματα, επέδωσε μάλιστα μέσω αυτού και επιστολές στον τότε αυτοκράτορα Λέοντα τον εικονομάχο, τον οποίο ο Πατριάρχης Θωμάς παρατηρούσε σκληρά για τον διωγμό κατά των εικόνων. Εξοργισμένος απ' αυτό ο Λέοντας, έριξε την πατριαρχική πρεσβεία στη φυλακή, όπου έμεινε για αρκετά χρόνια μέχρι τη δολοφονία του Λέοντα.

Αλλά και μετά την ανάρρηση του Μιχαήλ Τραυλού στο θρόνο (820 μ.Χ.) και αφού για λίγο ο όσιος αποφυλακίζεται, συλλαμβάνεται και πάλι, φυλακίζεται και αυτή η φυλάκισή του παρατάθηκε μέχρι και όλη τη βασιλεία του Θεοφίλου.

Αποφυλακίστηκε από τη Θεοδώρα και τον γιο της Μιχαήλ και αποδόθηκε στην Εκκλησία σαν Ομολογητής, αφού στο σώμα του έφερε τα στίγματα των αγώνων του. Μετά την καθαίρεση του εικονομάχου Πατριάρχου Ιωάννη, η ψήφος όλων για τη διαδοχή, ήταν με το μέρος του Μιχαήλ. Αλλά ο Μιχαήλ, 80 χρονών πλέον και ασθενής, αρνήθηκε να δεχτεί το θρόνο και ζήτησε να του παραχωρηθεί η μονή της Χώρας για να αναπαυθεί. Εκεί πέρασε και τα υπόλοιπα χρόνια της ζωής του ειρηνικά και όταν πέθανε τον έθαψαν κοντά στους τάφους των ομολογητών Γερμανού και Πατριάρχη και Θεοδώρου του Γραπτού (846 μ.Χ.).

Οὐκ, εἰ τελευτᾷς Μιχαήλ, τοῦτο ξένον· Ἀλλ' εἰ θανὼν ζῇς, ὥς περ οὖν ζῇς ἀξίως.