Ο Όσιος Δαβίδ καταγόταν από τη βόρεια Μεσοποταμία, που ήταν μεγάλο μοναστικό κέντρο, και γεννήθηκε περί το 450 μ.Χ. Για λόγους που δεν αναφέρονται ήλθε στη Θεσσαλονίκη μαζί με το μοναχό Αδολά. Κατά το βιογράφο τους ο Όσιος εισήλθε αρχικά στη μονή των Αγίων Μαρτύρων Θεοδώρου και Μερκουρίου. Τα παραδείγματα των αγίων ανδρών της Παλαιάς Διαθήκης, ιδιαιτέρως του Προφήτου και βασιλέως Δαβίδ, ο οποίος «τριετῆ χρόνον ᾐτήσατο, ἵνα δοθῇ αὐτῷ χρηστότης καὶ παιδεία καὶ σύνεσις», ώθησαν τον Όσιο Δαβίδ να αποφασίσει να καθίσει σε δένδρο αμυγδαλέας μέχρι ο Κύριος να του αποκαλύψει το θέλημά Του και να του χαρίσει σύνεση και ταπείνωση. Στο τέλος της τριετίας εμφανίσθηκε στον Όσιο Άγγελος Κυρίου, ο οποίος τον διαβεβαίωσε ότι εισακούσθηκε η παράκλησή του και η δοκιμασία του ως δενδρίτου ασκητού έληξε. Ο Άγγελος του είπε να κατέλθει από το δένδρο και να συνεχίσει τον ασκητικό του βίο σε κελί αινών και ευλογών τον Θεό. Ο Όσιος κοινοποίησε την οπτασία αυτή στους μαθητές του, ζητώντας τη βοήθειά τους για την κατασκευή του κελιού. Κατά τις ανταλλαγές πληθυσμών από τη Μικρά Ασία τη δεκαετία του 20', πολλές οικογένεις προσφύγων έμειναν στο εκκλησάκι του Οσίου στην Άνω Πόλη Θεσσαλονίκης, γινόμενος έτσι ο προστάτης των προσφύγων από την πιστεύουσα κοινότητα.

Τῇ ἀγάπῃ τοῦ Λόγου Πάτερ πτερούμενος, ἐπὶ τοῦ δένδρου διῆλθες ἀγγελικὴν βιοτήν, καὶ ἐξήνεγκας ἡμῖν καρποὺς τῆς χάριτος· ἐξ ὧν τρυφῶντες νοητῶς, ἐκβοῶμέν σοι πιστῶς, Δαβὶδ Ὁσίων ἀκρότης· μὴ διαλίπῃς πρεσβεύων, ἐλεηθῆναι τὰς ψηχὰς ἡμῶν.