Από τα παλάτια του αυτοκράτορα Θεοδοσίου του Μεγάλου εγκατέλειψε όλες τις τιμές για να γίνει ταπεινός μοναχός στην έρημο της Σκήτης. Δίδαξε τα δύο παιδιά του βασιλιά, τον Αρκάδιο και τον Ονώριο, και ονομαζόταν στην αυλή «πατήρ του βασιλέα και των τέκνων του». Ο Όσιος Αρσένιος γεννήθηκε στη Ρώμη το τριακόσια πενήντα τέσσερα μετά Χριστόν από ευσεβείς και ευπατρίδες χριστιανούς γονείς. Σπούδασε με αφοσίωση όλα τα συγγράμματα των ρητόρων και των φιλοσόφων και γνώριζε άριστα την ελληνική και τη λατινική γλώσσα.

Άφησε όμως τη μάταιη κοσμική ζωή και αφιέρωσε τον εαυτό του στην υπηρεσία του Θεού και της Εκκλησίας. Χειροτονήθηκε διάκονος της μεγάλης ρωμαϊκής Εκκλησίας από τον πάπα Δάμασο και ζούσε ζωή σώφρονα και θεάρεστη. Τότε ο αυτοκράτορας Θεοδόσιος αναζητούσε δάσκαλο για τους γιους του Αρκάδιο και Ονώριο, αληθινό σοφό και ενάρετο μαζί. Δεν βρισκόταν εύκολα τέτοιος άνθρωπος, ώστε ο Θεοδόσιος έγραψε στον δυτικό αυτοκράτορα Γρατιανό για να τον βοηθήσει να βρει.

Ο Γρατιανός μαζί με τον πάπα Δάμασο διάλεξαν τότε τον διάκονο Αρσένιο ως τον πιο σοφό και ενάρετο της Ρώμης. Ο Αρσένιος αρνιόταν στην αρχή, καθώς ήθελε να αφιερώσει τη ζωή του ολόκληρη στην υπηρεσία της Εκκλησίας. Τελικά υποτάχθηκε με ταπείνωση στην εντολή του βασιλιά και του πάπα και ξεκίνησε για την Κωνσταντινούπολη. Όταν έφτασε στην Κωνσταντινούπολη, ο Θεοδόσιος τον υποδέχθηκε με μεγάλη ευλάβεια και τον αναγνώρισε αμέσως ως άνθρωπο του Θεού. Παρέδωσε τα δύο του παιδιά στα χέρια του Αρσενίου και του είπε ότι από εδώ και πέρα θα είναι περισσότερο πατέρας τους.

Διέταξε ακόμα να κτιστεί διδασκαλείο κοντά στο παλάτι, ώστε να μπορεί να επιβλέπει την παιδεία τους. Ο Αρσένιος έπαιρνε θέση μεταξύ των συμβούλων του αυτοκράτορα και ονομαζόταν «πατήρ του βασιλέα και των τέκνων του». Δίδασκε τα παιδιά τόσο τις ελληνικές και λατινικές γνώσεις, όσο και την αληθινή χριστιανική ευσέβεια του Σωτήρος Χριστού. Στεκόταν όμως μπροστά τους όρθιος, καθώς ήταν παιδιά του βασιλιά, και τους έβαζε να κάθονται. Όταν ο Θεοδόσιος είδε αυτή τη συνήθεια, αφαίρεσε από τους γιους τα βασιλικά σύμβολα και τους έβαλε να στέκονται όρθιοι.

Έβαλε τον ίδιο τον Αρσένιο να κάθεται στον θρόνο και τον τίμησε ως αληθινό δάσκαλο. Ο Όσιος όμως δεν ησύχαζε στα παλάτια, γιατί η καρδιά του ποθούσε τη μοναχική ζωή και τη σιωπή της ερήμου. Προσευχόταν διαρκώς στον Κύριο να τον λυτρώσει από τη βασιλική αυλή και να τον αξιώσει της ασκητικής πολιτείας. Εργάστηκε κρυφά στην ψυχή του τον αγώνα της ταπεινώσεως, για να μην παρασυρθεί από τις τιμές των ανθρώπων. Μία νύχτα, την ώρα της προσευχής του, άκουσε φωνή από τον ουρανό η οποία του έλεγε «Αρσένιε, φύγε από τους ανθρώπους και θα σωθείς».

Φόρεσε τότε φτωχικά ρούχα και έφυγε κρυφά από το παλάτι, ενώ βάδιζε προς τη θάλασσα και την παράκτια ακτή. Βρήκε εκεί πλοίο που σαλπάριζε για την Αλεξάνδρεια και επιβιβάστηκε αμέσως, αφού εμπιστεύθηκε όλη την ελπίδα του στον Θεό. Όταν έφτασε στην Αίγυπτο, κατέφυγε στη Σκήτη των ασκητών και παρακάλεσε τους πρεσβυτέρους να τον δεχθούν στη μοναχική τάξη. Τον παρέδωσαν στον αββά Ιωάννη τον Κολοβό, ο οποίος τον δοκίμασε με ένα παξιμάδι ως ταπεινό σκύλο.

Ο Αρσένιος δέχθηκε ταπεινά τη δοκιμασία και προσκύνησε στο έδαφος, ενώ πήρε το παξιμάδι με το στόμα του. Τότε ο αββάς Ιωάννης κατάλαβε ότι ο νέος μοναχός θα γίνει μεγάλος ασκητής της Εκκλησίας. Τον έντυσε σύντομα το μοναχικό σχήμα και του έδωσε κελί κοντά στο δικό του ως έμπειρο πια αδελφό. Στο μεταξύ ο Θεοδόσιος αναζητούσε παντού τον Αρσένιο, αλλά ο Κύριος τον έκρυβε από τους ανθρώπους. Στην έρημο ο Όσιος επιδόθηκε σε νηστεία, προσευχή και ασκητικούς κόπους και ξεπέρασε σε αρετή πολλούς από τους παλαιούς γέροντες της Σκήτης.

Έτσι από τα παλάτια της Κωνσταντινουπόλεως μετέβηκε στις φτωχές καλύβες των ασκητών της αιγυπτιακής ερήμου. Μία ημέρα προσευχήθηκε ξανά στον Θεό και είπε «Κύριε, δίδαξέ με πώς να σωθώ με τη χάρη σου». Άκουσε τότε ξανά ουράνια φωνή που του έλεγε «Αρσένιε, κρύψου από τους ανθρώπους και κράτησε τη σιωπή, γιατί αυτή είναι η ρίζα της αρετής». Έφυγε αμέσως βαθύτερα στην έρημο και έκτισε για τον εαυτό του ένα πολύ μικρό κελί. Έμενε εκεί ολομόναχος και προσπαθούσε διαρκώς να κρατάει αυστηρή σιωπή σε κάθε στιγμή της ημέρας.

Απέφευγε τις συνομιλίες και κάθε Κυριακή ή εορτή ερχόταν στην εκκλησία, για να επιστρέψει αμέσως στο κελί του χωρίς λόγια. Όταν τον ρώτησε ο αββάς Μάρκος γιατί απομακρύνεται, εκείνος του απάντησε με βαθύ θεολογικό λόγο. Είπε ότι αγαπάει βαθιά τους αδελφούς, αλλά δεν μπορεί να μένει ταυτόχρονα με τον Θεό και με τους ανθρώπους. Στον ουρανό, εξήγησε, οι ασώματες δυνάμεις έχουν μία μόνο θέληση και δοξάζουν ομόψυχα τον Θεό. Στη γη όμως πολλά είναι τα θελήματα των ανθρώπων και ο καθένας έχει διαφορετικές σκέψεις και επιθυμίες.

Έτσι αρνήθηκε να εγκαταλείψει τη συνομιλία του με τον Θεό για χάρη της επικοινωνίας με τους ανθρώπους. Παρόλα αυτά, αν και αναζητούσε να μείνει κρυφός, η φήμη των αρετών του διαδόθηκε σε όλη την Ανατολή. Έφτασε μέχρι την Κωνσταντινούπολη, όπου βασίλευε πλέον ο μαθητής του Αρκάδιος, που είχε διαδεχθεί τον Θεοδόσιο. Μετά τον θάνατο του Θεοδοσίου, ο γιος του Αρκάδιος έγραψε στον Όσιο και του ζητούσε ταπεινά συγχώρηση για τα νεανικά του σφάλματα. Ζητούσε επίσης τις προσευχές του και του παραχωρούσε όλη τη φορολογία της Αιγύπτου για να τη μοιράσει σε εκκλησίες και φτωχούς.

Ο Όσιος όμως δεν θέλησε να απαντήσει γραπτώς και είπε στον αγγελιαφόρο μόνο λίγα λόγια. Παρήγγειλε «πες σε αυτούς που σε έστειλαν, ο ταπεινός Αρσένιος δεν χρειάζεται φόρους, γιατί έχει πεθάνει για τον κόσμο». Ζούσε σε ακρότατη ακτημοσύνη και αρνήθηκε ακόμα και την κληρονομιά ενός συγγενή και είπε ότι είχε πεθάνει πριν από αυτόν. Νήστευε αυστηρά, κοιμόταν μόνο μία ώρα μέσα στο εικοσιτετράωρο και προσευχόταν όρθιος ολόκληρες τις νύχτες της ζωής του.

Φορούσε φτωχικά ρούχα και επέλεγε σκόπιμα τα πιο δυσοσμα μέρη για να εργάζεται, ως αντίβαρο στη ζωή του παλατιού. Ο Άγιος Ποιμήν ο Μέγας τον μακάρισε για το ασταμάτητο πένθος της καρδιάς του και τα δάκρυα της μετανοίας του. Πάνω από όλα όμως ο Όσιος ξεχώριζε για την απέραντη ταπείνωσή του στην ακτημοσύνη και τη σιωπή. Έλεγε στον εαυτό του «Αρσένιε, αγωνίσου για εκείνο για το οποίο βγήκες από τον κόσμο». Ζούσε με συνεχή φόβο Θεού και βαθύ πένθος για τις αμαρτίες του παλαιού ανθρώπου που ξεπλένει η μετάνοια.

Έφυγε αργότερα νοτιότερα στη Μέμφιδα εξαιτίας μιας βαρβαρικής επιδρομής και ύστερα από δέκα έτη εγκαταστάθηκε στον παράκτιο Κανώπη. Εκεί στην ακτή της Αλεξάνδρειας πέρασε τα τελευταία χρόνια της επίγειας ζωής του με ησυχία και προσευχή. Είχε κάποτε συνάντηση με τον κυβερνήτη της Αλεξάνδρειας και τον αρχιεπίσκοπο Θεόφιλο, στους οποίους είπε σπάνια λόγια ωφέλειας. Τους είπε «αν ακούσετε ότι ο Αρσένιος βρίσκεται κάπου, να φύγετε», γιατί απέφευγε όλες τις συναναστροφές.

Επέπληξε επίσης μία γυναίκα της ρωμαϊκής συγκλήτου που ήλθε από τη Ρώμη να τον δει με περιέργεια. Στο τέλος εκείνη απεκόμισε πνευματική ωφέλεια και χαρά από τη συνάντηση με τον αυστηρό Όσιο. Πάντα ήθελε να «βάλει αρχή» αρετής, ο πάναρετος εκείνος και ασκητικός γέροντας της αιγυπτιακής ερήμου. Κοιμήθηκε ειρηνικά γύρω στο τετρακόσια σαράντα πέντε μετά Χριστόν, σε μεγάλη ηλικία και πλήρης ημερών. Είχε ζητήσει να ρίξουν το σώμα του σε χαράδρα, αλλά οι μαθητές του τον έθαψαν σε κρυφό τόπο.

Άφησε στην Εκκλησία ανυπέρβλητο παράδειγμα μοναχικής σιωπής, ταπεινώσεως και απαρνήσεως κάθε κοσμικής δόξας ή ευχαριστήσεως. Στους πατέρες της ερήμου παραμένει για πάντα το λαμπρό υπόδειγμα της απόλυτης φυγής από τον θόρυβο του κόσμου. Με τις πρεσβείες του οσίου Αρσενίου του Μεγάλου, αξίωσε και εμάς Κύριε, της επουρανίου σου βασιλείας.