Από το 1920 είχε κατανοηθεί η ανάγκη εποπτείας της εκπαιδεύσεως και είχε ανατεθεί σε Υποναύαρχο η παρακολούθηση της εκπαίδευσης στο Κεντρικό Προγυμναστήριο του Πόρου αλλά και στις Σχολές που έδρευαν εκεί. Το 1926 ο Υποναύαρχος μετονομάστηκε σε Επόπτη Κατώτερης Ναυτικής Εκπαιδεύσεως και αργότερα σε Ανώτερο Διοικητή Σχολών. Το 1939 η Ανώτερη Διοίκηση Σχολών μεταφέρθηκε στο νεοσύστατο τότε Ναυτικό Οχυρό Σκαραμαγκά. Μετά το τέλος του Β' Παγκοσμίου Πολέμου και συγκεκριμένα το 1944, όταν κρίθηκε αναγκαία η αναδιοργάνωση και η ριζική αναμόρφωση του συστήματος της Ναυτικής Εκπαίδευσης η Ανωτέρα Διοίκηση Σχολών αντικαταστάθηκε από το Αρχηγείο Ναυτικής Εκπαιδεύσεως, με διοικητή Υποναύαρχο, οι δε αρμοδιότητες της διαμοιράστηκαν στα νεοσύστατα Κέντρα Εκπαιδεύσεως ΠΑΛΑΣΚΑΣ και ΚΑΝΕΛΛΟΠΟΥΛΟΣ. Κατά τα πρώτα χρόνια της διαδρομής του συγκροτήματος στο Αρχηγείο Ναυτικής Εκπαιδεύσεως υπαγόταν οι ακόλουθες Υπηρεσίες:

• Επιτελείο ΑΝΕ

• Σχολή Ναυτικών Δοκίμων 

• Β.Π. ΠΑΛΑΣΚΑΣ και Β.Π. ΠΟΡΟΣ  

• ΣΕΝΤ

• Εκπαιδευτικά Πλοία (Β.Π. ΑΡΜΑΤΩΛΟΣ ΚΑΙ Β.Π. ΧΑΤΖΗΚΩΝΣΤΑΝΤΗΣ)

• Κέντρο Εκπαιδεύσεως Αμφιβίων Επιχειρήσεων

• Ναυτικό Στρατολογικό Γραφείο Πειραιώς

Αποστολή του εξ αρχής ήταν η προπαρασκευή του προσωπικού του τότε Βασιλικού Ναυτικού για πόλεμο, η παρακολούθηση και διάθεση κατωτέρου προσωπικού σε Υπηρεσίες και Συγκροτήματα, η παρακολούθηση της σταδιοδρομίας Μόνιμου και Στρατεύσιμου Προσωπικού, η σύνταξη των πινάκων των εφέδρων Υπαξιωματικών και Ναυτοπαίδων, η μέριμνα για τη συνεχή παροχή εκπαιδευτικού υλικού στις υπαγόμενες υπηρεσίες προς εκπλήρωση των στόχων τους και η εκπαίδευση αλλοδαπών μαθητών.

Αρχικά το Επιτελείο ΑΝΕ όταν αντικατέστησε την ΑΔΣ, στεγάστηκε σε νεόδμητο κτίριο στο Σκαραμαγκά και το 1959 κατασκευάστηκε σε μικρή απόσταση άλλο κτίριο που εξυπηρετούσε ως Λέσχη Αξιωματικών και αργότερα ως ενδιαιτήσεις Αξιωματικών που συμμετέσχαν σε Σχολεία Γενικής Επιμόρφωσης στο ΚΕΠΑΛ.

Το 1969 η υπηρεσία μετονομάσθηκε σε Διοίκηση Εκπαίδευσης και το 1970 σε Διοίκηση Ναυτικής Εκπαιδεύσεως

Το 1999 λόγω του σεισμού και των ζημιών που υπέστη το παλαιό ήδη κτήριο(χρονολογείται στο 1938) κρίθηκε αναγκαία η μεταφορά του και έτσι το παλαιό κτήριο της Λέσχης απετέλεσε τη δεύτερη στέγη της Υπηρεσίας. Το παλαιό κτίριο μετά από επισκευές και μεταρρυθμίσεις αποτέλεσε το νέο κτήριο των ενδιαιτήσεων της Σχολής Μονίμων Υπαξιωματικών Ναυτικού μετά την οριστική οριοθέτηση των περιοχών αρμοδιότητάς της εντός του Στρατοπέδου ΚΑΝΕΛΛΟΠΟΥΛΟΣ στην περιοχή Σκαραμαγκά.