Το Εθνικό Μετσόβιο Πολυτεχνείο έκανε την εμφάνισή του το 1837 με την ονομασία Πολυτεχνικό Σχολείο και με την πλέον στοιχειώδη μορφή εκπαιδευτικού ιδρύματος, ως δημοτικό σχολείο τεχνικής εκπαιδεύσεως. Λειτουργούσε μόνο Κυριακές και εορτές.
Το 1840 προστίθεται και σχολείο συνεχούς λειτουργίας, ενώ πληθύνονται και επεκτείνονται τα μαθήματα. Το Πολυτεχνείο εγκαθίσταται σε δικό του κτήριο στην οδό Πειραιώς. Με τον ζήλο των μαθητών και των διδασκόντων, το σχολείο αναπτύσσεται συνεχώς και ανυψώνεται η στάθμη του. Τα μαθήματα περιλαμβάνουν τώρα Μαθηματικά, Χημεία, Σχέδιο, Μηχανική και Παραστατική Γεωμετρία, ενώ η εκπαιδευτική οργάνωση περιλαμβάνει χειμερινό και θερινό εξάμηνο. Κατά την περίοδο 1844-1862, πλην του κυριακάτικου και καθημερινού Σχολείου, δημιουργείται και Ανώτερο Σχολείο, που περιλαμβάνει την Αρχιτεκτονική και Καλές Τέχνες. Την περίοδο αυτή εισάγεται ως μάθημα και η Μηχανουργία.
Τον Ιανουάριο του 1856 ακούστηκαν για πρώτη φορά μαθήματα περί "Μαγνητικής" και περί "Στατικού Ηλεκτρισμού" και τον Ιούνιο του 1860 εκπαιδεύτηκαν οι πρώτοι χειριστές του τηλεγράφου. Κατά την τριετία 1862-64 το Πολυτεχνείο αναδιοργανώνεται με εισαγωγή περισσοτέρων τεχνικών μαθημάτων. Η τάση αυτή συνεχίζεται στην περίοδο 1864-1873. Διοργανώθηκε το μηχανουργείο, το οποίο ονομάσθηκε "Σιδηρουργικόν Εργοστασιον", και δημιουργήθηκε το "Τηλεγραφικόν Εργοστάσιον", ενώ εξαπλώνεται το τηλεγραφικό δίκτυο σε όλη τη χώρα. Το έτος 1873 το Πολυτεχνείο μεταφέρεται στα κτίρια της οδού Πατησίων και παίρνει την ονομασία Μετσόβιον Πολυτεχνείον, για να τιμηθούν οι ευεργέτες και οι δωρητές από το Μέτσοβο. Η μορφή αυτή συνεχίζεται και μετά το 1873. Το έτος 1881 ιδρύεται Μονοτάξια Τηλεγραφική Σχολή, με διάρκεια σπουδών ένα έτος.
Το 1887 το Μετσόβιο Πολυτεχνείο χωρίζεται και οι τεχνικές ειδικότητες υπάγονται στο Σχολείον Βιομηχάνων Τεχνών, όπως ονομάσθηκε. Ιδρύονται 3 Σχολές τετραετούς φοιτήσεως: Πολιτικών Μηχανικών, Μηχανουργών και Γεωμετρών Εργοδηγών. Συντάσσεται αναλυτικό πρόγραμμα της διδακτέας ύλης και οργανισμός εσωτερικής λειτουργίας. Η λειτουργία των Σχολών συνεχίζεται έως το 1914, οπότε το Ιδρυμα παίρνει την ονομασία "Εθνικόν Μετσόβιον Πολυτεχνείον" και υπάγεται στο Υπουργείο Δημοσίων Εργων. Πλην των Σχολών "Πολιτικών Μηχανικών" και "Μηχανικών και Μηχανολόγων" (όπως μετονομάσθηκε η Σχολή Μηχανουργών), το νομοθετικό διάταγμα του 1914 προ βλέπει ίδρυση Σχολών "Αρχιτεκτόνων" και "Ηλεκτρολόγων και Τηλεγραφομηχανικών". Οι Σχολές αυτές χαρακτηρίζονται ως ανώτατες και είναι 4ετούς φοιτήσεως. Διάφορες εκπαιδευτικές δραστηριότητες χαμηλότερης στάθμης, εντάσσονται σε Σχολεία εργοδηγών προσαρτημένα στις Ανώτατες Σχολές. Συντάσσεται νέος οργανισμός και κανονισμός φοιτήσεως.
Τελικά, το 1917, με νέο νομοθετικό διάταγμα, η Ανώτατη Σχολή Μηχανολόγων μετατράπηκε σε Ανωτάτη Σχολή Μηχανολόγων - Ηλεκτρολόγων και ιδρύονται επιπλέον οι Σχολές Αρχιτεκτόνων, Χημικών Μηχανικών και Τοπογράφων Μηχανικών. Στην Ανωτάτη Σχολή Μηχανολόγων - Ηλεκτρολόγων προστίθενται συνεχώς μαθήματα και δημιουργούνται νέα εργαστήρια. Τα προσφερόμενα μαθήματα είναι μικρά και όλα υποχρεωτικά.
Αλλά, κατά τη δεκαετία του 1960 αρχίζει ήδη να διαφαίνεται η ανάγκη διαχωρισμού των δύο περιοχών, πράγμα που κατέστησε αναγκαίο, η μεγάλη και συνεχής τεχνολογική πρόοδος. Το 1963 ιδρύεται στην Ανωτάτη Σχολή Μηχανολόγων ο κύκλος του Μηχανικού Παραγωγής και το 1968 το Τμήμα Ναυπηγών. Τελικά, από το 1975 γίνεται διαχωρισμός της Σχολής Μηχανολόγων - Ηλεκτρολόγων σε δύο ανεξάρτητες Σχολές. Η Ανωτάτη Σχολή Μηχανολόγων Μηχανικών περιέλαβε το Τμήμα Ναυπηγών και τον Κύκλο Μηχανικού Παραγωγής.
Με την εφαρμογή του Νόμου Πλαισίου των Α.Ε.Ι. το 1982, το Τμήμα Ναυπηγών αποσπάται από τη Σχολή Μηχανολόγων Μηχανικών, η δε Ανωτάτη Σχολή Μηχανολόγων Μηχανικών μετονομάζεται σε Τμήμα Μηχανολόγων Μηχανικών. Συγχρόνως, το προσωπικό και οι εκπαιδευτικές και ερευνητικές δραστηριότητες του Τμήματος κατανέμονται σε έξι Τομείς:
- Βιομηχανικής Διοικήσεως και Επιχειρησιακής Έρευνας
- Θερμότητας
- Μηχανολογικών Κατασκευών και Αυτομάτου Ελέγχου
- Πυρηνικής Τεχνολογίας
- Ρευστών
- Τεχνολογίας των Κατεργασιών
Όλοι οι Τομείς βρίσκονται σε συνεχή συνεργασία και αλληλοσυμπλήρωση μεταξύ τους.
Το 1986 δημιουργούνται στο Τμήμα άλλοι δύο κύκλοι σπουδών (του Ενεργειακού Μηχανολόγου Μηχανικού και του Κατασκευαστού Μηχανολόγου Μηχανικού) στους οποίους προστίθεται, το 1990, και ο κύκλος του Αεροναυπηγού Μηχανολόγου Μηχανικού. Οι 4 κύκλοι σπουδών του Τμήματος δίνουν τη δυνατότητα στους φοιτητές να προσδιορίσουν εν μέρει μόνοι τους το κέντρο βάρους των σπουδών τους.
Η εργαστηριακή εξάσκηση των φοιτητών καθώς και η εκτέλεση του ερευνητικού έργου από τα μέλη του Διδακτικού Προσωπικού γίνεται στα εργαστήρια της Σχολής, έτσι ώστε να εξυπηρετούνται οι τρεις βασικές προτεραιότητες της Σχολής: Το εκπαιδευτικό έργο, που περιλαμβάνει παραδόσεις μαθημάτων, ασκήσεις, εργαστήρια, σεμινάρια, διπλωματικές εργασίες. Το ερευνητικό έργο και οι διδακτορικές διατριβές, που γίνονται στους έξι Τομείς της Σχολής. Το κοινωνικό έργο, που αφορά στην ανάπτυξη της τεχνολογίας σε συνεργασία με τη βιομηχανία - βιοτεχνία, τους κρατικούς και τους ιδιωτικούς φορείς.