Το Παλιό Μικρό Χωριό βρίσκεται σε απόσταση μόλις 2 χλμ. από το Μικρό Χωριό και είναι χτισμένο μέσα σε πυκνό ελατοδάσος σε υψόμετρο 950 μέτρων.

Οι γραπτές μαρτυρίες αναφέρουν την ύπαρξη του Μικρού Χωριού πριν από τον 14ο αιώνα, με το όνομα «Τζίρο».

Το 1818 ο Γάλλος περιηγητής Πουκεβίλ, αναφέρει στις περιγραφές του το Μικρό Χωριό το οποίο κατατάσσει στα «Πολιτοχώρια» στα χωριά δηλαδή που πολλοί από τους κατοίκους του ξενιτεύονταν στην Κωνσταντινούπολη για να «καζαντίσουν». Αρκετοί από τους Μικροχωρίτες που δούλεψαν και δημιούργησαν περιουσίες στην Κωνσταντινούπολη, γύρισαν στο χωριό και έχτισαν πετρόχτιστα αρχοντικά, με ανώγια και κατώγια, καμάρες και αυλές. Τα περισσότερα από αυτά βρίσκονταν στο τμήμα του χωριού που κατολίσθησε το 1963.

Οι Μικροχωρίτες συμμετείχαν στους αγώνες της επανάστασης του 1821 και αρκετοί από αυτούς πήραν μέρος στη μάχη του Κεφαλόβρυσου (1823) υπό τον Μάρκο Μπότσαρη.

Κατά τη διάρκεια της Κατοχής, στις 18 Δεκεμβρίου 1942, διεξήχθη στην περιοχή μάχη μεταξύ δύναμης του ΕΛΑΣ και ιταλικού συντάγματος. Στη μάχη που είναι γνωστή ως «Μάχη του Μικρού Χωριού», οι αντάρτες του ΕΛΑΣ χτύπησαν σε ενέδρα την εμπροσθοφυλακή του ιταλικού συντάγματος, προκαλώντας μεγάλες απώλειες στους Ιταλούς.Οι Ιταλοί προχώρησαν σε πράξεις αντιποίνων καίγοντας πολλά σπίτια του χωριού και εκτελώντας ομήρους που είχαν συλλάβει από τα γύρω χωριά.

Το Μικρό Χωριό εγκαταλείφθηκε από το μεγαλύτερο μέρος του πληθυσμού, ύστερα από μεγάλες κατολισθήσεις που σημειώθηκαν στις 13 Ιανουαρίου 1963 στην πλαγιά βορειοδυτικά του χωριού, προκαλώντας το θάνατο 13 κατοίκων. Οι κάτοικοι εγκαταστάθηκαν κοντά στον Καρπενησιώτη ποταμό και δημιούργησαν το Νέο Μικρό Χωριό.