भारतीय राष्ट्रीय अभिलेखागार की उत्पत्ति अतीत में वर्ष 1860 से देखी जा सकती है जब तत्कालीन सिविल लेखा परीक्षक, सैंडमैन, ने अपने रिपोर्ट में नियमित स्वरुप के कागजात के नष्ट करने तथा सभी मूल्यवान अभिलेखों को एक 'भव्य केंद्रीय अभिलेखागार' में हस्तांतरित करने के माध्यम से कार्यालयों को सघनता से राहत दिलाने की आवश्यकता पर बल दिया था। हालांकि, परिस्थितियां 1889 में एक ठोस आकार में तब आयीं जब बॉम्बे के एलफिन्स्टन कॉलेज के प्रोफेसर जी० डब्ल्यू० फॉरेस्ट को भारत सरकार के विदेश विभाग के अभिलेखों की जांच का काम सौंपा गया। इससे पहले, वे बॉम्बे अभिलेख कार्यालय में एक अभिलेखाध्यक्ष के रूप में अपने कार्य के लिए प्रतिष्ठा अर्जित कर चुके थे। अपनी रिपोर्ट में, उन्होंने ईस्ट इंडिया कंपनी के प्रशासन से सम्बंधित सभी अभिलेखों को एक केन्द्रीय भंडार में स्थानांतरित करने के लिए एक मजबूत दलील की थी। इसके फलस्वरूप, 11 मार्च 1891 को इंपीरियल अभिलेख विभाग (आईआरडी) अस्तित्व में आया जो कलकत्ता (कोलकाता) में इंपीरियल सचिवालय भवन में स्थित था। प्रोफेसर जी० डब्ल्यू० फॉरेस्ट को इसका प्रभारी अधिकारी बनाया गया। उनका मुख्य कार्य सभी विभागों के अभिलेखों को जांच, स्थानान्तरण, व्यवस्थित तथा सूचीपत्रित करना था और विभिन्न विभागीय पुस्तकालयों के स्थान पर एक केन्द्रीय पुस्तकालय का आयोजन करना था। जी० डब्ल्यू० फोरेस्ट के बाद, एस० सी० हिल (1900), सी० आर० विल्सन (1902), एन० एल० हॉलवर्ड (1904), ई० डेनिसन रॉस (1905), ए० एफ० स्कोलफील्ड (1915), आर० ए० ब्लेकर (1919), जे० ए० मित्रा (1920) और राय बहादुर ए० एफ० एम० अब्दुल अली (1922-1938), के तहत, जो अपने-आप में विद्वानों के साथ-साथ अभिलेखपाल भी थे, इंपीरियल अभिलेख विभाग (आईआरडी) में कार्य ने अच्छी प्रगति की। 

1911 में कलकत्ता (कोलकाता) से नई दिल्ली में स्थानांतरण के पश्चात, इम्पीरियल अभिलेख विभाग (आईआरडी) 1926 में वर्तमान भवन में स्थानांतरित हुआ। आजादी के बाद, आईआरडी का भारतीय राष्ट्रीय अभिलेखागार के रूप में पुनः नामकरण किया गया तथा संगठन के प्रधान का अभिलेखपाल से अभिलेखागार निदेशक के रूप में नामित किया गया। डॉ० एस० एन० सेन, जिन्होंने ए० एफ० एम० अब्दुल अली से पदभार ग्रहण किया और 1949 तक पद पर बने रहे, ने इंपीरियल/अभिलेख विभाग/भारतीय राष्ट्रीय अभिलेखागार की गतिविधियों को एक समग्र उन्मुखीकरण प्रदान किया। 1939 में पहली बार, वास्तविक शोध कार्य के उद्देश्य से अभिलेखों को लोगों के लिए खोल दिया गया तथा 1947 आने तक 1902 से पूर्व के सभी अभिलेख परामर्श के लिए उपलब्ध कर दिए गए थे। संरक्षण से सम्बन्धित समस्याओं के अनुसंधान के लिए, 1940 में, एक संरक्षण अनुसंधान प्रयोगशाला (सीआरएल) की स्थापना की गयी, जो डॉ० सेन की ही दूरदर्शी योगदान थी। अभिलेखागार रखरखाव में प्रशिक्षण 1941 में शुरू की गयी तथा 1944 में, भारत में अभिलेखागार कार्यालयों के युद्धोत्तर पुनर्गठन की एक योजना भारतीय ऐतिहासिक अभिलेख आयोग द्वारा निर्धारित की गई। 1947 में, विभागीय पत्रिका, भारतीय अभिलेखागार अस्तित्व में आया; जिसमें आधुनिक भारतीय इतिहास के स्रोत सामग्री, दस्तावेजों के संरक्षण, अभिलेख प्रबंधन, रेप्रोग्राफ़िक्स, अभिलेखीय जागरूकता और कार्यात्मक अभिलेखागार के अन्य सभी संबद्ध पहलुओं पर शोध पत्र शामिल थे।

इस प्रकार, भारतीय राष्ट्रीय अभिलेखागार आजादी के बाद पूरे देश के अभिलेखीय क्षेत्र में एक अधिक गतिशील और प्रेरक भूमिका निभाने की दिशा में प्रगति के पथ पर अग्रसर हुआ। उस समय से, सार्वजनिक अभिलेखों के परिग्रहण, निजी पत्रों/संग्रहों और पुस्तकालय सामग्री के अधिग्रहण, अभिलेख प्रबंधन, अनुसंधान एवं संदर्भ, प्रकाशन, प्रशिक्षण, संरक्षण, रेप्रोग्राफी, डिजिटलीकरण, आउटरीच कार्यक्रमों, राष्ट्रीय और अंतर्राष्ट्रीय स्तर पर समन्वय तथा क्षेत्रीय स्तर पर कार्यालय के विस्तार के क्षेत्रों में इसकी गतिविधियों में कई गुना विस्तार हुए। जून 1990 में विभाग के अपनी प्रतिष्ठा में और प्रोत्साहन महसूस किया जब अभिलेखागार के निदेशक के कार्यालय को अभिलेखागार के महानिदेशक के रूप में नामित किया गया। वर्तमान में भारतीय राष्ट्रीय अभिलेखागार संस्कृति मंत्रालय के अंतर्गत एक संबद्ध कार्यालय है तथा भोपाल में इसका एक क्षेत्रीय कार्यालय तथा जयपुर, पुदुचेरी और भुवनेश्वर में इसके तीन अभिलेख केंद्र हैं।

मार्च 2015 में, विभाग ने अपने अस्तित्व के 125 वर्ष पूरे किए।

भारतीय राष्ट्रीय अभिलेखागार के इतिहास में इस महत्वपूर्ण मील के पत्थर का उत्सव मनाने के लिए तथा अभिलेखागार को इसके उपयोगकर्ताओं और आम जनता के करीब लाने के उद्देश्य से 11 मार्च 2015 को इसके 125वें स्थापना दिवस से आरंभ कर वर्ष भर के एक समारोह की योजना बनाई गई।

पूरे वर्ष को एनएआई (भारतीय राष्ट्रीय अभिलेखागार) के इतिहास में आउटरीच, डिजिटलीकरण, ब्रांडिंग पहल और पहुंच के सन्दर्भ में महत्वपूर्ण विकास और वृद्धि हासिल करने के एक अवसर के रूप में उपयोग किया गया। कार्यान्वयन समिति द्वारा संचालित और निगरानी के अंतर्गत, वर्ष 2016 ने सभी क्षेत्रों में और सभी केंद्रों में महत्वपूर्ण उपलब्धियों देखीं, जो उद्देश्य के एक नए अर्थ से उर्जित था।

विभाग के विभिन्न विभागों/क्षेत्रीय केन्द्रों द्वारा चलाये गए गतिविधियों के विवरण के साथ, 7 मार्च 2016 को एक विवरणिका जारी की गयी है।