Biblioteket ble etablert da Forsvarsmuseet ble opprettet i 1976 og besto av militær faglitteratur, reglementer og dokumenter. Biblioteket hadde tidligere vært knyttet til Hærmuseet som hadde sitt utspring i Artillerietes modellkammer (opprettet 1860) og Intendanturmuseet (oppretttet 1928). Begge museene hadde egne bibliotek som ble slått sammen til Hærmuseets bibliotek i 1945. Frem til 1992 holdt biblioteket til i FMUs øst-fløy da det ble flyttet over til den gamle «Riddersalen» i museets vest-fløy, med klimatisert magasin og en publikumsavdeling. Det ble samlokalisert med Forsvarets historiske biblioteker som frem til dette hadde stått oppbevart ved Institutt for Forsvarsstudier (IFS) i Krigsskolens gamle lokaler i Tollbugt. 10.
I tillegg til fagbibliotekene ved de eldre museene er samlingen bygd opp av overføringer fra andre avdelinger og biblioteker i Forsvaret, gaver fra privatpersoner, men først og fremst ved innkjøp av ny litteratur. Reglementene er skilt ut som en egen samling.
Tidsperiode: 1945- løpende
Type: Bøker, småskrifter.
Omfang: Ca. 15.000. 10.000 på åpne hyller i publikumsavdelingen og 5000 på magasin.
Ordning: I utgangspunktet var det brukt UDK som klassifikasjonssystem (felles skjema for hele museet), deretter ble Dewey tatt i bruk. I dag er biblioteket klassifiert etter en blanding av begge systemene.
Katalog: Alle bøkene er registrert i den elektroniske bibliotekkatalogen.
Bøkene er også meldt Norsk samkatalog for bøker .
Lokalisering: Forsvarsmuseet Oslo