Schon vor der Vereinigung am 3. Oktober 1990 war ein Deutsches Historisches Museum geplant und ein Wettbewerb ausgeschrieben worden. Es sollte in Nähe des Reichstages entstehen. Die Wende machte die Pläne zunichte. Neuer Standort sollte das Zeughaus werden, allerdingswar die Ausstellungsfläche deutlich kleiner als ursprünglich geplant, für Wechselausstellungen stand kein Platz zur Verfügung. Das Werkstatt- und Depotgebäude aus den 50er Jahren hinter dem Zeughaus konnte nicht ausstellungsgerecht umgebaiut werden. MAn gewann den international anerkannten Architekten Ieoh Ming Pei, der sich mit dem Eingangsgebäude zum Louvre erneut einen Namen gemacht hatte. Anfang 1997 stellte er seinen Entwurf als Modell vor, rund eineinhalb Jahre späte zeigte er eine Computersimulation. Am 23. MAi 2003 war das Gebäude fertig gestellt.
Insbesondere die gläserne Fassade mit der Spindeltreppe ist eine neue Attraktion und gibt dem zuvor belanglosen Ort einen neuen Stellenwert. Das viele Glas ermöglich viele Ausblicke und wechselnde Perspektiven auf die Umgebung.