Pada awalnya museum wayang menempati sebuah gereja tua yang didirikan VOC pada tahun 1640 dengan nama “de oude Hollandsche Kerk” yang sampai pada tahun 1732 masih berfungsi sebagai tempat peribadatan penduduk sipil dan tentara belanda Belanda yang tinggal di Batavia. Pada tahun 1733 gereja tersebut mengalami perbaikan dan berganti nama menjadi “de nieuwe Hollandsche Kerk” sampai dengan tahun 1808.

Pada saat ini di halaman gereja itu dijadikan taman terbuka Museum wayang yang didalamnya terdapat taman kecil dengan prasasti-prasasti yang berjumlah 9 buah yang menampilkan nama-nama pejabat Belanda yang dimakamkan di halaman gereja tersebut. Salah satu dari prasasti tersebut tertulis nama Jan Pieterszoon Coen yang merupakan gubernur jendral yang berhasil menguasai kota Jayakarta pada thun 1619.
Pada tahun 1908 terjadi gempa yang menyebabkan gereja belanda tersebut rusak dan setelah itu lokasi bekas gereja dibangunlah gedung yang nampak seperti sekarang.

Pada tahun 1912 bagian muka museum ini dibangun dengan gaya Noe Reinaissance dan pada tahun 1938 seluruh gedung dipugar dan disesuaikan dengan gaya rumah belanda pada zaman kompeni.
Sesuai dengan besluit pemerintah Hindia Belanda tertanggal 14 Agustus 1936 ditetapkanlah gedung berserta tanahnya menjadi monumen.
Selanjutnya dibeli oleh Bataviaasch Genootschap van Kunsten en Wetenschappen yaitu lembaga independent yang didirikan untuk tujuan memajukan penelitian dalam bidang seni dan ilmu pengetahuan khususnya dalam bidang-bidang ilmu biologi, fisika, arkeologi, kesusastraan, etnologi dan sejarah, serta menerbitkan hasil penelitian.

Pada tahun 1937 oleh lembaga tersebut gedung tersebut diserahkan kepada Stichting oud Batavia dan kemudian dijadikan museum dengan nama “de oude Bataviasche Museum” atau “museum Batavia lama”

Selama pendudukan Jepang dan revolusi kemerdekaan RI, museum tersebut tidak terawat dan pada tahun 1957 diserahkan kepada Lembaga kebudayaan Indonesia dan diganti nama menjadi “Museum Jakarta Lama”

Pada tanggal 1 Agustus 1960 namanya disingkat menjadi “Museum Jakarta”. Sejak kepindahan Museum Jakarta ke Gedung Stadhuis maka gedung ini dijadikan Museum wayang.