Selama berabad-abad yang lalu, kawasan utara Yogyakarta menjadi pusat peradaban Kerajaan Mataram kuno. Candi ini dibangun pada abad ke-9 pada masa pemerintahan raja Rakai Garung pada zaman Kerajaan Mataram Kuno. Candi ini merupakan candi Hindu dan pada saat itu candi ini menjadi tempat pemujaan kepada Dewa Siwa. Candi ini berdiri dengan megahnya di kaki Gunung