PMI Kota Yogyakarta berdiri 29 September 1945 dengan nama PMI Cabang Yogyakarta. Peranan PMI Cabang Yogyakarta lebih banyak ditekankan untuk menangani bidang yang berhubungan dengan perang dan akibatnya, setelah perang kemerdekaan di Indonesia selesai. Pada masa itu kepala PMI Cabang Yogyakarta dijabat oleh Dr. Martohoesodo dan kegiatan-kegiatannya dipusatkan di Markas Cabang PMI dijalan Gondokusuman No. 14 Yogyakarta. Saat ini PMI Cabang Yogyakarta bermarkas di di Jl. Tegalgendu No. 25 Kotagede Yogyakarta 55172 dan sekarang bernama PMI Kota Yogyakarta.