Salah satu keputusan Konferensi Majelis Pengajaran Muhammadiyah yang diadakan di Pekalongan adalah sejarah UMJ dimulai dengan mendirikan Fakultas Hukum dan Falsafah di Padang Panjang, yang secara resmi dibuka pada tanggal 3 Rabi’ul Akhir 1375 H, bertepatan dengan tanggal 18 November 1955. Selanjutnya pada tahun 1956 dipindahkan ke Jakarta, dengan nama baru yakni Perguruan Tinggi Pendidikan Guru (PTPG) yang diresmikan pada tanggal 18 November 1975.

Hingga saat ini UMJ telah memiliki 10 (sepuluh) fakultas dan 1 (satu) sekolah pascasarjana, yang meliputi Fakultas Ilmu Sosial dan Ilmu Politik, Fakultas Hukum, Fakultas Ekonomi, Fakultas Teknik, Fakultas Agama Islam, Fakultas Pertanian, Fakultas Kedokteran, dan Kesehatan, Fakultas Ilmu Pendidikan, Fakultas Ilmu Keperawatan, serta Fakultas Kesehatan Masyarakat dan Sekolah Pascasarjana.

Pada tanggal 5 Maret 2024 berdasarkan Keputusan BAN-PT No.163/SK/BANPT/Ak/PT/III/2024 UMJ memperoleh sertifikat akreditasi institusi perguruan tinggi
“Terakreditasi UNGGUL” dari Badan Akreditasi Nasional Perguruan Tinggi.