Membeli rumah akan melibatkan jumlah uang yang tidak sedikit, oleh karenanya diperlukan Kredit Pemilikan Rumah (KPR) dengan masa angsuran yang cukup panjang. Bagi perbankan, sumber dana yang tersedia untuk membiayai KPR umumnya berjangka pendek (tabungan, giro, deposito, dan sebagian dari obligasi), sehingga menimbulkan maturity mismatch (kesenjangan jangka waktu).

Masalah maturity mismatch ini, dialami hampir oleh semua negara berkembang dan masing-masing mencari solusi yang cocok dengan kondisi negaranya.

Sejak tahun 1983, proses diskusi intensif tentang pendirian lembaga pembiayaan sekunder perumahan telah dilaksanakan diantara para pemangku kepentingan industri pembiayaan perumahan. Kemudian, dilanjutkan dengan serangkaian studi kelayakan yang dipelopori oleh Pemerintah dalam hal ini Departemen Keuangan, antara tahun 1993 hingga semester pertama tahun 2005.

Melalui suatu rangkaian studi yang dilakukan sejak tahun 1993 oleh kelompok kerja yang dibentuk oleh Departemen Keuangan dan dibantu oleh konsultan asing yang dibiayai oleh USAID melalui Municipal Finance Project, maka pada tahun 1998, terbit Keputusan Menteri Keuangan Republik Indonesia No. 132/KMK.014/1998, yang membuka peluang berdirinya lembaga pembiayaan sekunder perumahan. Lembaga ini belum sempat berdiri karena pada saat itu belum ada investor yang berminat. Pemerintah tetap memberikan komitmennya terhadap pembentukan lembaga tersebut dengan membentuk kelompok kerja baru. Akhirnya, berdasarkan Peraturan Pemerintah Republik Indonesia No. 5/2005, tanggal 7 Februari 2005, tentang Penyertaan Modal Negara Republik Indonesia serta Peraturan Presiden Republik Indonesia No. 19/2005, tanggal 7 Februari 2005, tentang Pembiayaan Sekunder Perumahan, akte Notaris Imas Fatimah, SH, No. 59 yang telah diumumkan dalam Berita Negara Republik Indonesia tertanggal 30 Agustus 2005 No. 69 Tambahan No. 9263 maka didirikanlah PT Sarana Multigriya Finansial (Persero) pada 22 Juli 2005.

Penyesuaian Anggaran Dasar dengan Undang-Undang No. 40 Tahun 2007 tentang Perseroan Terbatas dilakukan pada 13 Agustus 2008 dengan akte No. 114 Notaris Sutjipto, SH, persetujuan Menteri Hukum dan Hak Asasi Manusia Republik Indonesia berdasarkan Surat Keputusan tertanggal 5 Desember 2008 No. AHU-94053.AH.01.02 Tahun 2008 dan telah diumumkan dalam Berita Negara Republik Indonesia tertanggal 3 Juli 2009 No. 53 Tambahan No. 17294. Perubahan Anggaran Dasar terakhir berdasarkan akta No. 16 tanggal 15 November 2022, yang dibuat dihadapan Ir. Nanette Cahyanie Handari Adi Warsito, Sarjana Hukum, Notaris di Jakarta, dan telah memperoleh persetujuan Menteri Hukum dan Hak Asasi Manusia Republik Indonesia Nomor AHU-AH.01.03-0314601 tanggal 17 November 2022.

Pada 12 Oktober 2020, diterbitkan Peraturan Presiden Republik Indonesia No. 100/2020 tentang Perubahan Ketiga atas Peraturan Presiden No. 19/2005 tentang Pembiayaan Sekunder Perumahan.