Berawal dari pembentukan yayasan, yang selanjutnya bernama Yayasan Pendidikan Pondok Pesantren Modern Al Furqon Prabumulih, Yayasan ini selanjutnya disahkan oleh Notaris Hamidayati Hamid, SH., pada tanggal 04 Desember tahun 1996, pada masa-masa awal pendiriannya, Yayasan ini mengalami kesulitan untuk melaksanakan Kegiatan Belajar Mengajar (KBM) secara praktis, hal tersebut dikarenakan beberapa hal diantaranya adalah: Masih belum selesainya pembangunan asrama dan lokal pada tahun-tahun pertama, sebab yang lain adalah masih belum adanya SDM yang memadai untuk melaksanakan pendidikan kepesantrenan, meskipun secara materi Pondok Pesantren ini bisa dikategorikan cukup mapan namun untuk memulai palaksanaan KBM tentu belum cukup, oleh sebab itu Pengurus Yayasan  mulai mencari tenaga-tenaga pendidik yang profesional dari berbagai daerah di Sumatera Selatan, dan pencarian itupun berakhir setelah Ketua Yasyasan bertemu dengan Ketua Yayasan Pondok Pesantren Assalam Sunagai Lilin MUBA (Ust. H. Abdul Malik Musir, Lc), Memelauli kerja sama yang terjalin maka disepakati bahwa untuuk memulai pelaksanaan KBM maka Ust. Abdul Malik, Lc bertanggung jawab untuk SDM pendidik di Yayasan Pondok Pesantren Modern Al-Furqon Prabumulih.

Dengan telah terpenuhinya syarat minimal untuk pelaksanaan pendidikan kepesantrenan maka Pondok Pesantren Modern Al-Furqon mulai melaksakan KBM secara resmi pada 18 Juli 2002, dan mendapatkan Izin Operasional dari Kantor Wilayah Departemen Agama Sumatera Selatan pada tanggal 07 Oktober 2002, dan Pada tahun inilah awal mula dirintis segala sesuatu yang menjadi kebutuhan masyarakat dalam bidang pendidikan keagamaan. Selanjutnya Pondok Pesantren ini diresmikan oleh Menteri Sosial (Bpk. Bactiar Chamzah) pada tanggal, 08 Maret 2003.

Pada awal dimulainya pendidikan di Pesantren ini hanya memiliki, 67 santri, 6 lokal yang dijadikan sebagai tempat belajar 3 ruang, untuk musholla 2 lokal dan untuk kantor 1 lokal. Asrama pemondokan 1 buah yang kemudian di buat dinding pemisah untuk santri putra dan putri. 1 unit dapur dan 1 unit rumah dinas guru (2 pintu).

Dalam bidang keuangan, Pondok Pesantren Modern Al-Furqon diberi subsidi untuk pemenuhan operasional selama 1 tahun pertama, dan Alhandulillah pada tahun kedua sudah bisa mandiri secara finansial dan tidak lagi disubsidi oleh yayasan dalam pemenuhan operasional. Adapun dalam pemenuhan fasilitas gedung, kendaraan operasional dan lain-lain masih senantiasa mendapatkan subsidi dari pihak Yayasan.

Pada tahun ini (2012) Pondok Pesantren Modern Al-Furqon telah genap berusia 10 tahun (satu dekade) meskipun dalam perjalanannya banyak mengalami hambatan dan rintangan, diantaranya adalah: Fasilitas yang belum memadai, jumlah ruang kelas dan asrama yang masih kurang dan masih banyak kekurangan dalam bidang-bidang lain, namun Pondok Pesantren Modern Al-Furqon tetap mampu melaksanakan kewajibannya melaksanakan Kegiatan Belajar Mengajar dengan baik, hal ini terbukti dengan keberhasilan alumni-alumninya yang telah berhasil melanjutkan pendidikan di perguruan tinggi Negeri maupun Swasta dalam dan luar negeri, secara umum 85 % alumni pondok pesantren modern Al-Furqon melanjutkan ke perguruan tinggi dan sisanya langsung bekerja dan mengabdikan diri di lembaga-lembaga pendidikan. Dalam bidang pemenuhan fasilitas Pondok Pesantren Modern Al-Furqon juga senantiasa mengusahakan menambah bangunan, fasilitas dan kendaraan operasional dengan cara melakukan usaha erkebunan, perdagangan, peternakan dan mencari bantuan baik dari pemerintah, dermawan dan lain-lain.

Pada tahun ini, Pondok Pesantren Modern Al-Furqon sedang mengupayakan pemenuhan fasilitas yang sangat mendesak diantaranya: Menyelesaikan pembangunan masjid putra, menambah lokal belajar sebanyak 3 ruang, membangun asrama putra 1 unit dan membangun kantor.