Pada tahun1992 dikelurahan Ledok Kec. Argomulyo Kota Salatiga dibangun perumahan Argomas Timur, dimana pengembang pada waktu itu adalah CV. Wahid Salatiga. Namun dikomplek perumahan tersebut pengembang tidak menyediakan fasilitas untuk Ibadah khususnya Masjid bagi umat Islam. Maka para tokoh Islam pada saat itu seperti Bp. Muh. Arifin, Bp. Wisnu Kuncoro, Bp. Bambang Irawan, Bp. Wagiman Sunarso (almr), Bp. H. Darmono (almr) dan tokoh yang lain, berusaha untuk mendirikan Masjid untuk pemenuhan kebutuhan ibadah saat itu, karena warga perumahan apabila beribadah khususnya pada bulan Romadhon anjangsana di rumah2 warga perumahan.Maka disepakati tanah open space yang berada dilokasi RT 04 RW IX digunakan untuk pendirian Masjid. Dengan perjuangan yang sangat luar biasa dari para tokoh Islam serta dibantu sepenuhnya oleh warga muslim perumahan, Maka berdirilah Masjid Al-Muhajirin yang menjadi kebanggaan warga perumahan argomas timur sebagai sarana Ibadah baik untuk sholat jamaah sehari-hari, sholat Jum'at juga untuk Pengajian baik untuk bapak2, Ibu2 serta pangajian remaja. Serta untuk kegiatan pendidikan nonformal TPQ bagi anak2 dilingkungan perumahan dan sekitarnya.
Masjid Al Muhajirin sudah berkali-kali mengalami rehab secara fisik, tahun 2014 menambah lantai atas pada bagian serambi, sehingga sekarang bagian serambi sdh menjadi dua lantai dan sekaligus rehab tempat wudhu laki2 dan wanita, dan tahun 2018 rekab dinding ruang utama kiri dan kanan dengan pemasangan granit dan ornamen pada dinding tembok.