Masjid Baiturrahim berlokasi di gampong Ulee Lheue Kecamatan Meuraxa Kota Banda Aceh. Masjid di Ujung Pulau Sumatra tersebut dibangun sekitar abad ke-17 oleh sultan Aceh ketika itu. Masjid ini awalnya bernama Masjid Jami' Ulee Lheue. Kemudian, perang pecah antara Kesultanan Aceh dan Belanda Pada tahun 1873, pasukan musuh membakar Masjid Raya Baiturrahman, Seluruh jamaah terpaksa melakukan shalat Jumat di Ulee Lheue, Sejak saat itulah nama bangunan ini menjadi Masjid Baiturrahim.
Sejak awal berdirinya, masjid yang didominasi warna putih itu telah mengalami beberapa kali renovasi. Awalnya, tempat ibadah ini dibangun dengan bahan dasar kayu. Bentuknya pun cukup sederhana dan cenderung minim dekorasi. Masjid Baiturrahim kembali diperbaiki sesudah Indonesia merdeka. Pada tahun 1981, Pemerintah Arab Saudi turut menyumbang untuk renovasi masjid tersebut. Pemugaran kali ini memperluas sisi kanan dan kiri tempat ibadah itu. Kapasitasnya pun melonjak tiga kali lipat, yakni menjadi 1.500 orang jamaah.
Dua tahun sesudah renovasi usai, gempa bumi melanda Banda Aceh dan sekitarnya. Banyak bangunan runtuh akibat musibat itu. Masjid Baiturrahim pun tidak luput dari kerusakan. Sekitar 60 persen struktur setempat tidak utuh lagi. Adapun kubahnya hancur tidak berbentuk lagi. Karena terbuat dari kayu, daya tahannya tidak begitu lama. Bagian-bagian yang lapuk dirobohkan dan digantik dengan kayu baru. Barulah pada tahun 1922, perbaikan dilakukan dengan menggunakan bahan bangunan yang lebih permanen. Pengerjaannya didukung pasokan materiel dari pemerintah Hindia Belanda. Sejak 1915, Kesultanan Aceh dapat ditaklukkan musuhnya itu walaupun berbagai perjuangan masih terus dilakukan secara gerilya oleh rakyat setempat hingga tahun 1942. Karena adanya campur tangan Belanda, corak arsitekturnya pun terpengaruh gaya bangunan Eropa. Hal itu tampak terutama pada bagian eksteriornya. Masjid ini tidak menggunakan bahan besi atau tulang penyangga, melainkan susunan batu bata dan semen saja. Renovasi yang dikerjakan pada masa kolonial itu tidak termasuk penambahan kubah. Hasilnya, secara keseluruhan daya tampungnya sekitar 500 orang jamaah. pada tahun 1922, perbaikan dilakukan dengan menggunakan bahan bangunan yang lebih permanen. Pengerjaannya didukung pasokan materiel dari pemerintah Hindia Belanda.
Saat renovasi pasca gempa, kubah untuk masjid tersebut ditiadakan. Sebagai gantinya, atap biasa dipakai untuk menaungi ruangan utama tempat shalat. Baiturrahim tetap bertahan seiring peristiwa demi peristiwa, termasuk banjir bandang pada 2001. Masjid Baiturrahim kembali diperbaiki sesudah Indonesia merdeka. Pada tahun 1981, Pemerintah Arab Saudi turut menyumbang untuk renovasi masjid tersebut. Pemugaran kali ini memperluas sisi kanan dan kiri tempat ibadah itu. Kapasitasnya pun melonjak tiga kali lipat, yakni menjadi 1.500 orang jamaah. Dua tahun sesudah renovasi usai, gempa bumi melanda Banda Aceh dan sekitarnya. Banyak bangunan runtuh akibat musibat itu. Masjid Baiturrahim pun tidak luput dari kerusakan. Sekitar 60 persen struktur setempat tidak utuh lagi. Adapun kubahnya hancur tidak berbentuk lagi.
Pada tanggal 26 Desember 2004, gelombang raksasa setinggi 21 meter menghantam pesisir utara Banda Aceh. Kawasan Ulee Lheue yang berada persis di tepi laut menjadi salah satu wilayah yang paling parah terkena dampak. Nyaris semua bangunan di wilayah ini rata dengan tanah atau hanyut terhempas gelombang ke arah pusat Kota Banda Aceh – beserta ribuan jiwa yang menjadi korban.
Ketika bencana tsunami itu terjadi, masjid ini tetap kokoh berdiri di tengah hamparan puing bangunan sekitarnya yang telah hancur. Hanya sebagian kecil bagian bangunan yang mengalami kerusakan akibat bencana tersebut. Pasca tsunami, masjid ini menarik perhatian banyak pihak dari berbagai belahan dunia. Sebagai salah satu rumah ibadah yang selamat dari bencana, keberadaan masjid ini menjadi daya tarik wisata bernuansa religi selain Masjid Raya Baiturrahman dan Masjid Rahmatullah Lampuuk di lhoknga Aceh Besar.