Kobe Mosque merupakan masjid pertama di Jepang. Masjid ini dibangun tahun 1928 di Nakayamate Dori, Chuo-ku. Kobe berarti gate of God atau gerbang Tuhan. Tahun 1945, Jepang terlibat perang Dunia Kedua. penyerangan Jepang atas pelabuhan Pearl Harbour di Amerika telah membuat pemerintah Amerika memutuskan untuk menjatuhkan bom atom pertama kali dalam sebuah peperangan. Dan Jepang pun kalah. Dua kotanya, Nagasaki dan Hiroshima dibom Atom oleh Amerika. Saat itu, kota Kobe juga tidak ketinggalan menerima serangan pengeboman lewat udara walau tidak dengan sejenis bom Atom seperti Nagasaki dan Hiroshima.

Boleh dibilang Kobe juga menjadi rata dengan tanah. Ketika bangunan di sekitarnya hampir rata dengan tanah, Masjid Muslim Kobe tetap berdiri tegak. Masjid ini hanya mengalami keretakan pada dinding luar dan semua kaca jendelanya pecah. Bagian luar masjid menjadi agak hitam karena asap serangan bom. Tentara Jepang yang berlindung di basement masjid selamat dari ancaman bom, begitu juga dengan senjata-senjata yang disembunyikannya. Masjid ini kemudian menjadi tempat pengungsian korban perang.