由人民路沿中山中路向西行至缸彭巷即是上海地區最古老的伊斯蘭教寺院，始建於元至正年間（1341～1368年），初名真教寺。明、清又經過多次重修擴充，因此，如今的清真寺既有元代時期的建築風格，又有明、清兩代的建築特色，是一座中外融合的阿拉伯伊斯蘭教寺院風格的建築。

    清真寺大門向北，在清真寺正門內外均建有照壁，行制同中國古典建築。外照壁橫書“清妙元真”四個大字，內照壁直書“清真寺”三字，均為楷體正書，筆意嚴整，筆力遒勁。經通道在西側牆下有一個小墓，為元代達魯花赤墓。通過上書“認主獨一”的古碑園園門進入古碑園，古碑園中尚有古碑三方，一方為《重修真寺碑記》是康熙十六年（1677年）由松江府學教授、淮安進士楊才瑰撰文，松江清真寺主持賽印昌與幾十位穆斯林共立。這方古碑記述了松江清真寺和建立年代，歷代修建經過，是研究松江清真寺的重要資料；另外兩方都是清真寺捐輸碑記，分別刻於清嘉慶十七年（1812年）和清道光元年（1820年），碑文記載了清代修寺情況。

    古碑園的西側為邦克樓（又稱宣禮塔，是召喚穆斯林教徒來禮拜用的），其平面長方形，重檐十字脊，其柱梁枋椽，翼角起翹，都模仿木結構，做工極為精細。內為磚拱球頂，拱下辟門洞為出入道。

    邦克樓西廂對面是禮拜殿，磚木結構，面闊三間，寬敞雅靜，為明代形制，其內部裝飾以阿拉伯文字組成豐富的彩繪圖案。大殿向後為重檐十字脊窯殿，高約8米，古樸雄偉。窯殿牆系空斗，無梁架，均為元代建築。它既有伊斯蘭教建築的特色，又運用了我國古建築中平面布局和木結構及磚砌斗拱等形式。邦克樓南北兩側分別是“南講堂”和“北講堂”。

    松江清真寺不僅是上海地區最古老的伊斯蘭教建築，同時也是阿拉伯民族與我國民族文化交流的重要遺跡。

    照壁－－又稱影壁，是中國古建築大門前特有的設置，形成建築物的第一道空間，外照壁有標識作用，內照壁則作為內院的屏障，並使人產生空間變換的感覺。松江清真寺的照壁是伊斯蘭教與中國漢族傳統文化融合的象征，也是松江清真寺的歷史見證。

    邦克門樓－－始建於元代，重建與明代嘉靖十四年（1559年），後又歷經修繕。邦克樓本是清真寺召喚穆斯林來禮拜而建的塔樓，而本建築卻是一座融阿拉伯與中國風格為一體的門樓，在全國清真寺建築中殊為罕見。門樓上有精細的磚雕和古老經文，西面門額上的經文是：“安拉授意世間建造的第一座清真寺，是麥加的克白爾清真寺。”

    禮拜大殿－－禮拜大殿分前、後兩殿。前殿為明代建築，坐西朝東，穆斯林沐浴脫鞋後進入此殿聚禮朝拜真主，是伊斯蘭教聖潔之地。冬鋪地毯，夏鋪涼席，整個建築莊嚴肅穆。後殿為元代建築，磚拱球頂，三面有門，殿內有禮拜超向之凹壁，屋頂施重檐十字，俗稱窯殿、無梁殿，體現了元代中國與阿拉伯建築藝術的巧妙結合。

    北講堂－－建於明代，為明代穆斯林少宗伯（爵號）馬自強捐金縮造。據明史記載：“馬自強，明萬歷三年乙亥九月任禮部尚書，字體乾，同州（今陝西）人，嘉靖三十二年進士……遷少詹事侍讀學士，掌翰林院。”馬自強捐金之事跡見於清真寺中的明代半截殘碑。馬系朝廷重臣，為松江清真寺捐金造捨，由此可見松江清真寺在古代中國穆斯林中的重要地位。

    南講堂－－建於清代，與北講堂同為松江清真寺歷代阿訇（宗教師）向海裡發（寺院學生）或穆斯林鄉老講授經文、研究教義的場所，亦作為本地穆斯林議事之用。古代穆斯林在清真寺周圍聚族而居，講堂在他們的宗教生活中有重要的作用。南講堂現已辟為展廳，布置《松江清真寺與上海伊斯蘭教》展覽，供觀眾了解松江清真寺的悠久歷史以及上海地區伊斯蘭教的發展概況。

    古桧柏－－大殿北側有古桧柏一株，植於明代，至今已有四百余年歷史。古柏歷盡風霜，依然卓然挺立，枝繁葉茂，顯示出強大的生命力。坊間穆斯林傳說，明代大將常遇春曾拴馬於此。古桧柏左方有明代古井一口，圈形石欄，形制簡樸，古意盎然。