Sejarah Desa Tanjungsari tidak terlepasa kaitannya dengan sejarah perjuangan bangsa Indonesia dalam kemerdekaan. Di tengah berkobarnya perang Diponegoro melawan penjajah Belanda pada awal abad 19, para pendukung Diponegoro terdesak dan banyak yang melarikan diri ke daerah yang lebih aman. Salah satu daerah tujuan adalah ke wilayah Jawa bagian timur di wilayah selatan.
Salah satu rombongan itu dipimpin oleh seorang ulama dan panglima perang bernama Kyai Imam Muhibbudin. Rombongannya melarikan diri ke Jawa Timur melintasi bagian selatan. Dalam pelarian itulah mereka sampai di tempat yang dirasa cocok dengan apa yang mereka cari, yakni wilayah yang hutan namun tidak terlalu lebat pepohonannya. Datarannya tidak terlalu tinggi dan dekat dengan aliran sungai. Maka dimulailah upaya membabat hutan.
Hari kedua saat mereka membabat hutan dikejutkan oleh tumbuhnya pohon tanjung yang sehari sebelumnya sudah ditebang. Padahal pohon-pohon lainnya tidak ada yang tumbuh lagi. Peristiwa itu segera dilaporkan kepada Kyai Muhibbudin.
Sang kyai meminta pohon itu ditebang lagi. Tapi hari ketiga pohon tersebut berdiri lagi. Sampai akhirnya sang kyai tidak lagi memerintahkan murid-muridnya untuk menebang. Pohon itu dibiarkan tumbuh sewajarnya dan menjadi bagian dari lingkungan yang mereka tempati.
Seiring dengan perkembangan pembabatan hutan dan pembangunan lingkungan, mereka juga mendirikan sebuah pondok untuk belajar mengaji. Kini tepat berada di Masjid Ar Rohmah dan makam Mbah Guru berada di timur masjid. Seiring ramainya lingkungan ini, maka perkampungan ini dinamakan Tanjungsari.