Di langgar tersebut, Kiai Syarqawi mulai mengajar membaca Al-Qur'an dan dasar-dasar ilmu agama. Tempat ini menjadi cikal bakal Pondok Pesantren Annuqayah.
Selama 23 tahun, Kiai Syarqawi memimpin pesantren ini hingga wafat pada Januari 1911. Kepemimpinan kemudian dilanjutkan oleh putranya, K.H. Bukhari, yang dibantu oleh K.H. Moh. Idris dan K.H. Imam.
Masa Kepemimpinan Kiai Ilyas
Mulai tahun 1917, kepemimpinan pesantren diteruskan oleh K.H. Moh. Ilyas, putra Kiai Syarqawi.
