Zakir kemudian bergabung dengan Taliban yang baru terbentuk setelah muncul di bawah kepemimpinan Mullah Omar.
Ketika dia ditangkap pada 2001, Zakir adalah wakil kepala baru dari Taliban dan kemudian dikenal sebagai Abdullah Ghulam Rasoul, menurut New York Times.
Pada sidang 2007, Zakir mengatakan kepada pejabat Amerika bahwa dia ingin kembali ke rumah dan bergabung dengan keluarganya, bekerja di tanahnya, dan membantu keluarganya.
“Saya telah melihat gambar-gambar bahwa Afghanistan sedang dibangun kembali, dan saya senang bahwa Amerika sedang membangun kembali negara saya. Saya tidak melihat alasan mengapa saya harus melawan Amerika,” tambahnya dalam persidangan saat itu.
Zakir dikenal karena kemampuan taktisnya di medan perang dan memiliki pengaruh besar di Afghanistan selatan selama pemberontakan Taliban melawan Inggris, AS dan pasukan Barat lainnya.
Zakir dilaporkan ditangkap oleh pihak berwenang Pakistan pada 2010 sebelum dibebaskan tanpa penjelasan.
Pada saat itu, ia diyakini telah menjadi wakil Mullah Omar, setelah penangkapan sebelumnya terhadap mantan komandan kedua Taliban, Mullah Abdul Ghani Baradar.
Mantan komandan Taliban Mullah Abdul Salaam Rocketi, yang kemudian menjadi anggota parlemen Afghanistan, sebelumnya mengatakan bahwa Zakir adalah “komandan medan perang legendaris”.