Rudy kemudian menjadi Kepala Densus 88 Anti-Teror Polda Metro Jaya pada 2007. Selanjutnya Rudy diangkat menjadi Kapolres Metro Jakarta Utara pada 2009.Rudy menjadi perwira menengah Densus 88 Anti-Teror Polri pada 2010. Lalu, Rudy menjadi Direktur Pembinaan Kemampuan Badan Nasional Penanggulangan Terorisme (BNPT) pada 2010 sampai dengan tahun 2016.Pada 2016 sampai 2018, Rudy menduduki jabatan sebagai Kapolda Sulawesi Tengah.
Baca Juga: Dicopot Gara-gara Dianggap Gagal Tegakkan Protokol Kesehatan, Irjen Pol Rudy Sufariadi Justru Dapat Pujian Setinggi Langit dari Ridwan Kamil, Ada Apa?Setelah itu, ia diangkat menjadi Kepala Korps Brimob Polri pada 2018 pada era Tito Karnavian sebagai Kapolri.Tahun 2019, Rudy diangkat menjadi Asisten Operasi Kapolri. Setelah itu, Rudy resmi menjabat menjadi Kapolda Jawa Barat pada 26 April 2019. "Tentu dapat disimpulkan bahwa Nana dan Rudy mempunyai kedekatan dengan Mendagri Tito Karnavian," ujar Maizal."Saat ini ada upaya pembersihan kelompok Tito Karnavian. Apalagi dengan jabatan baru Nana sebagai Korsahli Polri dan jabatan baru Rudy sebagai Widyaiswara Kepolisian Utama Tingkat I Sespim Lemdiklat Polri yang sangat tidak prestisius,” tambahnya.