Rudy menjadi perwira menengah Densus 88 Anti-Teror Polri pada 2010.
Lalu, Rudy menjadi Direktur Pembinaan Kemampuan Badan Nasional Penanggulangan Terorisme (BNPT) pada 2010 sampai dengan tahun 2016.
Pada 2016 sampai 2018, Rudy menduduki jabatan sebagai Kapolda Sulawesi Tengah.
Setelah itu, ia diangkat menjadi Kepala Korps Brimob Polri pada 2018 pada era Tito Karnavian sebagai Kapolri.
Tahun 2019, Rudy diangkat menjadi Asisten Operasi Kapolri.
Setelah itu, Rudy resmi menjabat menjadi Kapolda Jawa Barat pada 26 April 2019.
“Tentu dapat disimpulkan bahwa Nana dan Rudy mempunyai kedekatan dengan Mendagri Tito Karnavian,” ujar Maizal.