Selama pencarian di salah satu rumah persembunyian Carlos di London, seorang jurnalis dari Guardina membuka salinan The Frederic Forsyth's Day of the Jackal, dari situlah muncul julukan "Carlos the Jackal".
Carlos melarikan diri ke Beirut dan mulai merencanakan misi berikutnya — misi yang akan membuat namanya dikenal dunia. Pada 21 Desember 1975, Carlos dan lima rekannya menyerbu pertemuan para menteri OPEC di Wina, menewaskan dua penjaga keamanan dan seorang ekonom Libya dan menyandera lebih dari 60 orang.
Setelah mengamankan sebuah pesawat dan melepaskan beberapa sandera, Carlos dan pasukannya menerbangkan 42 tawanan yang tersisa dalam perjalanan yang berakhir di Aljir.
Di sana Carlos disambut oleh kepemimpinan Aljazair, dan belakangan muncul dugaan bahwa dia telah menerima uang tebusan puluhan juta dolar untuk pembebasan para sandera secara aman.
Tindakan ini membuat atasan PFLP-nya marah, yang menuntut eksekusi dua menteri OPEC, dan Carlos dikeluarkan dari PFLP pada 1976.
Carlos kemudian mendapat dukungan dari berbagai individu dan kelompok, termasuk pemimpin Libya Muammar al-Qaddafi dan Stasi Jerman Timur, yang menyediakan markas Berlin Timur sebagai markas Carlos termasuk staf pendukung lebih dari 70 orang.
Carlos kemudian mulai membangun jaringan terorisnya sendiri, yang ia juluki Organisasi Perjuangan Arab Bersenjata (OAAS) pada tahun 1978.
Pada 1979 Carlos menikahi seorang anggota OAAS Jerman Barat, Magdalena Kopp, yang kemudian ditangkap oleh polisi Prancis pada 1982, Tindakan yang memicu serangkaian aksi balasan.
sepanjang musim semi dan musim panas tahun itu, Prancis diguncang gelombang pemboman mematikan, salah satunya menargetkan Jacques Chirac, yang saat itu menjabat walikota Paris.