Нападение было организовано с беспримерной наглостью. 20 декабря шесть террористов вышли из своей квартиры, неся мешок с оружием. На трамвае они добрались до штаба ОПЕК. Карлос первым вошел в здание и, непринужденно поприветствовав двух молодых полицейских у входа, спокойно отправился на второй этаж, где проходила встреча участников конференции. Подойдя к конференц-залу, террористы беспрепятственно вытащили оружие из мешка и начали стрелять. При захвате три человека были убиты, несколько десятков – ранены, 70 человек взяты в заложники. Карлос лично расстрелял экономиста из Ливии, всадив в него из пистолета весь магазин. Но Ямани он не тронул. После захвата заложников Карлос приказал секретарю ОПЕК написать под его диктовку коммюнике и следующие требования к австрийским властям: «Мы требуем читать наше коммюнике по австрийскому радио и телевидению каждые два часа, начиная с этого момента. Нам должен быть предоставлен большой автобус с завешанными окнами, который завтра в 7 утра отвезет нас в венский аэропорт. Самолет должен быть готов принять нас на борт вместе с заложниками. Любая задержка или провокация подвергнет опасности жизнь наших заложников».
На чрезвычайном заседании кабинета министров было принято решение выполнить требования террористов. Когда на следующее утро к зданию ОПЕК подъехал желтый почтовый автобус с занавешенными окнами, Карлос стоял у его дверей с пистолетом, пока в него садились заложники. Затем он сел рядом с водителем. Автобус в сопровождении санитарной машины и двух полицейских автомобилей с сиренами направился в аэропорт. В самолете Карлос разделил заложников, поместив взрывчатку под сиденьями, занятыми шейхом Ямани, Аузигаром и их помощниками. Пилоты взяли курс на Алжир. После короткой остановки там они отправились в Ливию, потом в Саудовскую Аравию, но ни одна из этих стран не захотела принять самолет с террористами, и Карлосу через четверо суток полета пришлось вернуться в Алжир. Здесь террористы спокойно скрылись, заложники оказались на свободе. Много лет спустя стало известно, что Карлосу дали уйти в обмен на жизнь Ямани, заплатив при этом огромные деньги (речь шла о 20–25, а то и 50 млн долларов), которые предоставили Саудовская Аравия и Иран. Деньги эти на террористические нужды не пошли, и Карлоса обвинили в их присвоении. Но в Алжире он жил спокойно под охраной. Алжирское правительство отказалось выдать террористов Австрии.
Казалось бы, успех в Вене еще больше должен был поднять авторитет Карлоса в глазах Хаддада. Однако было одно маленькое обстоятельство, повлекшее его изгнание из НФОП. Он не выполнил главное задание своего руководителя: не убил Ямани. Карлос еще успел организовать в июне 1976 года захват самолета компании «Эр Франс», приведший к знаменитому рейсу в Энтеббе, но после этого стал фактически террористом по найму.