Историю возникновения OAK следует вести с середины 1970-х гг., когда в автономном крае Сербии — Косово и Метохия — сформировались нелегальные «революционные марксистские группы», боровшиеся против «титоистского режима» и за республиканский статус Косова. Активными участниками тех радикальных групп были широко известные сегодня личности — Хашим Тачи, Рамуш и Люан Харадинай, Джавит Халити, Джафер Шатри, Захир Паязити, Адем Яшари и др.
Активизация борьбы Службы безопасности Сербии против подобных структур особенно после событий 1981 г. вынудила многих оппозиционеров бежать из страны. Так, Д. Шатри эмигрировал в Швейцарию, где организовал Движение за албанскую республику в Югославии. Другой «революционер», Д. Халити, считая себя «либералом» и «антиэнверистом», был тесно связан с правительством Албании и лидерами албанского сталинизма. Халити и его организация «Народное движение за республику Косово» (НДРК) — одни из первых стали использовать тактику террора: организовывали нападения на сотрудников ЮНА, полицию и сербское население в Косово. Ряд экспертов полагает, что Рамиз Алия — последний коммунистический лидер (1985–1991 гг.) и первый президент посткоммунистической Албании (1991–1992 гг.) лично дал разрешение Д. Халити организовать обучение его вооруженных формирований на территории Албании.
Кроме Албании, косовских боевиков поддерживали политические круги многих западных стран. Некоторые авторы считают, что OAK стала продуктом «Народного движения Косова» (НДК), созданного косовскими албанцами в 1982 г. в немецком городе Ульм в ответ на подавление прокатившихся по краю протестов в марте-апреле 1981 года. Относительно идеологии и методов борьбы в НДК существовали разногласия. Так, близкие по идеологии к энверистам[10] члены организации отрицали вооруженную борьбу как средство достижения целей. Другие, возглавляемые обосновавшимся в Лондоне Плеуратом Сейдиу, поддержали курс на вооруженную борьбу против сербской армии и полиции, а также против коллаборационистов из числа албанцев и активно готовились к ведению в Косово и Метохии партизанской борьбы.
В результате возобладало радикальное крыло и в течение 1993–1994 гг. НДК было переименовано в Ushtria Çlirimtare е Kosovës, что переводится на русский язык, как Освободительная армия Косова. Это подтверждает также один из активных деятелей этой организации — Рамуш Харадинай. С того момента группа, состоящая из пяти-семи членов OAK, с целью разработки тактики борьбы и привлечения остальных групп регулярно встречалась на территории КиМ. Правда, доподлинно неизвестно, был ли одним из этих людей ныне действующий премьер-министр Косова Хашим Тачи. По сербским данным, основателем и вождем OAK до своей смерти в 1998 г. был Адем Яшари, который в начале 1990-х годов создал террористическую группу Яшари. После его смерти и до формального роспуска в 1999 г. OAK возглавлял X. Тачи.
Немецкие исследователи А. Хейнеманн-Грюдер и В. Х. Паэс обращают особое внимание на роль, которую в становлении незаконных вооруженных формирований в Косово сыграл «пацифист» Ибрагим Ругова. Именно он, будучи инициатором создания теневого правительства и первым теневым президентом Республики Косово, в период с 1990 по 1993 гг. активно работал над формированием вооруженных отрядов территориальной обороны края как силы, необходимой для борьбы с сербской армией. Если OAK создавалась, в основном, за пределами КиМ, то Ругова пытался создать армию в самом крае.
По его замыслу численность вооруженных сил Косова или ФАРК (Forcat е Armatosura të Republikës së Kosovës) должна была достигать 40000 резервистов. Однако этим замыслам не суждено было сбыться. В этой организации служили преимущественно офицеры-албанцы, дезертировавшие из Югославской народной армии, а рядовых было мало. Помимо сложностей с мобилизацией комбатантов ФАРК столкнулась с огромными трудностями в приобретении оружия. В 1993 г. формирование территориальной обороны вообще было приостановлено — сербские власти арестовали почти всех членов генерального штаба ФАРК. Остальные сотрудники ФАРК уехали в Албанию, где они продолжили военную подготовку. Однако после отставки в 1997 г. президента Албании Сали Бериши боевики ФАРК оказались в затруднительном положении.
Осенью 1998 г. несколько членов этой организации были арестованы за участие в попытке государственного переворота в Тиране. Буяр Букоши, как один из руководителей ФАРК, неоднократно отрицал свою причастность к попытке переворота. Тем не менее, отношения ФАРК с социалистическими правительством Фатоса Нано оказались гораздо более напряженными, чем у OAK. Окончательно ослабило организацию убийство лидера ФАРК — полковника Ахмеда Красничи, которое произошло в Тиране 21 сентября 1998 года. Учитывая борьбу за лидерство в крае, которая велась между руководством ФАРК и OAK, это убийство было в интересах Освободительной армии. Хотя прямых доказательств этому нет.