Николай Иванович Хáрджиев (или Харджи́ев) родился 13 (26) июля 1903 в Каховке (Днестровского уезда Таврической губернии, теперь Херсонская область, Украина). В 1920 году окончил каховскую общественную гимназию. С февраля по май 1921-го работал секретарем Каховского отдела Наробраза, затем поступил в Институт народного хозяйства в Одессе (на юридический факультет перешел в 1922-м). После окончания в 1925 году института (без диплома) работал в одесской секции Политпросвета. «Два учебных года (1926–1927 и 1927–1928) был преподавателем Одесского государственного техникума кинематографии, где читал лекции о теории сюжета в советской литературе».
Его литературоведческая работа началась в Одессе – восемнадцатилетний Николай Харджиев писал рецензии в молодежной газете «Станок». Там же познакомился и общался с поэтами Эдуардом Багрицким, Владимиром Нарбутом и Георгием Шенгели. Одесский литературный круг, в который вошел Харджиев, был очень тесен. Переженились на сестрах Суок: старшая Лидия (1885–1969) стала женой Багрицкого, средняя Ольга (1899–1978) – женой Юрия Олеши, а младшая Серафима (1902–1982) – женой Владимира Нарбута. Позднее, незадолго до начала войны, Харджиев женился на Серафиме Суок, бывшей к тому моменту вдовой Нарбута, и увез ее из Москвы. Надежда Мандельштам вспоминала, что ей, «как немке угрожала этническая депортация из Москвы. В Алма-Ате она устроилась литературным секретарем Шкловского, возник роман, впоследствии они поженились».
Важное одесское знакомство Харджиева – с историком литературы и собирателем книг Михаилом Павловичем Алексеевым, занимавшимся одесской пушкинианой.
В конце 1920-х годов Харджиев уехал из Одессы – сначала в Ленинград, потом перебрался в Москву: «Осенью 1928 года я уехал из Одессы в Москву, где и началась моя научная и литературная работа. Большая часть моих литературоведческих работ посвящена анализу творчества В.В. Маяковского». «Одно время я даже хотел обосноваться в Ленинграде. В 1928 году Эйхенбаум привел меня в Институт истории искусств на вечер Обэриу – там Хармс выступал, и Введенский, и Заболоцкий. И с Малевичем я там встретился, он жил при этом институте и пришел на вечер». По поводу знакомства с Хармсом Харджиев сказал, что тот был «ослепительный», был «сама поэзия <…> Человек бескорыстный, настоящий инопланетянин».
В 1928 году Харджиев некоторое время жил в Кунцево у Багрицкого и там познакомился с Осипом Мандельштамом. «Потом мы так или иначе встречались. Он читал мне и Борису Лапину только что написанное “Путешествие в Армению”, и Лапин сравнил эту вещь с Плинием, я помню. Мандельштаму очень понравилось». Мандельштам сказал о Харджиеве: «У него абсолютный слух на стихи».
В начале 1930-х состоялось знакомство Харджиева с Алексеем Крученых, с которым они потом сорок лет, по словам Харджиева, «бесконечно ссорились и не могли расстаться друг с другом. Очень дружили».
По приезде в Москву Харджиев поселился в Марьиной Роще, «в восьмиметровой комнатке». Там бывали Михаил Зенкевич, Тихон Чурилин, Григорий Петников, Даниил Хармс, Александр Введенский. «Это были друзья. Бывало очень много народу и все это происходило в Марьиной Роще». Комнату помог найти Виктор Шкловский, «по соседству с сестрой его жены В.Г. Шкловской-Корди – Натальей Георгиевной». Там Харджиев прожил с 1930-го по начало 1950-х годов. Ахматова называла комнату «убежищем поэтов».
Дружба и сотрудничество с филологами В.В. Трениным и Э.С. Грицем – в начале 1930-х – определили основное направление дальнейшей деятельности Харджиева – русский литературный, а затем и художественный авангард. С Трениным они задумали и начали работу над «Историей русского футуризма».
Осенью 1941 года, во время наступления немцев на Москву, Харджиев и Тренин записались в Союзе писателей в ряды ополченцев и их отправили пешком к линии фронта. Городские ботинки быстро развалились, Харджиев шел практически босиком, простудился и почти в беспамятстве был оставлен в глухой деревушке далеко от Москвы. Весь отряд погиб, среди погибших был и Тренин. Харджиев был награжден медалью «За оборону Москвы». В ноябре 1941 года Харджиев эвакуировался в Алма-Ату, где работал в сценарном отделе «Мосфильма» у Сергея Эйзенштейна. В Алма-Ате Харджиев пробыл до декабря 1942 года. В 1943-м вернулся в Москву. Жил по адресу: Страстной бульвар, д. 13а, кв. 33. В 1957 году переехал на Кропоткинскую улицу, д. 17, кв. 70. Потом жил на Усачёвской улице, д. 5, кв. 102. В 1986 или 1987 году переехал в двухкомнатную квартиру (съехавшись со своей женой Лидией Чага) по адресу: улица Кооперативная, 3. Это была последняя квартира, откуда 8 ноября 1993 года они с женой уехали в Голландию по приглашению Амстердамского университета. Ему было 90 лет, ей – 83.