Александр Васильевич Барченко родился в 1881 году в городе Елец в семье нотариуса окружного суда. С юности он увлекался оккультизмом, хиромантией и астрологией. Это стимулировало его естественнонаучные интересы, связанные с изучением таинственных человеческих способностей — телепатии и парапсихологии. Решив изучать медицину, молодой Барченко в 1904 году поступил на медицинский факультет Казанского университета, а в 1905-м перевелся в Юрьевский университет.
Особое значение для Барченко имело знакомство в 1905 году с профессором римского права Кривцовым, преподававшим в Юрьевском университете. Кривцов поведал своему юному другу о встречах в Париже с известным оккультистом Ивом Сент-Д'Альвейдером. Тот верил в существование в глубинах Азии страны Агарты-Шамбалы, населенной медиумами. Таинственная территория якобы лежала на границе Афганистана, Тибета и Индии. Д'Альвейдер утверждал, что общался с ее посланцами, и предлагал правительству Франции связь с могущественными магами. В недоступных горных долинах и пещерах, по его словам, находились мощные лаборатории, где совершенствовался научный опыт древних цивилизаций — Лемурии и Атлантиды. Также он считал, что в Северо-Западном Тибете в доисторические времена существовал очаг величайшей культуры, которой был известен особый синтетический метод, представлявший собой высшую степень универсального знания, и что постулаты европейской мистики и оккультизма, в том числе и масонства, представляют собой искаженные перепевы и отголоски древней науки.
«Рассказ Кривцова явился первым толчком, направившим мое мышление на путь исканий, наполнивших в дальнейшем всю мою жизнь. Предполагая возможность сохранения в той или иной форме остатков этой доисторической науки, я занимался изучением древней истории, культуры, мистических учений и постепенно ушел в мистику. Увлечение мистикой доходило до того, что в 1909 — 1911 годах, начитавшись пособий, я занимался хиромантией — гадал по рукам». (Из протокола допроса А. В. Барченко от 10 июня 1937 года. Архив ФСБ).
Вдохновленный рассказами Кривцова, Барченко приступил к изучению паранормальных способностей человека. Он разработал приборы, позволявшие экспериментально проследить эффект телепатии, и в 1911 году провел ряд сенсационных опытов, связанных с изучением телепатических волн, или, как их называли в начале века, N-лучей.
«Энергия N соперничает с электричеством в способности распространения по медным проводам. Приложите к голове испытуемого медную пластинку, а медную проволоку от нее проведите в другую комнату (темную) к такой же медной пластинке или диску над экраном. Последний будет усиливать свечение всякий раз, когда испытуемый будет проделывать в другой комнате описанные выше мозговые упражнения», — писал Барченко в 1911 году.
Методика экспериментов была следующая: два обритых наголо добровольца надевали на голову алюминиевые шлемы оригинальной конструкции, разработанной Барченко. Шлемы участников опыта соединялись медной проволокой. Перед испытуемыми помещали два овальных матовых экрана, на которых им предлагалось сосредоточиться. Один из участников был «передающим», другой — «принимающим». В качестве тестов предлагались слова (например, «самовар») или изображения. Характерно, что в опытах с изображениями положительный результат угадывания был близок к 100%, а в случае со словами часто бывали ошибки, связанные в большей степени с шипящими или глухими согласными.
В статье «Передача мысли на расстоянии», напечатанной в журнале «Природа и люди» (1911 год), Барченко описывает один оригинальный аппарат, использовавшийся для опытов: «Располагая самым дешевым воздушным насосом, можно построить разновидность прибора, заменяющего „стенометр“ Жуара. Внутри тонкого стеклянного колпака каплей дамар-лака, канадского бальзама или расплавленного с бурой стекла подвешивается сухая тонкая шелковая нить, на конце которой укрепляется в равновесии тонкая сухая соломинка, служащая стрелкой-указателем. На конце соломинки распушен тончайший хлопочек гигроскопической ваты. Диск насоса посыпан мелкотолченой солью. Отверстие насоса защищают кусочком сухого картона с пробуравленными дырочками и небольшим бортом, чтобы не сдуло соль. Разреживают воздух осторожно, и аппарат готов к действию. Сосредоточьте взгляд на клочке ваты, стрелку можно повернуть взглядом».
В это же время Барченко опубликовал и два своих мистических романа.
Уже после революции профессор Петербургского университета Лев Платонович Красавин привел домой к Барченко неофита, страстно желавшего общения с мистиком, человека, увлеченного буддизмом, — Якова Блюмкина, скрывавшегося тогда после убийства немецкого посла Мирбаха. Встреча эта была мимолетной, но впоследствии сыграла свою роль в привлечении Барченко к работе в Спецотделе.