Психологическая теория Троицкого изложена в его главном обширном труде «Наука о духе» (Троицкий, 1882). Интересно мнение о книге М. М. Троицкого такого замечательного русского психолога, каким был Н. Н. Ланге, профессор Новороссийского университета в Одессе. В найденной в архиве Ланге рукописи «Непонятый русский психолог», в которой дается анализ книги Троицкого, написано: «Если где, так именно у нас книги имеют своеобразную судьбу. Прилив выносит на наш берег почти исключительно легкие, плавающие и малосодержательные продукты, которые и составляют обыденную нашу умственную пищу. Книги же истинно своеобразные, глубоко продуманные моментально тонут на дно и становятся доступными лишь опытным водолазам, приучившимся выдерживать высокое давление в скафандре. К числу таких потонувших вследствие тяжелого удельного веса или ценности книг мы смело относим вышедшее в 1882 году сочинение проф. М. М. Троицкого «Наука о духе. Общие свойства и законы человеческого духа». Если бы такая работа явилась как-нибудь в ином месте и в других исторических условиях, она несомненно была бы причислена к замечательным явлениям философской литературы и оказала бы, может быть, не меньшее влияние, чем, например, «Система логики» Милля или психологический трактат Бинэ, ибо по важности поднятых в ней вопросов, по глубине и научности их решения она смело может быть поставлена наряду с вышеуказанными знаменитыми творениями. Но, явившись у нас и притом в столь мало благоприятное время, она, как сказано, моментально потонула и не оказала, можно сказать, никакого влияния» (цит. по: Драголи, 1968, с. 105).
Предметом психологии Троицкий считал явления духа и находил возможным их научное исследование, в то время как сущность духа объявлял непостижимой для науки и относил к области веры. «Психология, как наука о духе, должна быть отличаема от метафизики духа, или учений о нефеноменальной сущности души и ее существовании вне связи с телом» (Троицкий, 1888, с. 77). Дух познает себя в различных формах своего существования. Он может быть предметом собственного наблюдения, и в это время он именно то, что называется психическими явлениями.
Отказываясь от рассмотрения сущности души, Троицкий, по его убеждению, превращал психологию в положительную науку, поскольку ограничивал область познаваемого пределами опыта (под опытом разумелся, конечно, внутренний опыт). Что касается метода, то положительным методом он считал индуктивный метод и с его помощью предлагал производить субъективный анализ духа, т. е. интроспективное наблюдение явлений сознания. Позитивистские установки позволили ему отвести место в своей теории проблеме личности и сопряженным с ней социально-психологическим вопросам, формулируемым как отношение личности и общественности, поставить вопрос об общественных отношениях людей. Однако принятые им методологические требования и общие положения развиваемой на их основе теории жестко ограничивали возможность рассмотрения этих вопросов.
К общим свойствам духа, выражающимся в явлениях сознания, Троицкий относил условность, относительность и рефлексивность. Под условностью он понимал образование психических фактов и выделял три рода условностей или зависимостей, действующих в психической жизни, – внутреннюю, внешнюю и органическую. Внутренняя условность – история индивидуального развития; внешняя условность – общественно-историческая; наконец, органическая, или биологическая, условность – история развития человека как организма. Понятие личности он связывал с внутренней условностью и считал коррелятивным вводимому им понятию общественности, которое связывал с внешними условиями, заключающимися в общественных отношениях. Третья условность – органическая – не имеет характера ни личностного, ни общественного. Психические факты, обусловленные этой зависимостью, Троицкий называет нейтральными. К ним он относил родовые явления, связанные с темпераментом человека.
Определяя двоякую зависимость психических фактов от «внутренней условности психического образования человека» и от «общественно-исторической условности», автор указывал, что для него факты индивидуальных психических отношений в их зависимости от внутренних условий – факты или явления личности. Те же факты в их зависимости от внешних условий— факты или явления общественности.