Из особо значимых для эстетики и сферы искусства положений теории Ф. следует еще указать на проблему комплексов и механизм психоанализа. Под комплексом психоаналитики имеют в виду конкретную совокупность неосознаваемых представлений, переживаний, интенций, как правило, связанных с сексуальным влечением, вытесненных в сферу бессознательного и прорывающихся оттуда в самой разнообразной форме (сновидений, неврозов, галлюцинаций, произведений искусства), содержащей, однако, в зашифрованном (символическом) виде характерные черты исходного комплекса. С творческой сферой сам Ф. связывал в первую очередь эдипов комплекс, формирующийся у мальчиков в возрасте 3–5 лет и заключающийся в эротическом влечении к матери и неприязни к отцу-сопернику. Соответствующий комплекс у девочек (влечение к отцу и ревность к матери) Ф. назвал комплексом Электры. Эти комплексы с возрастом вытесняются в бессознательное, но активно дают о себе знать на протяжении всей жизни человека. С эдиповым комплексом тесно связан комплекс кастрации (боязнь мальчика, что отец кастрирует его за влечение к матери). Существен в жизни человека комплекс неполноценности и некоторые другие.
Для терапии неврозов и отдельных форм психоза Ф. разработал методику психоанализа, которая основывается на выведении в сферу сознания пациента реальных причин (вытесненных влечений, комплексов, желаний; а также позабытых травм детской психики, связанных в основном с эротической сферой) его заболевания путем длительных доверительных бесед (психоаналитических сеансов). В их ходе анализируются события раннего детства пациента, его детские переживания, страхи, сновидения, грезы и галлюцинации; особенности сексуальной жизни, пристрастия, тайные влечения и т. п. психо-физиологические особенности, часто тщательно скрываемые человеком (иногда даже и от самого себя). В результате психотерапевт нащупывает истинную причину невроза и подводит к ее пониманию и самого больного. Осознав ее, пациент, как правило, избавляется от заболевания. Этот метод Ф. распространил на анализ психики некоторых выдающихся мастеров искусства прошлого (Леонардо да Винчи, Шекспира, Гёте, Достоевского), пытаясь вскрыть глубинные причины появления тех или иных мотивов в их творчестве, особенностей конкретных произведений (медлительность Гамлета в совершении отмщения за отца, некоторые особенности картин Леонардо, мотивы отцеубийства у Достоевского и т. п.). Этим самым он дал мощный толчок одному из наиболее сильных в XX в. направлений в литературно-художественной критике — психоаналитическому (см.:
Сам Ф. признавал себя мало компетентным в вопросах искусства и эстетики. Более того, он полагал, что перед сущностью красоты и искусством в целом психоанализ бессилен. К искусству он подходил исключительно со своей профессиональной позиции ученого-психоаналитика, то есть сугубо рационалистически; он подчеркивал, что не может наслаждаться произведением искусства (например, музыкой вообще), если не понимает, что доставляет это наслаждение. Сугубо рационалистический подход к искусству позволил Ф. (как это ни парадоксально) выявить именно иррациональную природу искусства, показать, что искусство является наиболее полной и адекватной формой сублимации вытесненных влечений художника. В искусстве осуществляется игра психических энергий, освобожденных от внешних ограничений. Художник в своих формах и образах «обходит» запреты цензора (Я) и выводит на поверхность запретные зовы и вожделения плоти, до того бушевавшие в бессознательном. Наслаждение искусством — это наслаждение от реализации в нем, хотя и в символической форме, вытесненных влечений, запретных желаний и подавленных сознанием комплексов. При этом он различает предварительное, заманивающее наслаждение произведением, которое происходит на основе мастерски организованной формы (Ф. называет это наслаждение эстетическим), и «подлинное наслаждение» художественным произведением, уводящее нас в самые глубины психики, — оно «возникает из снятия напряженностей в нашей душе. Быть может, именно это способствует тому, что художник приводит нас в состояние наслаждения нашими собственными фантазиями, на этот раз без всяких упреков и без стыда». Впоследствии Л. С. Выготский доосмыслит это «снятие напряжения» до сущностного механизма эстетического катарсиса, возникающего при столкновении в психике и сгорании противоположно направленных аффектов в процессе восприятия произведения искусства.
Ф. выявил также компенсаторный механизм искусства, осознание которого увлекло в XX в. многих создателей искусства и его исследователей. Венский психоаналитик неоднократно подчеркивал, что искусство «дает эрзац удовлетворения, компенсирующий древнейшие, до сих пор глубочайшим образом переживаемые культурные запреты, и тем самым, как ничто другое, примиряет с принесенными им жертвами». Произведения позволяют также компенсировать и комплекс Нарцисса, присущий подавляющему большинству людей.