Искусство замечать. Секреты наблюдательности истинных лидеров

В 2011 году исследователи-психологи Джо Симмонс, Лейф Нельсон и Ури Симонсон опубликовали великолепную работу, в которой показали, что использование четырех степеней свободы и доля креативности почти наверняка приведут любые убедительные доказательства к вероятности р < 0,05, даже если проверяемая гипотеза неверна [11]. Даже если для проверки своей идеи множеством разных способов исследователь использует случайные данные, его шанс достичь желаемого эффекта значительно превышает 5 % – и он может затем опубликовать тот вариант, который дал нужные результаты. Симмонс с коллегами демонстрируют, что очень небольшое количество степеней свободы позволяет поднять вероятность получения значимого результата выше 50 % даже с использованием случайных данных. Другими словами, их исследование показывает, что более чем возможно работать в рамках установленных правил и прийти к желаемым, но неверным результатам.

Цитируемые журналы косвенно поддерживают недостоверные методы и подходы, которые встречаются в исследованиях. Они не требуют, чтобы ученые описывали полученные данные и эксперименты полностью, якобы потому, что это займет слишком много места. А чем больше субъективность в данной области, тем выше вероятность использования спорных методов исследований. Это означает, что в общественных науках они встречаются особенно часто.

В своей работе на ту же тему Лесли Джон, Джордж Лоуэнштейн и Дражен Прелеч провели опрос среди исследователей-психологов с использованием сложной процедуры, заставляющей людей отвечать честно. Они задавали вопросы об использовании ряда недостоверных исследовательских методов и подходов [12]. Их интересовало вот что: 1) замалчивание части зависимых величин, полученных в ходе исследования (результатов, которые были оценены); 2) принятие решения о том, собирать ли дополнительные данные, после проверки значимости полученных результатов; 3) замалчивание всех условий или вариантов исследования; 4) прекращение сбора данных раньше, чем предполагалось, поскольку желаемый результат уже получен; 5) округление уровня значимости в желаемую сторону (например, округление 0,054 до 0,05); 6) выборочная публикация результатов экспериментов, которые «сработали», и умолчание о том, что не получилось; 7) принятие решения об исключении данных после оценки влияния этого шага на результаты; 8) сообщение о том, что неожиданное открытие предполагалось с самого начала; 9) лживое заявление, будто на результаты не влияют демографические переменные (такие как пол), и 10) фальсификация данных. Последний пункт – это подтасовка, в которой были замешаны Хаузер и Стапель. Мы же поговорим о девяти других – их считают менее вредоносными.

По оценкам Лесли Джон и ее коллег, доля исследователей-психологов, которые используют спорные методы и подходы, разнится от 36 до 74 % для первых пяти пунктов, равна 13 % для девятого пункта и 9 % – для десятого. Даже если эти цифры завышены в два раза, использование исследователями недостоверных методов и подходов поражает. Мы приходим к очевидному выводу – велика вероятность того, что многие результаты, о которых сообщается в научной литературе и затем в СМИ, просто не соответствуют действительности.

Как мы докатились до такого состояния дел в общественных науках? Надо начать с того, что в последние годы конкуренция в науке неуклонно растет. Сегодня гораздо сложнее, чем 30 лет назад, когда я был младшим преподавателем, получить престижную должность в университете. Количество публикаций свежеиспеченных кандидатов наук, претендующих на свое место на рынке труда, огромно. И это отнюдь не странно. Ученые из лучших университетов имеют больше шансов привлекать внимание СМИ, получать высокие гонорары за выступления и выгодные контракты на книги – поэтому ставки на выигрыш хороших должностей высоки. В то же время редакторы журналов хотят публиковать «интересные» результаты. Для того чтобы напечатать больше статей на ограниченном количестве страниц, многие ведущие журналы сократили место, отведенное на публикацию подробностей методов исследования. Все эти факторы вместе мотивируют ученых использовать слишком много степеней свободы и не замечать нечестности своих поступков. Так происходило, по крайней мере, до тех пор, пока Симмонс, Джон и их коллеги не привлекли внимание общественности, наглядно продемонстрировав это в своих работах. Многие из нас, ученых, просто следовали советам своих учителей, предложениям редакторов журналов и стандартным схемам, принятым в нашей области. Мы шли по проторенной дорожке, и нам не приходило в голову остановиться и подумать о том, что мы сводим на нет сам смысл использования уровня значимости – критерия р < 0,05. Многих из нас эта прекрасная работа подтолкнула к тому, чтобы изменить свои методы и подходы, она показала, насколько важно описывать, как мы ведем свои лабораторные исследования.