Если вы произвольно остановитесь на десятом броске, получится, что 40 % бросков — шестерки; очевидно, это необычайное событие. Однако на самом деле надо смотреть на общую картину, а не останавливаться тогда, когда захочется.
В середине XX в. исследователи отказались от бросания костей в пользу компьютеризованных процедур генерации случайных чисел. К примеру, Белофф и Эванс (Beloff 8t Evans, 1961) использовали в качестве источника случайности скорость распада радиоактивного элемента. Участники пси-исследования пытались замедлить распад. Другие исследователи пользовались различными компьютерными генераторами случайных чисел (ГСЧ); их еще иногда называют генераторами случайных событий (ГСС). Выход такого генератора переводится в набор щелчков или чисел (нулей и единиц). Использование ГСЧ предполагает регистрацию проявлений микротелекинеза, мысленного влияния на события на атомном или субатомном уровне. Преимущества методики в том, что она позволяет проводить очень большое количество испытаний и ограничивает возможность человеческого вмешательства — обмана или ошибки. Однако исследователи по-прежнему могут выбирать произвольную точку останова.
Самый, возможно, всесторонний метаанализ исследований по ГСЧ провели Бёш и др. (Bosch et al., 2006). Они собрали результаты 380 экспериментов и обнаружили очень слабый, но значимый эффект. Однако они пришли к выводу, что эффект этот, скорее всего, возник в результате работы в стол. Попросту говоря, если исследователи не склонны публиковать негативные результаты (а просто складывают в стол), а журналы тоже не склонны их печатать, то в соответствующей литературе появляется обманчиво высокий процент успешных работ. Если учесть данные всех исследований, то неопубликованные негативные результаты многократно перевесят опубликованные положительные (см. главу 3 о предвзятости при публикации). Вероятно, это проблема всех опубликованных метаанализов пси-феномена. В самом деле, как заметил один очень уважаемый эксперт в области статистики, метаанализ «возводит предубеждение при публикации в ранг искусства до такой степени, что некоторые достойные доверия специалисты по методике исследований… полностью отметают подобного рода свидетельства» (Bausell, 2007, р. 198).
Иногда исследователи возражают, что пресловутый «стол» с негативными результатами должен быть невероятно велик, чтобы перечеркнуть позитивные результаты метаанализа. К примеру, при анализе экспериментов с бросанием костей Радин и Феррари (Radin & Ferrari, 1991) вычислили: для того чтобы перевесить позитивные эффекты опубликованных исследований по телекинезу, использованных для метаанализа, «в столе» должны были бы лежать отчеты о 18000 экспериментов, давших негативные результаты. Другие исследователи при более тщательном анализе пришли к выводу, что для этого достаточно было бы всего шестидесяти неопубликованных работ (Bosch et ah, 2006). Аналогично, Радин (Radin, 1997) представил самый сильный, возможно, аргумент в пользу пси (Good, 1997) — значимый пси-эффект, полученный при метаанализе проведенных за полвека 186 экспериментов по экстрасенсорному восприятию. Более того, Радин утверждает, что для ликвидации этого эффекта «в столе» должно лежать 3300 неопубликованных работ. Гуд (Good, 1997), профессиональный статистик, отмечает, что Радин никак не обосновывает свое заявление о размерах «стола» и что на самом деле потребовалось бы всего 8-15 неопубликованных негативных исследований. Гуд заключает, что собственные данные Радина в значительной мере подрывают результаты его метаанализа в пользу ЭСВ. Надо заметить, что разногласия по поводу необходимых размеров «стола» с неопубликованными негативными результатами очень типичны для пси-исследований.
Метаанализ
— очень противоречивый и сложный в использовании инструмент. Статистически возможна ситуация, когда при метаанализе 50 экспериментов, ни один из которых не дал значимых результатов, будет получен значимый общий результат — вообще говоря, иллюзорный (Alcock, 1981). Большинство ученых, занятых метаанализом, вынуждены либо исключать из рассмотрения плохо проработанные, по их мнению, эксперименты, либо придавать им меньший статистический вес. Однако те, кто пытается проводить метаанализ пси-исследований, редко соглашаются между собой в том, как следует оценивать исходные эксперименты. В итоге метаанализ одного и того же набора публикаций у двух разных исследователей почти всегда дает разные (часто противоположные) результаты.