Ошибки в оценке науки, или Как правильно использовать библиометрию

ИФ, каким бы способом его ни высчитывали, остается мерой, связанной с журналом, а не со статьей. Главная причина, почему ИФ — это плохой показатель значимости индивидуальных статей, состоит в том, что распределение реальных ссылок на статьи одного и того же журнала подчиняется закону Парето, вариацией которого является распределение Лотки. Для распределения этого типа, в отличие от так называемого нормального распределения в форме колокола, среднее значение не является адекватной мерой центральной тенденции. Кривые типа Парето, напротив, крайне асимметричны и часто могут быть описаны формулой 20/80, где 20 % статей получают 80 % от общего числа ссылок (см. ил. 5). Например, редакторы журнала Nature, обладающего одним из самых высоких ИФ, подчеркивают, что этот показатель не следует использовать для оценки статей. В 2004 году 89 % всех ссылок на статьи из этого журнала были получены 25 % этих статей[115]. Заметим, что это не очень далеко от соотношения 20/80, которое, конечно, не является в данном случае закономерностью, но просто способом описать высокую концентрацию ссылок. Иными словами, статья, вышедшая в журнале с высоким ИФ, может быть не процитирована ни разу! Поэтому, чтобы измерить заметность той или иной статьи, нужно учитывать фактические ссылки на эту статью, а не импакт-фактор журнала, в котором она опубликована.

Хотя с середины 1990-х годов эксперты по библиометрии постоянно напоминали об абсурдности использования ИФ журналов для оценки исследователей[116], это ничуть не предотвратило вопиющие злоупотребления со стороны научных администраторов и самих ученых. Более того, в некоторых странах (Пакистане, Китае, Южной Корее, Японии) министерские чиновники и руководители академических организаций даже учредили систему премий, напрямую увязанных со значением импакт-фактора журналов! Как докладывал в 2006 году журнал Nature, на основе подсчета суммы импакт-факторов статей за тот или иной год Министерство науки Пакистана назначает премии в размере от 1000 до 20 000 долларов! Пекинский Институт биофизики учредил похожую систему: ИФ от 3 до 5 приносит премию в размере 2000 юаней за балл, а если ИФ превышает 10, то за каждый балл назначается 7000 юаней. В редакционной статье того же самого номера редколлегия журнала раскритиковала подобную бессмыслицу. Но как бы мы ни относились к идее премирования исследователей за производительность, в данном случае проблема состоит в неверном понимании смысла самого показателя. Ведь совершенно невозможно, чтобы ИФ какого-нибудь математического журнала, к примеру, когда-либо сравнялся с ИФ медицинского журнала! И ни один здравомыслящий человек не станет утверждать, что статьи по медицине все как одна превосходят качеством статьи по математике и поэтому их авторам нужно начислять более высокие премии.

И наконец, важно отметить вводящую в заблуждение строгость импакт-фактора, значение которого вычисляется с точностью до одной тысячной! В естественных науках редко встречаются явления, которые измерялись бы с такой аккуратностью! Кому есть дело до того, что завтра температура будет… 20,233 градуса? Почему бы не ограничиться первой цифрой после запятой? А потому, что иначе все эти рейтинги во многом потеряли бы смысл.

Поскольку экономисты являются особо ярыми сторонниками использования импакт-фактора[117], рассмотрим список экономических журналов в Web of Science (WoS) за 2011 год. Разумеется, среди 256 журналов довольно мало изданий имеют совершенно одинаковые импакт-факторы с четырьмя значащими цифрами (только у трех журналов ИФ равняется 1,000, у двух — 0,757, у трех — 0,743 и т. п.), что позволяет присваивать журналам, например, 22-е или 24-е место, как если бы за ними стояли существенные различия. Но поскольку невозможно всерьез считать, что эти десятые или тысячные имеют какое-либо действительное значение, рассмотрим рейтинг, составленный из целых чисел. В этом случае видно, что лишь два журнала стоят далеко впереди всех остальных, имея ИФ, равные 9 (Journal of Economic Literature) и 6 (Quarterly Journal of Economics). За ними идут два журнала с ИФ, равным 4, 12 — с ИФ, равным 3, и… 31 — с ИФ, равным 2. И наконец, у 118 журналов ИФ равен 1. Иными словами, невозможно провести рейтингование внутри каждой из этих больших групп, и добавление знаков после запятой — это не что иное, как произвольный способ конструирования искусственных рейтингов. Возможно, экономист скажет нам, что десятые доли бывают полезны, но даже при их учете остается четыре журнала с одинаковым ИФ, равным 2,7 (11–14-е места рейтинга), и 18 — в почетной компании World Bank Economic Review — с ИФ, равным 1,1 (70–87-е места). Таким образом, эта кажущаяся точность оказывается иллюзией.