Рациональность: От ИИ до Зомби

Возможно, всё потому, что я вырос в тех областях интернета, где всегда был сисоп, и поэтому мне кажется естественным считать, что владелец сервера несёт определённую ответственность. Возможно, всё потому, что я интуитивно ощущаю: противоположность цензуры — не академия, а двач (да и у того всё равно есть какие-то механизмы для борьбы со спамом). Возможно, я вырос на том просторном пустыре, где главной и единственной важной свободой была свобода выбора того ухоженного сада, который был тебе по нраву, и которому по нраву был ты; на пустыре, дышащим мечтой о поиске страны с хорошими законами. Возможно, я принимал за должное то, что если тебе не нравится местный архиволшебник, то правильным решением будет просто уйти (такое случилось со мной однажды; и я действительно просто взял и ушёл).

А, возможно, потому, что владельцем сервера часто был я. Но я играю честно, поддерживая модераторов даже тогда, когда мы расходимся во взглядах касательно внутренней политики. Я знаю, что происходит, когда сообщество начинает сомневаться в своих модераторах. Любой мой политический враг (если его популярность позволяет ему быть опасным), скорее всего не принадлежит к числу людей, могущих злоупотреблять получаемой вместе с титулом модератора властью (по крайней мере, для конкретно этихцелей); и когда он надевает костюм модератора, я громогласно его поддерживаю: его нужно подгонять, а не останавливать. Выросшие в академии люди попросту не осознают, насколько велика толщина стен недопущения, удерживающих троллей снаружи их холёного сада так называемой «гласности».

Если у сообщества действительно есть основания для сомнения в модераторах, если его модераторы в самом деле используют свою власть в личных целях — то, наверное, это сообщество не стоит того, чтобы его спасать. Но это, как правило, встречается лишь на словах, и почти никогда — на деле, насколько мне известно.

В любом случае, озарение касательно эгалитаризма (глубинного стремления не допустить, чтобы лидер осуществлял слишком много власти), убивающего интернет-сообщества, пришло ко мне совсем недавно. Во время чтения какого-то комментария на LessWrong’е (я не помню, какого именно), если быть точным.

Но я это наблюдал. Снова и снова, одним из участников этой пьесы был я, подталкивающий модераторов и поддерживающий все их решения, нравились ли они мне как люди, или нет; и всё равно, модераторы боялись сделать то, что могло бы предотвратить медленное разложение. Они были слишком скромны и степень их сомнения в себе была на порядок выше, чем моя степень сомнения в них. Дело происходило в прибежище рационалистов, а третье главное искушение рационалистов — грех недоуверенности (English).

Такова суть интернета: войти может любой. И любой может выйти. И поэтому в интернет-сообществе должно быть весело, ведь иначе оно погибнет. Если ты будешь ждать до последнего, ждать до тех пор, пока не увидишь абсолютный, неоспоримый, вопиющий кошмар — ждать столько, сколько бы ждал полицейский-офицер перед тем, как открыть огонь — потакать своей совести и добродетелям, усвоенным внутри огороженной стеной крепости, и начнёшь действовать лишь тогда, когда ты будешь уверен в своей правоте и не будешь бояться вопрошающих взглядов — то в момент принятия мер будет уже поздно.

Я видел, как сообщества рационалистов умирали из-за того, что они слишком мало доверяли своим модераторам.

Но это — не то же самое, что и система кармы, на самом деле.

Если речь идёт о системе кармы, то доверять нужно себе.

Мне хочется привести небезызвестную цитату: «Ты можешь не верить в себя. Но поверь в меня, того, кто верит в тебя!»

Потому что я действительно и без шуток думаю, что, если ты хочешь минусануть комментарий, который кажется тебе низкокачественным — но всё же ты медлишь, боясь, что на самом деле желание минусануть возникло лишь из-за того, что ты не согласен с заключением или недолюбливаешь автора, нервничая из-за того, что кто-то может обвинить тебя в конформизме, бездумном поддакивании или (о ужас!) в осуществлении цензуры — то, я уверен, как минимум в девяти случаях из десяти этот комментарий действительно будет низкокачественным.

У тебя есть минусовалка. Используй её. Или USENET.

Полезная идея истины

Элиезер Юдковский

Помню, как я однажды сдавала письменную работу по экзистенциализму. Преподаватель вернула мне её с оценкой «плохо». Она подчеркнула слова «истина» и «истинный» везде, где они встречались в эссе, примерно двадцать раз, и рядом с каждым поставила вопросительный знак. Она хотела узнать, что я понимаю под истиной.

— Даниэлла Эган