Чтобы отстоять свою теорию, Дарвин выдвинул идею о том, что естественный отбор действует на уровне семьи, а не отдельных организмов. По его мнению, если некоторые члены семьи стерильны, но обеспечивают благополучие производящих потомство родственников, как в случае колоний насекомых, то отбор на семейном уровне становится не просто возможен, но и неизбежен. Если единицей отбора становится вся семья, которая борется за выживание и размножение с другими семьями, то наличие стерильных, но альтруистичных родственников предпочтительнее для генетической эволюции. Дарвин писал: «Отбор может быть применён к семье так же, как и к отдельной особи, и так же привести к желаемой цели. Заводчики крупного рогатого скота желают, чтобы мясо и жир были представлены в определённой пропорции, и, хотя животное, обладающее этими свойствами, идёт на бойню, животновод уверенно продолжает разводить ту же породу, и это ему удаётся». Таким образом, стерильные рабочие в колонии муравьёв могут появляться на свет и жертвовать собой: как и в случае с отправленными на убой быками, их гены распространяются выжившими родственниками. Рассуждая о муравьях-солдатах и рабочих, Дарвин продолжает: «Имея перед собой такие факты, я не сомневаюсь, что естественный отбор путём воздействия на фертильных муравьёв, или родителей, мог бы произвести такой вид, который систематически давал бы бесполых особей. Все они были бы крупными, с челюстями одной формы, или все малой величины с челюстями разного типа, или, наконец, что представляет наибольшую трудность, одна группа рабочих была бы одной величины и строения и одновременно другая – иной».
Дарвин предоставил базовое описание принципа родственного отбора, чтобы объяснить самопожертвование с точки зрения естественного отбора. Что важнее, он продемонстрировал, что существование муравьёв-рабочих не противоречит его теории. После этого на протяжении ста лет энтомологи принимали стерильные касты муравьёв как данность. Они полагали, что сообщества насекомых образуются благодаря преимуществам социальной жизни, а стерильные касты внутри них являются логическим следствием данного процесса. Казалось, что изучать эту проблему подробнее не имеет смысла.
Однако в 1963 году британский энтомолог и генетик Уильям Гамильтон заставил научное сообщество взглянуть на ситуацию несколько иначе. Он заявил, что перепончатокрылые – отряд насекомых, в который входят пчёлы, осы и муравьи – генетически предрасположены к социальному образу жизни из-за способа наследования пола. Родственный отбор работает так, как и полагал Дарвин, однако из-за необычного способа полового детерминизма у перепончатокрылых он становится движущей силой. Чтобы понять принцип его работы, для начала надо представить общий количественный принцип родственного отбора, установленный Гамильтоном. По его мнению, чтобы альтруизм как черта закрепился, его преимущества для родственников должны перевешивать обратную сторону таких отношений между донором и его родственниками. Рассмотрим ситуацию, когда донор жертвует жизнью или по меньшей мере не производит потомства, чтобы помочь родственникам. Как правило, особь имеет половину общих генов с братьями и сёстрами. Величина, обратная одной второй, – два; таким образом, чтобы ген альтруизма смог распространиться, самопожертвование должно увеличивать потомство брата или сестры донора более чем двукратно. Кроме того, особь-альтруист имеет четверть общих генов с дядей; если её самопожертвование направлено на него, потомство дяди должно увеличиться более чем в четыре раза для распространения гена. Аналогичным образом особь делит одну восьмую генов с кузенами и кузинами, следовательно, потомство таковых должно увеличиться более чем восьмикратно, и так далее. Преимущество может передаваться кумулятивно многим родственникам. Однако за пределами узкого круга ближайших родственников – прямых потомков, двоюродных братьев и сестёр – его практически невозможно проследить. Подлинный альтруизм – инстинктивная щедрость и готовность пожертвовать собой, не предполагающая личного вознаграждения – вероятнее всего, будет наблюдаться только среди ближайших членов семьи. Иными словами, наследственный альтруизм узко ограничен.