Но Джефф становился все более замкнутым и разочарованным. Темпераментный, суетливый, ранимый, с ужасными головными болями от перенесенного в детстве несчастного случая, он мог играть воодушевленно и четко один день, а потом — рассеяно и неритмично на последующих трех концертах. Он встретил девушку по имени Мэри Хьюз в Лос-Анджелесе — американской цитадели Yardbirds и совершенно случайно пропустил концерты, находясь у женщины. Yardbirds оказывали сильное воздействие на новые группы Калифорнии своей громкой, тягучей, трансовой блюзовой музыкой. Что же касается Джеффа, то он стал нудным и постепенно терял интерес к происходящему. Наконец, устал и Гомельский, продав Yardbirds Саймону Напье-Беллу — лондонскому рекламному магнату, который умел завоевывать умы и сердца музыкантов, рассказывая им о возможностях получения преимуществ перед «королями» посредством оборудованной определенным образом студии звукозаписи. Такого музыканты еще никогда не слышали.
До начала 1966 года Джефф Бек пытался убедить Пейджа в необходимости примкнуть к Yardbirds и тогда вместе на пару они смогут играть на соло-гитарах. Бек считал, что комбинация из двух «крутых» психоделических гитаристов будет иметь оглушающий успех. Лишь в этом случае он намеревался вложить всю душу в группу. К апрелю вся музыкальная пресса была полна слухов о том, что Джимми Пейдж собирается играть с Yardbirds и музыкант вскоре подтвердил это. Тогда же он аккомпанировал певцу Яну Виткомбу. Джимми намеревался заменить и Бека, указывая, что последний просто перегорел в Америке. Джимми обучал Виткомба различным элементам сейшена («добрая душа» — отзывался о Пейдже певец). Бас гитарист группы — организатор многих сейшенов представился Джоном Полом Джонсом …
К этому времени Пол-Самвел Смит являлся уже музыкальным директором Yardbirds и именно он продюсировал новый сингл группы “Over Under Sideways Down”. Партия гитары была услужливо подсунута Джеффу Беку Саймоном Напье-Беллом. Самвел Смит также перегорел. Он с отвращением относился к бездействию Yardbirds и хотел только выпускать пластинки. В мае 1966 года в группе царило сильное напряжение. Однажды вечером Джимми с Джеффом отправились в Оксфорд для показательного выступления в “May Ball” — шоу, ежегодно организуемого первокурсниками университета. На этот раз были приглашены Yardbirds и Hollies. Как только два гитариста появились за авансценой, они увидели сгорбившегося и пьяно покачивающегося Кейта Релфа, сообразив, что шоу будет длинным.
Yardbirds начали неплохо, но публика реагировала слабо. Это сильно расстроило Релфа и он попросту напился. За кулисами Релф и певец Hollies — Алан Кларк принялись крушить подносы с едой меткими ударами дзю-до. В итоге Релф сломал все пальцы на одной руке, которые опухли и стали похожими на сосиски. Чтобы залечить переломы Релф отправился в близлежащий бар. Во время второго отделения концерта Кейт стал просто безобразничать. Yardbirds играли свои хиты, а он пердел в микрофон и предлагал нарядным студентам оттрахать самих себя, а затем на карачках ползал по сцене. Поднявшись, он отправился к ударнику, завалился на установку, и наконец — был выведен под руки. Наблюдая за всем этим из зала, Пейдж от души хохотал. В конце концов вернувшегося Релфа привязали к микрофонной стойке и довели таки концерт до конца.
После шоу Пол Самвел-Смит с отвращением покинул группу. Он предложил Крису Дрейя и Джиму Маккарти последовать его примеру, но они отказались. Джимми предложил свои услуги в качестве бас гитариста, пока не найдется замены. Крис Дрейя вспоминает: «Пейдж занимался организацией и участвовал во многих концертах. Он хотел выйти на ровную дорогу. Думаю, что Джимми увидел отличную возможность, поэтому и пришел в группу, которая уже почти приблизилась к успеху. И он выиграл. Пейдж подготовился взять на себя даже роль барабанщика». (Потом, Дрейя нервно добавил: «И черт меня дернул это сказать».)
В июне 1966 года Джимми дебютировал в качестве басиста в лондонском клубе “Marquee”. Поначалу, Саймон Напье-Белл попытался убедить музыкантов группы не брать такого именитого и опытного профессионала. Беку он заявил: «Ты — одаренный гитарист. Взять еще одного такого — чистое безумие». Но Бек и другие настаивали на обратном и Джимми получил место в группе. «Он был счастлив», — говорил Дрейя, — «хотя бас и не его инструмент — довольствовался и этим. Он был просто рад работать в группе … Джимми — сама услужливость и благодарность. Он мог бы сделать для вас все, пока эгоизм не взял верх».