Начало XVI в. стало периодом нововведений на море. Кораблестроители экспериментировали с различными схемами размещения артиллерии, иша наиболее оптимальную из них. Испытывались новые виды такелажа. На Средиземном море для судоходства использовались каравеллы — небольшие, легкие торговые суды с косыми латинскими парусами. Две такие каравеллы сопровождали более крупный каррак «Santa Maria» в знаменитой экспедиции Колумба 1492 г. Каравеллы вскоре стали основным типом кораблей эпохи открытий. На севере Европы огромные вооруженные карраки стали символом национальной мощи. В качестве примера можно привести английский «Henry Grace a Dieu» и шотландский «Great Michael». Более крупные и неповоротливые карраки (на Средиземном море и Иберийском полуострове карраки были более известны под названием пао) больше походили на коги средневековой Европы, но несли на грот-мачте косой латинский парус, а на грот-мачте прямой парус. Средиземноморские карраки и нао строились как каравеллы, то есть имели обшивку встык, тогда как североевропейские карраки имели клинкерную обшивку внакрой. До появления галеонов нао и каравеллы были основными типами кораблей, встречавшихся в испанских водах.
Высказывается предположение, что первые галеоны появились как развитие каравеллы. Оба типа кораблей имели общие черты, такие как низкий бак (по сравнению с нао и карраками) и сравнительно небольшие размеры (у первых галеонов). Но рисунки середины XVI в. свидетельствуют о том, что галеоны и нао также имели общие черты: прочный корпус, а также рангоут с такелажем. Наверное, лучше всего представить себе галеон как сплав всех средиземноморских традиций кораблестроения, результатом которого стало появление корабля, занявшего пустующее место в спектре имевшихся типов кораблей.
К концу 1530-х гг. галеоны окончательно выделились в отдельный класс и обрели свои отличительные признаки. Во время сражения при Превесе (1538) венецианский корабль, определенный как галеон, одержал победу над несколькими турецкими галерами. Из этого следует, что галеон был хорошо вооружен и мог защититься даже от нескольких галер. Несомненно, галеон был сильнее любого другого типа средиземноморского корабля. Даже большой нао строился без запаса прочности на артиллерийский огонь противника. Это было вместительное торговое судно, которое могло нести вооружение, но для участия в морских боях не предназначалось. Напротив, галеоны с самого начала проектировались как боевые корабли. В то время специализированные боевые корабли строили редко, и галеоны как раз были представителями этого редкого типа.