Японская письменность, кандзи (буквально “китайские знаки”) пришла в Японию через Корею только в V веке и до VIII века японцы не сохраняли никакой записанной истории, поэтому установить, когда именно и как в Японии появилось сумо, невозможно. Историки предполагают, что подобные виды спорта существовали в Японии и соседних с Японией странах с древнейших времен, и некоторые из них сохранились до сих пор, например, ssireum в Корее и boke в Монголии. Некоторые историки так же предполагают, что в древности турки могли быть соседями японцев, турецкий язык часто относят к той же алтайской группе языков, к которой некоторые специалисты относят и японский (в этих двух языках действительно схожая грамматика и много схожих корней), а турецкая национальная борьба Yağlı Güreş считается схожей с сумо. Так или иначе, но в древнейшем сохранившемся японском тексте, Кодзики, книге японских мифов и истории датированной 712 годом, рассказывается легенда о том, как само владение японскими островами было определено богами посредством борьбы сумо.
Легенда повествует о том, как две с половиной тысячи лет назад верховным богом на японских островах был О-куни-нуси, бог магии и медицины, сын злого бога штормов Сусано-о, изгнанного на землю с небес верховной богиней солнца Аматерасу. Сына своего назначить наместником своей власти на земле хотела Аматерасу, но земные боги не признавали ее власти, а только власть О-куни-нуси и его многочисленных сыновей и какого бога не посылала Аматерасу для усмирения земных богов, все были повержены ими. В конце концов небесные боги послали на землю бога Такэ-мика-зути, бога молний, рожденного от меча, которым бог Изанаги убил бога огня. Такэ-мика-зути спустился на землю и вызвал О-куни-нуси и сказал ему: “Я послан небесными богами на твою землю, чтобы вернуть власть над землей сыну Аматерасу, что ты на это скажешь?”. Испугался О-куни-нуси и позвал своих сынов, но сыновья лишь советовали отцу отказаться от власти.
И тогда позвал О-куни-нуси своего самого сильного сына, бога Такэ-мина-ката. На кончиках своих пальцев Такэ-мина-ката играл огромным камнем, который не могли бы поднять и тысяча человек. “Кто здесь наводит смуту? — спросил Такэ-мина-ката, вызывая посланца Аматерасу на дуэль. — Дай мне проверить твою силу рук”. И с этими словами Такэ-мина-ката схватил руку Такэ-мика-зути, но рука бога молний превратилась сначала в ледяной столб, а потом в острие меча, и испугался Такэ-мина-ката и отпустил руку. Тогда наоборот Мика-зути взял за руку Мина-ката и сломал ее как тростник, а после вырвал прямо от плеча и бросил на землю. В ужасе бежал ставший одноруким Мина-ката, и так японская земля стала возвращена под власть небесной богини Аматерасу, через внука которой началась императорская линия, которая, ни разу не прервавшись, до сих пор правит Японией. Такэ-мика-зути же стал богом — покровителем японских боевых искусств, древнейшим из которых является сумо, а битва Такэ-мика-зути и Такэ-мина-ката считается первой в истории схваткой сумо.