Японские спортсмены выступали во всех видах спорта олимпийской программы. Они становились призерами и чемпионами в соревнованиях по боксу, борьбе, волейболу, гимнастике, дзюдо, конному спорту, легкой атлетике, плаванию, стрельбе, тяжелой атлетике. Первые медали (серебряные) получили в 1920 г. в соревнованиях по теннису: Ичия Кумагае занял 2-е место в мужском одиночном разряде и вместе с Сейчиро Касио – в мужском парном разряде. Первыми олимпийскими чемпионами стали в 1928 г. легкоатлет Микио Ода (тройной прыжок) и пловец Иосиюки Цурута (на дистанции 200 м брассом). Больше всего наград (12) завоевал гимнаст Савао Като: 8 золотых, 3 серебряные и 1 бронзовую. Всего на Олимпийских играх японские спортсмены завоевали 335 медалей: 114 золотых, 106 серебряных и 115 бронзовых.
На зимних Олимпийских играх первую медаль (серебряную) выиграл в 1956 г. горнолыжник Такаси Игайя в слаломе. Первым олимпийским чемпионом стал в 1972 Юкио Касая в прыжках на лыжах с 70-метрового трамплина. Всего на Белых Олимпиадах японские спортсмены завоевали 32 медали: 9 золотых, 10 серебряных и 13 бронзовых.
В 1964 г. в столице Японии Токио прошли Игры XVIII Олимпиады. Дважды в японских городах проводились зимние Олимпийские игры: в 1972 г. – XI в Саппоро, в 1998 г. – XVIII в Нагано.