А вскоре вышла и первая книга рассказов «Простые повествования с холмов» («Plain Tales from the Hills», 1888) — рассказы о повседневной жизни в британской Индии. Тут впервые Киплинг делает то, что потом делал всю жизнь: почти к каждому рассказу он ставит специально для этого рассказа сочиненный стихотворный эпиграф. Потом такие эпиграфы иногда разрастались до размеров полноценного стихотворения, как это произошло с «Блудным сыном», первоначально недлинным эпиграфом к одной из глав знаменитого романа «Ким». Вскоре рассказы Киплинга стали широко издаваться в Индии. Вышли сборнички «Три солдата» (в первом русском переводе Клягиной-Кондратьевой «Три мушкетера»), «Ви-Вилли-Винки» и еще некоторые — это все были тонкие и дешевые книжки для массового читателя. Нынешний читательский снобизм должен все же признать, что хорошая литература для так называемого массового читателя нужна, как нужен был в русском XIX веке Н. А. Некрасов… А иначе — «свято место» заполняется разными асадовыми или чуевыми… Самому автору эти книги послужили как бы вторичными записными книжками, став основой для будущих баллад. Во многих случаях видно, что не только сюжеты, но и множество деталей поэт Киплинг заимствует у наблюдательного Киплинга-прозаика, а тот в свою очередь берет их у Киплинга-журналиста. В это время (с 1887 года) писатель уже работает в крупной газете «Пайониир» в Аллахабаде.
Однажды он, редактируя литературное приложение, в котором печатались рассказы Брет Гарта, решил, что может и сам поставлять газете подобную литературную продукцию. Поначалу слегка подражая своему любимому американскому писателю, Киплинг начал писать чуть ли не по рассказу в день:
В центре внимания этой ранней прозы Киплинга почти все время находятся взаимоотношения англичан с индийцами. Эта тема органична для двукультурного писателя.
С 1887 по 1889 год Киплинг написал шесть сборников коротких рассказов для серии «Библиотека Индийской железной дороги». Эти книжки предназначались для вагонного чтения и продавались в частности (в соответствии с пожеланиями автора) прямо в билетных кассах. Они принесли Киплингу широкую известность не только в Индии, но и по всей Британской империи.
(В семидесятых годах XX века в США Иосиф Бродский предлагал специально выпускать дешево изданные поэтические книжки и продавать их прямо в кассах супермаркетов.)
Весь 1889 год Киплинг путешествовал по разным странам, писал путевые заметки и прозу. В октябре он появился в Лондоне и удивленно заметил, что «почти сразу оказался знаменитостью»:
В 1890 году Киплинг стал уже по-настоящему известным писателем. А вскоре после того, и поэзия Киплинга заявила о себе ярко и непривычно. Появилась, сначала в периодике, «Баллада о Востоке и Западе» («The Ballad of East and West»). С нее начиналось и первое, еще неполное, издание книги «Казарменные баллады» («Barrack-Room Ballads», 1892). К Киплингу пришла слава. Он уверенно создавал новый поэтический стиль, намеренно не оставляя камня на камне от «приличной» гладкописи, от скучного тяжеловесного и пристойно-размеренного, давно уже многим осточертевшего викторианства, от чуть ли не обязательного четырехстопного ямба, иногда перемежавшегося у поэтов-викторианцев с трехстопным, да и от солидного «псевдошекспировского белого пятистопника» (Е. Г. Эткинд).