文学の上で布引の滝が大きく取り上げられているものに、伊勢物語の記事がある。平安朝前期のことである。
父の領地のある芦屋の里に来ていた在原業平は、或る日 「いざ、この山の上にありといふ布引の滝見にのぼらん」 と言って友だちを誘い、布引の滝見物にやって来た。
ところで、伊勢物語のこの所は 「いざ、この山」 とよまないで 「いさごの山」 とよむ説があり、布引の滝登り口の右側にある丸い小さな山、即ち砂（いさご） 山（やま） (通称丸山) をさすとする考え方である。
現在は専ら 「いざ、この山」 説が行われているが、 「いさごの山」 説も捨て難く、かつて神戸市の観光バスが布引近くになると ── 今はコースが変わったので案内されていないが ── ガイド嬢は前面の山を指して、 「伊勢物語に書かれている砂山であります」 と説明したのは、この説によったのである。
この伊勢物語の場面では、今から約千百年前の布引の滝の姿が、かなり細かに描写されている。
雄滝・雌滝に分かれていないで、一本の滝であるが、 「高さ二十丈、広さ五丈ばかりの岩を白絹で包んだようである」 と、いかにも布引の滝にふさわしい表現をしており、 「横にさし出た岩に飛び散る水玉は、小さな蜜柑か栗の大きさで、はげしい水の勢いである」 と、短い文の中に滝の壮観をいきいきと躍動させている。
往時、ここは生田の森とともに神戸地方の最も優れた観光地であるので業平以外にも多くの人が訪れ、平安朝文学においては、それらに関する歌が所々に点在する。
宇多天皇や藤原頼通 (道長の子) 遊覧のことが古今集や全葉集にあるが、とりわけ栄花物語三十九帖には、「布引の滝」 と題して関白藤原師実 (頼通の子) の布引の滝見物の描写がある。