大别山主峰之所以称作白马尖，据说和佛教有关，佛教传入中国后，东汉永平十一年（68年），汉明帝刘庄为铭记天竺（古印度）高僧迦什摩腾、用白马驮载佛经佛像到中国传播佛教，在洛阳兴建了白马寺，也称为佛教中国第一古刹，这是佛教传入中国后兴建的第一座寺院，有中国佛教的“祖庭”和“释源”之称。
通常寺庙的选址不是在山上就是在海边，以表达僧人远离尘市、养心修行的精神追求，对常人而言，山近海远，多数寺庙也就习惯地建在了山上，从而也有了“山无寺则无名，寺无山则不灵”之说。由于当初建白马寺是为了纪念印度僧人抵达目的地洛阳，故并未遵循寺庙依山而建的常规，因此白马寺建成后汉明高和印度高僧一起找一座山建了寺庙，与白马寺遥相呼应。
汉明帝以为白马寺位地黄河流域，应该在长江淮河流域也能够传播佛法，印度高僧也认为，言之有理，于是印度高僧以金瓶掣签方式甑选与白马寺的同名山，掣签的结果是此山位于白马寺东南方、山呈东南往西北走势对着白马寺方向，按此标准，唯有长江淮河分水岭的大别山符合，于是命名大别山主峰为白马尖，其所以称为尖而不是峰，是因峰太多而俗，高有限而离天远皆与白马寺不配，因此为了表达佛教对造物苍天的膜拜，用尖则更为贴切，故取名大别山最高峰为白马尖，旁边的次主峰称为多云尖，上面建了一座寺庙，叫多云寺，这样就既有了纪念白马的山，又有了佛教的有了“北有白马寺，南有白马尖”一说。
