华表作为道路标识和供路人留言之用的巨大柱状建筑物，迄今已有数千年的悠久历史。早期的华表是人们在交通要道设立的一根木柱，并“以木贯穿，柱头四出”，名为“桓”，用于识别和标志道路，这是华表的雏形。
后来的邮亭、传舍也用它作标识，被称做“桓木”。据史书记载，尧时即出现以横木交于柱头的“桓木”，用于指示大路的方向。
华表在上古时又名“表木”、 “谤木”。《吕氏春秋》曰：“尧有欲谏之鼓，舜有诽谤之木”。原来诽、谤二字的古义相同，均指“言其过失”，或者说“直言批评”，与谏言属同一含义，并无后世“无中生有，恶意中伤”的贬义。古代的华表就相当于今天的上诉状。
相传，尧、舜为了纳谏在交通要道和朝堂上树立木柱，让人在上面书写谏言，也就是鼓励人们提意见。晋代崔豹在《古今注．问答释义》中说：“程雅问曰：‘尧设诽谤之木，何也？’答曰：‘今华表木也，以横木交柱头，状若花也，形似桔槔，大路交衢悉施焉。或谓之表木，以表王者纳谏也，亦以表识衢路也。’”
因为古时的“桓”与“华”音相近，“桓木”、“表木”的称谓就慢慢演变成了“华表”。