「微」有衰微或微小、精微等意。「微乎其微」形容极其衰微。语本《尔雅．释训》。后用「微乎其微」形容事物极其细小或精微。

《尔雅．释训》式微式微1>者，微乎微者2>也。

(1) 式微式微：《诗经．邶风》文。式，发语词，无义。微，衰微。
(2) 微乎微者：极其衰微。

《尔雅》是我国最早解释词语、名物的专书，〈释训〉篇有「式微式微者，微乎微者也」一节，系释《诗经．邶风．式微》之文。《诗》云：「式微式微，胡不归？微君之故，胡为乎中露？式微式微，胡不归？微君之躬，胡为乎泥中？」这是黎侯被狄人所逐，寄居卫国时，他的臣子劝他回国的话。黎侯流亡到卫国，卫国给他优厚的待遇，局势稳定后，他竟然不想回去了。他的臣子因此来劝谏他。据朱熹诗经传的说法，这段劝谏文字的意思是：「您被逐而寄居卫国，已是衰微得不能再衰微了，您为何不回国呢？不是为了您，我们做臣子的何必餐风露宿，陷身泥涂，这么辛苦而受不到庇护拯救呢？」「式微式微」是诗歌常见的叠句，有加强语气的作用；其中的「式」是发语词，无义。后来「微乎其微」这句成语就从这里演变而出，但多用来形容非常微小，也偶见用于形容事物极其精微，清．杨伦《杜诗镜铨．白丝行》眉批引蒋弱六云：「写妙技不觉说入自家话，微乎其微。」就是形容其精微。