浮小麦一名，最早见于古医籍《太平圣惠方》一书。关于它的由来，有一则“王怀隐妙手偶得”的故事。
宋代太平兴国年间，京城名医王怀隐，有一天雨后放晴，到后院查看晾晒的中药材，发现新购进一堆小麦，便问伙计：“这些又瘦又空的蛀小麦，何人送来？”伙计回答：“是城南张大户送来的。”他正想再说什么，忽然来了一位急症病人，那病人的丈夫对王怀隐恳求说：“王先生，我娘子近来不知何故，整日心神不宁，常常发怒，有时哭笑无常，甚至还伤人毁物，真有点怕人。今请先生施恩，为她除病驱邪。”
王怀隐切了切那妇人的脉，又问了几句病情，捋须笑道：“不必惊恐，此乃妇女脏躁症也。”言毕，信手开了一方，上书：甘草、小麦、大枣三味药，意用东汉医圣张仲景《金匮要略》中的良方“甘麦大枣汤”，治疗妇女更年期出现的精神与心理方面的症状。那汉子持药扶病妇临行时，又补充一句病情：“先生，我差点忘了，她还常常夜间出汗，汗液常湿透衣衫呢。”王怀隐点头答道：“嗯，知道了，先治好脏躁症再说吧。”
五日后，那妇人偕丈夫乐滋滋地来拜谢王怀隐，感激地说：“先生救苦救难的大德，我们夫妇终生难忘。真是药到病除，不愧为杏林名医呀。”王怀隐关切地问：“不急，今天再来治盗汗症。”那妇人笑道：“不必了，已一并痊愈了。”王怀隐暗自思忖，难道甘麦大枣汤也有止盗汗的作用？后来，他有意以此方又治了几个盗汗症病人，由于用的是成熟饱满的小麦，结果均不见效。他大惑不解，于是查阅唐代药王孙思邈的《千金要方》，想寻求答案。
正当这时，店堂小伙计与张大户的争吵声惊动了王怀隐。伙计手握一把张大户送来的小麦说：“这样的小麦我怎能收？你别以为做药就可以将就些，这瘪麦子你拿回去吧。”王怀隐听罢，忆起上次那妇人所用的小麦就是张大户送来的瘪麦子，急忙上前道：“张老兄，你这麦子是……”未等先生说完，张大户便红着脸诉出了实情：“这是漂浮在水面上的麦子，我舍不得丢弃，我估计治病用大概可以吧，因此送来了。”王怀隐听罢，从中似乎悟出了什么，便吩咐伙计：“暂且收下吧，另放一处，并注明‘浮小麦’三个字。”
后来，王怀隐用浮小麦试治盗汗、虚汗症，果然治一个好一个，便逐渐认识到浮小麦的功效。太平兴国三年，他与同道好友王祜、郑奇、陈昭遇潜心研究张仲景的医著，合编成《太平圣惠方》一书，并将浮小麦的功效记入该书。从此，“浮小麦”一药便流行于世，并为历代医家沿用至今。
