据记载，在战国秦汉时期出现的医学文献《黄帝内经》、《神农本草经》、《难经》等著作中都有关于膏药的记载。这时的膏药，是猪脂膏之类的软膏。魏晋时期炼丹术盛行，黑膏药已经出现。唐宋时黑膏药的制备逐渐完善，得到广泛使用。明清时已经成为普遍的用药之一。
膏剂是祖国医学的一类古老剂型，其渊源久远。早在《山海经》中就记载了羯羊脂，用于涂搽皮肤以防皲裂，可以说是最原始的膏药；《黄帝内经》中记述了“豕膏”，“痈发于嗌中……合豕膏，冷食，三日而已。……涂以豕膏，六日已。”《内经?至真要大论》：“摩之、浴之、薄之、劫之、开之、发之，适事为度。”其中所指的“摩之、薄之都是后代膏药的滥觞”。南北朝时称膏剂为“膏方”或“薄”。
唐代也有“摩膏”的称谓。明清时代将唐代的“煎”改称为“膏滋”或“膏”，并纳入了膏剂的范畴。这样，膏剂的品种更加丰富了。随着历史的发展，膏剂的用途逐渐扩大，不但治外病用膏，治内病也用膏