隋开皇十年，文帝杨坚北巡挖河道，获一巨石，似铁非铁，似石非石，色苍声铮，以为灵瑞，遂命名为“灵石”，割平周县西南地置为灵石县。

灵石县，于隋开皇十年（公元590年）置县，距今已有1400多年的历史，春秋时属晋；战国时先赵后魏；秦汉时，先属太原郡，后属河西郡；三国时属魏；晋时属西汉郡；隋初属平周县（今介休县）。