司南最早出现于战国时期的河北磁山一带。据两千多年前战国末期成书的《管子》和《吕氏春秋》记载，中国人就发现山上的一种石头具有吸铁的神奇特性，他们管这种石头叫做慈石。

司南的磁性指南特性是我国著名科技史学家王振铎根据春秋战国时期的《韩非子》书中和东汉时期思想家王充写的《论衡》书中“司南之杓，投之于地，其柢指南”的记载，考证并复原勺形的指南器具。