竖琴起源于古波斯（伊朗）。据埃及古图记载，此种乐器出现于公元前三、四千年，当时的形状犹如一个有弦之弓，也是世界上最古老的拨弦乐器之一。

新石器时代至古希腊、美索布达米亚石期：

竖琴与箜篌、古典吉他、鲁特琴等古老的西洋弹拨乐器(箜篌与琵琶一样，在我国古代是西域传入乐器)都是由新石器时代的原始弦琴衍化而来，原始弦琴常在原始部落中扮演占卜、丧葬、祈雨等祭祀工具，可以认为它一切古典式弦琴的起源。

古希腊、美索布达米亚时期至中古时期：

“Harpa”这个字的第一次出现，是在公元600年左右；早期文献内对竖琴的记载，使用名称并不统一。被发掘的第一把拱形竖琴，是出现在美索布达米亚平原，年代为公元前2500年。它与缅甸竖琴相似，有13或14条琴弦。有些中、西非地区，仍能见到这样的竖琴。

中古时期以后：

现存最古老的爱尔兰竖琴，是制造于14世纪。一般有30到36弦，最大的特色是使用指甲弹奏的声音。目前世界上保有竖琴最原始风貌的地方，其实不在欧洲，而是中南美洲。中南美洲的竖琴构造，仍旧保有当时西班牙移民时期的原貌，虽然不同地域会有一些不同的改良方法。

从巴洛克时期到古典主义时期：

16世纪时，JuanBermudo比照键盘乐器，发明了双排弦竖琴。这种竖琴，有两排平行的弦，加上去的那一排，就像钢琴的黑键，负责半音的弹奏。

在双排弦竖琴后，又出现了三排弦竖琴及镰钩竖琴。镰钩竖琴的原理，与后来发展的音级竖琴很相似，它是先将几个特定的音调低半音，然后以左手操纵镰钩而将音升高半音。

继双排弦与三排弦竖琴之后，在18世纪时出现了交叉弦竖琴，及半音阶竖琴。交叉弦竖琴共有76根弦，44根在左边，32根在右边。但是这些竖琴，因为在弹奏上的困难与乐器本身的限制，几乎都不使用了，只有在特殊表演或展览中出现。

现代化改进：

17世纪末、18世纪初，竖琴逐渐演变为踏板竖琴。踏板竖琴就是用脚控制踏板来升高半音。单一动作的踏板，只有两个凹槽，踏板由上凹槽到下凹槽，只动作一次，能演奏的调性仍然有限。

到了19世纪初，S·埃拉尔（SebastienErard）发明了双次动作踏板竖琴，因为有多加一个凹槽，踏板可以动作两次，所以每根弦可以弹奏三个半音。

至此，竖琴发展为可以弹奏所有调性的乐器，而现今音乐会中所使用的音乐会用踏板竖琴，就是从Erard竖琴慢慢改进而来。