玄琴的韓語爲거문고(Geomungo)，意爲“高句麗的琴”。漢字名玄琴則來源於以下史料：“玄琴，象中國樂部 琴而爲之。……《新羅古記》雲：初，晉人以七絃琴送高句麗，麗人雖知其爲樂器，而不知其聲音及鼓之之法，購國人能識其音而鼓之者，厚賞。時第二相王山嶽，存其木樣，頗改易法制而造之，兼制一百餘曲以奏之，於是玄鶴來舞，遂名玄鶴琴，後但云玄琴。”——《三國史記·樂志》
即：因爲演奏時玄鶴來舞，遂名玄琴。上述史料還說，玄琴是高句麗宰相王山嶽模仿晉朝的七絃琴改制而成，這裏的七絃琴便是古琴。但在外形上，玄琴和七絃琴差異較大，反而更像古代中國的臥箜篌。即：玄琴和臥箜篌都有固定的柱，而七絃琴沒有柱只有徽(白色圓點)。因此，玄琴更有可能和臥箜篌同源。至於《三國史記》的記載，有可能是後人在臥箜篌失傳的情況下，給玄琴賦予了七絃琴的象徵意義。
經歷了統一新羅和高麗時期，高句麗的玄琴逐漸成爲朝鮮半島文人修身養性的必彈樂器，朝鮮文人韓笠(約1674-1720)在其琴譜《韓琴新譜》中寫到“五不彈”，即“疾風雨不彈、對俗者不彈、塵中不彈、不坐不彈、不衣冠不彈”。
中國有專門記錄古琴音樂的減字譜，朝鮮半島也有記錄玄琴音樂的合字譜，15世紀由成俔所創制的。合字譜是用略字合成標記了玄琴左手的奏法、右手的指法、所彈弦名和柱的位置。
經歷1600餘年，玄琴至今是當代韓國最具代表的絃樂器，分正樂玄琴和散調玄琴，兩者只有大小區別，其細部構造和15世紀末《樂學軌範》中的描述並無差異。共六絃，分別是1文弦、2遊弦、3大弦、4棵上清、5棵下清、6武弦，其中第1·4·5·6弦是開放弦，安有固定音高的雁足。第2·3弦是彈奏旋律的運指弦，被安在16柱的上面，第3弦大弦最粗，第2弦遊弦最細。
玄琴構造
正樂玄琴的調律以遊弦4柱的音，和大弦5柱的音爲基準，分別是降E和降B;
散調玄琴的調律以遊弦5柱的音，和大弦5柱的音爲基準，分別是F和降B。
文弦的音高與遊弦4柱同，棵上清·棵下清·武弦的音又與大弦5柱相同。
用於演奏玄琴的小木棍約長15~17cm，被稱爲匙。
