話說俞伯牙善於撫琴，有很多的仰慕者，他的妻子就是其中的一位。在俞伯牙撫琴的時候，他的妻子經常坐在一邊如癡如醉地傾聽，兩人的夫妻關係很和諧，突然有一天，俞伯牙的妻子得了一場大病，俞伯牙焦急萬分，親自尋醫問藥，端茶送水，悉心照料，常常衣不解帶。但是他妻子的病終究沒有好轉。
在妻子彌留之際，她對伯牙說：“相公，我還想聽聽你的琴聲。”俞伯牙含淚答應，他慢慢走了出去，取琴回來，放在妻子的病榻旁邊的琴桌上，收拾好哀傷的心情，他的手開始熟練地觸碰着琴絃。俞伯牙心想這可能是最後一次爲妻子撫琴，於是他不知疲倦地彈了一曲又一曲，漸漸進入如癡如醉的境界。正在這個時候，突然“嘣”的一聲，有一根琴絃斷了，俞伯牙驚訝萬分，急忙往病榻上一看，原來自己的妻子已經嚥氣多時。俞伯牙走了過去，嚎啕大哭，從此他將這把琴包裹起來，不再撫琴。
就這樣過了一年，俞伯牙始終沒有從亡妻之中走出來，他經常獨自一人撫着斷了弦的那把琴，暗暗落淚，十分憔悴。他的家人不忍心看到伯牙長此下去，於是就給他說了一門親事，希望能以此沖淡他的憂傷，豈料遭到伯牙的斷然拒絕。經過家人的再三勸說，伯牙纔算同意考慮一下這門親事。到了女方家中，俞伯牙始終無精打采，有一句沒一句地回答着女子家人的問題。忽然，女子家父說道：“我的女兒十分仰慕您的琴藝，能否爲她彈奏一曲?”俞伯牙心中一動，默默站起來，施了一禮，回到家中，將那把斷了弦的琴重新接上了弦，帶到女方家中。
他將琴默默放好，手指輕碰琴絃，不由地想起了自己的妻子，一時眼中含淚。那位相親的女子一直在默默地觀察着俞伯牙，看他如此地愛着自己的妻子，可以看出他是一位鍾情之人，又聽到他的琴聲如此美妙，不由心中歡喜，一曲完畢後，女子立即答應了這門親事。從此以後，俞伯牙經常爲她彈琴，慢慢走出了喪妻的陰影，兩人的生活十分美滿幸福。
因爲這個故事，人們將男子亡妻後再娶稱爲續絃。
