于伯牙从小就酷热爱音乐，他的老师成连曾带着他到东海的蓬莱山，师傅说是找仙师，便走了许久。伯牙见老师还不回来，就沿着一条小路找师傅。发现了一个美丽的地方，便弹出一首好曲。这时师傅突然出现，说：“好啊！仙师被你找到了！”师傅带他领略大自然的壮美神奇，使他从中悟出了音乐的真谛。他弹起琴来，琴声优美动听，犹如高山流水一般。虽然，有许多人赞美他的琴艺，但他却认为一直没有遇到真正能听懂他琴声的人。他一直在寻觅自己的知音。
有一年，伯牙奉晋王之命出使楚国。八月十五那天，他乘船来到了汉阳江口。遇风浪，停泊在一座小山下。晚上，风浪渐渐平息了下来，云开月出，景色十分迷人。望着空中的一轮明月，伯牙琴兴大发，拿出随身带来的琴，专心致志地弹了起来。他弹了一曲又一曲，正当他完全沉醉在优美的琴声之中的时候，猛然看到一个人在岸边一动不动地站着。伯牙吃了一惊，手下用力，“啪”的一声，琴弦被拨断了一根。伯牙正在猜测岸边的人为何而来，就听到那个人大声地对他说：“先生，您不要疑心，我是个打柴的，回家晚了，走到这里听到您在弹琴，觉得琴声绝妙，不由得站在这里听了起来。”
伯牙借着月光仔细一看，那个人身旁放着一担干柴，果然是个打柴的人。伯牙心想：一个打柴的樵夫，怎么会听懂我的琴呢？于是他就问：“你既然懂得琴声，那就请你说说看，我弹的是一首什么曲子？”
听了伯牙的问话，那打柴的人笑着回答：“先生，您刚才弹的是孔子赞叹弟子颜回的曲谱，只可惜，您弹到第四句的时候，琴弦断了。”
打柴人的回答一点不错，伯牙不禁大喜，忙邀请他上船来细谈。那打柴人看到伯牙弹的琴，便说：“这是瑶琴！相传是伏羲氏造的。”接着他又把这瑶琴的来历说了出来。听了打柴人的这番讲述，伯牙心中不由得暗暗佩服。接着伯牙又为打柴人弹了几曲，请他辨识其中之意。当他弹奏的琴声雄壮高亢的时候，打柴人说：“这琴声，表达了高山的雄伟气势。”当琴声变得清新流畅时，打柴人说：“这后弹的琴声，表达的是无尽的流水。”
伯牙听了不禁惊喜万分，自己用琴声表达的心意，过去没人能听得懂，而眼前
伯牙抚琴雕塑
的这个樵夫，竟然听得明明白白。没想到，在这野岭之下，竟遇到自己久久寻觅不到的知音，于是他问明打柴人名叫钟子期，和他喝起酒来。俩人越谈越投机，相见恨晚，结拜为兄弟。约定来年的中秋再到这里相会。
和钟子期洒泪而别后第二年中秋，伯牙如约来到了汉阳江口，可是他等啊等啊，怎么也不见钟子期来赴约，于是他便弹起琴来召唤这位知音，可是又过了好久，还是不见人来。第二天，伯牙向一位老人打听钟子期的下落，老人告诉他，钟子期已不幸染病去世了。临终前，他留下遗言，要把坟墓修在江边，到八月十五相会时，好听伯牙的琴声。
听了老人的话，伯牙万分悲痛，他来到钟子期的坟前，凄楚地弹起了古曲《高山流水》。弹罢，他挑断了琴弦，长叹了一声，把心爱的瑶琴在青石上摔了个粉碎。他悲伤地说：“我唯一的知音已不在人世了，这琴还弹给谁听呢？”
两位“知音”的友谊感动了后人，人们在他们相遇的地方，筑起了一座古琴台。直至今天，人们还常用“知音”来形容朋友之间的情谊。
两人千古传诵的诗篇:摔碎瑶琴凤尾寒，子期不在对谁弹！春风满面皆朋友，欲觅知音难上难
汉族古琴十大名曲之一。根据《神奇秘谱》记载：高山、流水二曲，本只一曲，至唐，分为两曲，不分段数。可见，“高山流水”、“高山”、“流水”三曲实出于同一首琴曲，但传谱至今仅见《高山》、《流水》两谱，现存《高山流水》琴曲则是以存见的《高山》、《流水》两曲合编而成，已非古曲。
战国时已有关于高山流水的琴曲故事流传，故亦传《高山流水》系伯牙所作。乐谱最早见于明代《神奇秘谱（朱权成书于1425年）》，此谱之《高山》、《流水》解题有：“《高山》、《流水》二曲，本只一曲。初志在乎高山，言仁者乐山之意。后志在乎流水，言智者乐水之意。至唐分为两曲，不分段数。至来分高山为四段，流水为八段。”两千多年来，《高山》、《流水》这两首著名的古琴曲与伯牙鼓琴遇知音的故事一起，在人民中间广泛流传。