曹操讓杜夔任軍謀祭酒，在太樂手下任職，並命令杜夔創作雅樂。杜夔精通音樂，聰明過人，各種樂器無所不能，只有唱歌跳舞，不是他的特長。當時散郎鄧靜、尹齊擅長唱雅樂，歌師尹胡也能唱宗廟郊祀的樂曲，舞師馮肅、服養知曉以前和當時各種舞蹈。杜夔主管此事，深入研究。對前代經書所載，知道很多，近代掌故也多方收集，教授弟子，製作樂器，恢復、繼承前代的古樂，這些事都是從杜夔開始的。
魏文帝黃初年間(220～226)，杜夔任太樂令、協律都尉。東漢末年著名工匠柴玉手很靈巧，很多樂器都是他製造的，當時的達官貴人都很看中他。杜夔命令柴玉鑄銅鐘，聲韻清濁，與古法不合，杜夔命令他反覆製作。柴玉感到厭煩，說杜夔任意指揮，所以也常常反駁他，不聽杜夔的意見。兩人的官司打到曹操那兒。曹操把各個鐘取來，讓敲試，得知杜夔確實精通，而柴玉多誤，於是懲罰柴玉和他的兒子們，讓他們養馬去。
而魏文帝曹丕很喜歡柴玉。有一次，他下令杜夔和左馬真等在賓客中吹笙彈琴，杜夔面露難色，曹丕因此感到不滿。後來因為其他事，他把杜夔拘囚起來，讓左馬真等人去跟杜夔學習。杜夔自恃所學都是雅樂，這是作官的資本，心中還是表示不滿。於是曹丕就把杜夔的官職給罷免了。
杜夔的弟子有河南的邵登、張泰、桑馥，他們都官至太樂丞。下邳縣陳頏任司律中郎將。自漢代左延年始，他們雖然擅長音樂，但大都喜歡鄭國的俗樂，真正能保存繼承古樂的人，推杜夔為天下第一。