據《日本書紀》記載,推古天皇三十一年,自唐朝歸國的留學僧惠齊、惠光、醫惠日、福因等人上奏說,在唐留學人員均已修成學業,他們向天皇建議:「大唐國法式備定之珍國也,常須達。」日本朝廷認可這一建議,經過7年準備,於舒明天皇二年(630)派出第一批遣唐使。此後264年中,共任命遣唐使19次,其中有13次真正到達了唐朝。遣唐使這一非同尋常的政治活動,自然並非幾個留學僧的建議便可肇端。
遣唐使回國後,雖然一度在政治上受到排擠,但無論政治制度改革,抑或學習唐朝文化,他們都發揮了不可替代的作用。其中名聲最著、作用最大者,當屬吉備真備。
吉備真備22歲時隨第8次遣唐使入唐,在唐凡17年。他學習內容非常廣博,三史、五經、名刑、算術、歷道、天文、漢音、書法、音樂、秘術、雜占等皆有涉獵。吉備真備根據漢字楷書的偏旁創造了「片假名」,與空海和尚根據漢字草書偏旁創造的「平假名」一同構成日文的字母。如此恐怖的知識量和跨越時代的發明,令他在日本民間形成了類似於諸葛亮的地位。後人編繪的《吉備大臣入唐記繪詞》收錄了許多怪誕的傳說。例如一則故事說,唐朝人強留吉備不歸,吉備便施展秘術「封住」日月,致使十天之內天下時辰出現怪動,唐人占卜後得知真相,嚇得皇帝馬上下詔准其歸國。
吉備真備歸國後仕途順利,先後任大學助、東宮學士、春宮大夫等職,先後給大學寮學生傳授五經、三史、明法、算術、音韻、籀篆等六道,還給孝謙女帝講授過《禮記》等學問。籐原仲麻呂(惠美押勝)得勢時排擠吉備真備,逼他在56歲時再次奉使入唐。歸國後吉備真備主持過太宰府軍政,天平寶字八年(764)惠美押勝叛亂,吉備真備以其卓越的軍事才能平定叛亂,從此平步青雲,做到了右大臣之位。他的學問廣博有餘精深不足,先求具其形而後再求深入,代表了那個時代日本學習唐朝文化的典形狀態。
晁衡的名聲更加響亮。他717年隨第8次遣唐使團入唐,與素懷大志的吉備真備不同,他更加專注地學習文學,因為成績優秀,獲准參加科舉考試並中了進士,在唐朝歷任校書、左拾遺、左補闕、儀王友。這幾個官職對文化素養要求都非常高,可見其造詣之深。故而李白、王維、儲光羲、包佶、趙驊等才子士人都與他交情頗深。
唐玄宗對晁衡非常喜愛,以至於733年晁衡提出要歸國時未獲同意。直到752年,五十多歲的晁衡再次提出歸國探望父母,玄宗才終於批准。王維等人向他道賀,紛紛以詩酬送,晁衡亦作《銜命還國作》一詩:
銜命將辭國,非才忝侍臣。天中戀明主,海外憶慈親。伏奏違金闕,驂去玉津。蓬萊鄉路遠,若木故園林。西望懷恩日,東歸感義辰。平生一寶劍,留贈結交人。
752年十月,晁衡歸途中遭遇風暴,晁衡和大使籐原清河漂流到驩州(今越南)。當時人們都以為晁衡遇難,大詩人李白悲傷不已,寫了一首《哭晁卿衡》以哀悼之:
日本晁卿辭帝都,征帆一片繞蓬壺。
明月不歸沉碧海,白雲愁色滿蒼梧。
晁衡後來輾轉回到長安,後來官做到鎮南都護(正三品),770年以73歲高齡結束了他富有傳奇色彩的一生。晁衡是中日交往一個光輝的典型,故而中日兩國都對他評價頗高,分別在西安和他的故鄉奈良為他樹立了紀念碑,以表彰他為兩國友好做出的巨大貢獻。