随使节一同来华
日本最重要的“遣隋使”是圣德太子于隋大业三年（607年）派出的。他派小野妹子携带日本天皇的国书到达隋朝东都洛阳，谋求与中国建立外交关系，借以提高日本的国际地位。这是当时日本在外交上一项重大的措施。 从开皇二十年（600年）至大业十年（614年），日本派“遣隋使”达5次之多。公元608年，开创了随团派留学生来中国学习的先例。这不仅仅是基于政治上的考虑。圣德太子汉学功底深厚，很重视发展同隋朝的关系，希望通过这种措施，积极地从中国导入各种先进的文化和制度，以建立完善的国家体制，因而所派遣的遣隋使团中有许多留学生和留学僧。
唐朝的时候，中国同日本的友好往来更是盛况空前。从贞观年间开始，日本先后派遣了13次“遣唐使”，还有6次迎送唐朝的使者。每次所派遣唐使团规模都很大，最多的时候达到了600人。留学生和留学僧都是跟随使团到达中国，使团回日本时，留学生（僧）们则仍留下来学习中国文化。
日本留学生一律被安排在国子监学习。唐朝国子监有六学：国子学、太学、四门学、律学、书学和算学，各学招生对象不同。唐玄宗命国子监的四门助教赵玄默在鸿胪寺教授这些留学生们的功课。日本留学生们在中国学习几年甚至几十年，再回到日本传播中国文化，促进日本政治、经济、文化各方面的发展。 他们中间最有名的是从奈良来到中国的阿倍仲麻吕和吉备真备。
晁衡（阿倍仲麻吕）：留唐任职，一住54年
阿倍仲麻吕（698—770）是中日友好关系史上的重要人物，他的中国名字叫晁衡。唐玄宗开元五年（717年），晁衡因汉文修养良好而被选为遣唐留学生，当时他还不满20岁。入唐以后， 他的学识和品行，很快受到唐朝皇帝和学界的赞赏，先后任校书、左补阙、秘书监、左散骑常侍和镇南都护等职。秘书监相当于国家图书馆馆长，左散骑常侍是从三品，可见他 很受唐朝的重用。
晁衡和唐朝著名诗人王维、李白、储光羲等都有过亲密交往。储光羲对他十分赞赏，曾写诗《洛中贻朝校书衡》相赠。晁衡曾经送给李白一件日本裘，李白很受感动。
天宝十三年（753年），晁衡想随“遣唐使”回国探亲，唐玄宗许之，并且命他为回访使者。他和遣唐大使藤原清河等，共乘一舟回国，途中遭遇风暴， 李白误闻晁衡在归日本时翻船遇难，非常悲痛，写下了著名的《哭晁卿衡》一首，情意深厚：“ 日本晁卿辞帝都，征帆一片绕蓬壶，明月不归沉碧海，白云愁色满苍梧。”成为中日友谊史上传诵千年的名作。
晁衡后来东渡失败，辗转漂泊后又回到长安，继续在唐朝任职，直至大历五年（770年）以73岁高龄在长安逝世。晁衡在中国生活、工作长达54年之久，为中日友好事业做出了杰出贡献。 日本人民为其在东京的护国寺建了雕像和纪念堂。
