鑒真到達日本後，受到孝謙天皇和聖武太上皇的隆重禮遇，754年2月1日，重臣藤原仲麻呂親自在河內府迎接，2月4日，鑒真一行抵達奈良，同另一位本土華嚴宗高僧“少僧都”良辨統領日本佛教事務，封號“傳燈大法師”。
根據聖武和孝謙的意願，鑒真作為律宗高僧，應該負起規範日本僧眾的責任，杜絕當時日本社會中普遍存在的托庇佛門，以逃避勞役賦稅的現象，因此，孝謙下旨︰“自今以後，傳授戒律，一任和尚”。但是，這引起了日本本國“自誓受戒”派的反對，尤其是興化寺的賢 等人，激烈反對。于是，鑒真決定與其在興福寺公開辯論，在辯論中，鑒真做出讓步，承認“自誓受戒”仍可存在，但是作為正式認可的具足戒必須要有三師七證，結果賢 等人皆被折服，舍棄舊戒。鑒真于是在東大寺中起壇，為聖武、光明皇太後以及孝謙之下皇族和僧侶約500人授戒。756年，鑒真被封為“大僧都”，統領日本所有僧尼，在日本建立了正規的戒律制度。
然而，758年，作為鑒真最主要支持者的孝謙天皇在宮廷斗爭中失勢，被迫傳位給淳仁天皇。相應的，鑒真也遭受到排擠。758年，淳仁天皇下旨，以"政事煩躁，不敢勞老"為名，解除了鑒真“大僧都”一職，並將在宮廷斗爭中敗死的原皇太子道祖王的官邸賜給鑒真。次年，鑒真弟子在該官邸草成一寺，淳仁賜名“唐招提寺”，鑒真從東大寺遷居至此。淳仁還下旨，令日本僧人在受戒之前必須前往唐招提寺學習，使得唐招提寺成為當時日本佛教徒的最高學府。763年5月6日，鑒真在唐招提寺圓寂，入滅之前，其弟子為鑒真膜影，立夾漆像，傳世至今。
764年，孝謙天皇鎮壓了惠美押勝之亂，重新登基。鑒真的弟子思托、法進等人相繼成為“大僧都”，唐招提寺也得以擴建，成為日本建築史上的國寶。鑒真所開創的四戒壇，也成為最澄開創日本天台宗之前日本佛教僧侶正式受戒的唯一場所。鑒真也被尊為日本律宗初祖。