在日本，基本上想上学的高中毕业生都选择进入高等教育机构深造，只是大学的知名度不同。日本的高等教育机构可分为：高等专门学校、专修学校=专门学校(培养专业技能的学校)、短期大学(相当于中国的大专)、大学(学士)、大学院(硕士、博士)等5种，这些学校又有国立、公立、私立等区分，这些高等教育机构一般都接受外国留学生。不过有些学校的文凭在中国是不承认的，要注意查询中国国家留学服务中心对国外大学文凭认证的相关信息。另外，如选择回国就职，最好在回国之前在日本的文部科学省及中国驻日大使馆对最终学历进行公证。
日本大学本科入学考试一般包括全国统一考试和各个学校自己组织的考试两部分。这两种考试一般都有针对国外留学生的单独考试，即考试内容和录取分数都与日本学生不同。总体水平相对比较简单，不过要考上日本名牌大学的竞争也是相当激烈的，特别是北海道大学、东北大学、东京大学、大阪大学、名古屋大学、京都大学、九州大学等历史比较悠久的7所国立大学。
由于日本大学每年4月份迎来新的学年，所以私立大学的入学考试会在前一年的11就陆续展开，而国公立大学的考试时间会在当年的1月份才开始。但由于每个学校的情况不同，准确的考试时间及所需提供材料还是要查看大学官方网站有关考试日程的信息。
日本大学院就相当于中国的研究生教育，具体也分为硕士和博士两个阶段。研究生教育基本上是宽进严出的体制。研究生招生没有全国和全校的统一入学考试，一般都是由所在院系组织考试，并决定是否录取，其中指导教师具有关键性的决定权。由于指导老师在接受一个学生时主要考虑的是能否让他顺利毕业，所以会更多注意学生的实际研究能力，能否完成论文，而不仅是考试成绩。
日本大学本科的入学考试一般都在日本本土进行，所以报考日本大学都需要到日本去参加考试。一种途径是可以先申请到日本语言学校等参加高考预备班学习，然后报考日本的大学;另一种途径是先在国内选好要报考的大学，考试期间申请签证到日本去参加考试，当然，也有一些日本大学自己办的有预科班，可以接受报考学生提前进校学习。不过这几种途径的花费都是很贵的。
近年来，为了减轻学生去日本考试的负担，直接在考生所在国进行入学考试的情况也越来越多。比如G30学校就设立有专门招收中国学生的项目，在中国国内参加笔试和面试合格后就可以得到正式录取，并且没有日语要求，实行全英语授课。具体可以和相关学校在中国的事务所咨询，例如北海道大学就开设了北京代表处，同时大多大院校的网站上都设有留学生交流中心或留学指南版块，能够更具体地了解该校的录取手续。
日本的院生入学考试比较灵活。主要是联系导师提交相关的材料，由导师决定是否接受和入学考试的方式。入学考试的方式一种是直接参加院生入学考试，合格后办入学手续并直接进入日本大学院学习，具体考试方式有要求去日本参加的，也有老师到中国来考试的，也有通过远程会议系统考试的;另一种是先到日本入学读“研究生”(相当于中国的研究生预科)，然后准备参加院生入学考试，合格后取得大学院生身份。
研究生的在学期间可以是半年、一年等，不过除有些留学项目有特殊规定外，一般研究生期间是不能申请减免学费的。除了少数专业外，日本的院生招生一般都没有日语要求，学习和研究可以用英语进行。为了便于中国学生更好地申请日本大学，有近30所日本大学都在中国设立有事务所，开展免费地留学咨询服务，特别是协助联系适合的指导导师。
