在中国历史上，日本人来华的情况并不罕见，尤其是在近现代。要准确地说出“中国有多少日本人”这个问题，其实并不容易。毕竟，历史上的记录往往零散，且受限于当时的条件，很多细节都无法精确统计。
早在唐朝时期，日本就派遣了大量的遣唐使来到中国学习文化、宗教和制度。这些遣唐使不仅带来了日本的学问，也带回了中国的文化。据一些记载，当时的长安城（今西安）里就有不少日本人居住，他们或是学者、僧侣，或是商人。具体有多少人，史料中并没有明确的数字。
到了近代，尤其是19世纪末到20世纪初，随着中日两国关系的复杂化，日本人在中国的活动变得更加频繁。甲午战争后，日本在中国的影响力逐渐扩大。一些日本人以商人、教师、记者等身份来到中国各地。尤其是在东北地区（当时称为“满洲”），日本人的人数迅速增加。据后来有人提到，20世纪30年代初的东北地区，日本侨民的数量已经相当可观。
抗战期间（1937-1945）是日本人在中国人数最多的时期之一。除了军队外，大量的日本侨民、技术人员、商人也随军来到中国。他们在占领区建立了各种机构和企业，甚至在一些城市形成了所谓的“日租界”或“日人街”。这些地方成了日本人在中国的据点。随着战争的推进和局势的变化，这些侨民的命运也各不相同：有些人选择留在中国继续生活；有些人则随着战败而撤回日本；还有一些人则留在了中国大陆或台湾地区定居下来。
战后初期（1945-1949）是中国历史上一个特殊的时期。随着日本的战败和中国的内战爆发（国共内战）许多在华的日本人开始陆续撤离或被遣返回到日本本土但也有一部分人因为各种原因选择留在中国生活其中最著名的例子之一就是著名的作家鹿地亘和他的妻子池田幸子他们选择留在中国并继续从事文学创作和文化交流工作此外还有一些技术专家和医生也选择留在中国帮助新成立的中华人民共和国进行重建工作这些留在中国的日本人后来被称为“残留孤儿”或“残留妇人”他们的经历成为了中日关系史上的一段特殊记忆
新中国成立后（1949年以后）由于中日两国尚未正式建交加上冷战格局的影响两国之间的民间交流相对较少因此在中国生活的日本人数量也大幅减少但即便如此仍有一些日本人因为工作或其他原因留在中国生活例如一些外交官家属、留学生以及少数的技术专家和企业管理人员等他们构成了新中国初期在华日本人的主体但随着时间的推移这些人也逐渐回到了自己的国家或迁移到了其他地方生活
