20世纪80年代前期，日本的国民医疗费突破了20万亿日元，1999年又突破了30万亿日元。为了使医疗费有所控制，日本首先在1982年颁布了《老人保健法》，1986年建立了老人保健设施，1989年又制定了《黄金计划》，为构筑新的老龄者的介护体系奠定了基础。

1994年12月，日本厚生省（相当于我国的民政部门）举办了一个老龄者介护支援体系研究会，对日本运营的介护保险进行了初步的研究。研究会认为，由于现行介护体系的不完备，有必要实行新的介护保险的方式。

介护保险的具体化，是从1995年7月4日的社会保障制度审议会开始的。这次会议提出了实施33年“国民皆保险”以来的第一次劝告书，其中最重要的一点是，老人的福利应该依靠保险金，也就是说，靠行政拨款来进行的社会福利应由国家运营的介护保险来代替。

1996年4月22日，老人保健福利审议会最后通过了《关于建立老龄者介护保险的提案》，提议建立介护保险并由公费负担一半的社会保险方式。关于公费负担部分的设想，是打算从1997年4月开始把消费税从3%提高到5%，由其增税中的2%来构成。

同年9月，“推进介护社会化的万人市民委员会”成立，由市民组织了全国介护互联网，第一次就介护保险在市民中进行讨论和修改。与介护保险相关联的三个法案——《介护保险法》、《介护保险施行法》、《医疗法改正法》于1996年11月在国会提了出来。在此期间，针对增税而制定的老龄者介护保障法案也出台了。对此，作为运营主体的市町村（日本市、町、村自治管理和行政运作的机构，相当于中国的市政府）要求慎重审议，经过反复讨论，1997年12月9日国会正式通过了《介护保险法》。

介护保险实行以前，介护服务是在医疗和福利互不相干的情况下独立提供的。但介护服务和老龄者的医疗、残疾人的福利都不能严格区分开。因此，把介护、医疗、福利有机地结合在一起，就构成了新的介护保险制度。在这样的背景下，2005年6月，日本介护保险法修正案成立，新介护保险制度的基准和介护报酬从2006年4月开始实行。