东京高等法院“知识产权部”的沿革开始于1948年（昭和23年）的专利法修改，其规定了请求撤销裁决的诉讼制度,指定东京高等法院为专属办理。以此为机,，为了能够集中处理请求撤销裁决的诉讼案件以及有关知识产权的上诉案件，1950年（昭和25年）11月、创设了第5特别部。

其后，为了更改第5特别部的专属办理业务，在一般民事审判部门中设立专门部门，专门处理有关知识产权的案件。1958年（昭和33年）3月设立了第6民事部，1959年（昭和34年）12月设立了第13民事部，1985年（昭和60年）1月设立了第18民事部，2002年（平成14年）4月设立了第3民事部，这些部都成为了审理有关知识产权案件的专门部门。

这些专门部门的正式名称还是“民事部”。2004年（平成16年）4月1日，他们的名称更改为“知识产权部”的第1部～第4部。同日根据民事诉讼法等法律修改案部分的规定，对有关专利权等诉讼采用了由5名法官组成的大合议制。随之 创设了作为知识产权大合议部的“第6特别部”。

该知识产权第1部～第4部,以及“第6特别部”（知识产权大合议部）于2005年（平成17年）4月1日，分别更改为知识产权高等法院的第1部～第4部以及特别部（大合议部）。

截至2005年（平成17年）4月1日，审理有关知识产权案件的专业部门，在东京地方法院有4个，大阪地方法院有2个。此外，在大阪高等法院中还设有一个集中部。

泡沫经济崩潰以后，经济连续的处于低迷中，在国家级规模下,行成了我国对知识产权的创造、保护以及有效的利用是实现日本经济复兴所必不可少的共识。90年代后半期开始,知识产权成为了关注的焦点。在重视保护知识产权的观点下，对法院提出了各种各样的意见。

在这种情形下，2001年（平成13年）6月，公布了司法制度改革审议会的意见。在这些意见中，民事司法制度改革是国民期待的一个重要改革，而此提出了“强化对有关知识产权案件的综合对应”的方针和加强专业处理体制为目的的各种各样的建议。

此外,在2002年（平成14年）3月，召开了知识产权战略会议。同年7月，制定了“知识产权战略大纲”。在“知识产权立国”的口号下，提出了具有“专利法院” 实质性机能的课题。在这种形势下，2003年（平成15年）3月，确立了知识产权政策的基本方针，开始了知识产权基本法执行，并于在内阁府设立了知识产权战略本部。知识产权战略本部在同年7月策定了关于知识产权的创造、保护以及有效的利用发展计划，为了明确加强纠纷处理能力以及向国内外表明重视知识产权的国策，提出设立知识产权高等法院的建议。

根据上述的课题和建议，通过司法制度改革推进本部事务局召开的知识产权诉讼讨论会，以及在知识产权战略本部中设立的关于强化权利保护基础的专业调查会中，讨论了有关设立知识产权高等法院的问题。讨论的结果，决定司法制度改革推进本部事务局推进法案的立案工作。2004年（平成16年）6月，司法制度改革推进本部事务局制定了知识产权高等法院设置法。

在我国经济社会中，随着知识产权有效利用的发展，保护知识产权的司法作用日益重要。为了适应这一现状，使有关知识产权案件的审理更得到进一步的充实和加快审理的速度，因而设立了专门的法院，进一步实现法院专业化`，这正是制定本法律的目的。

据此,2005年4月1日，根据该法的规定，知识产权高等法院作为特别支部成立在东京高等法院内部。

知识产权高等法院，主要审理全国所有有关专利权的上诉案件以及不服专利局决定的诉讼案件。此外,也审理东京高等法院所办理的业务中,其性质和内容与知识产权相关的案件。为了充分发挥其专业性，在审判事务的分配等一些司法行政事务上，知识产权高等法院还被赋予了独立权限。