JIT编译的代码被存储在一个叫做代码缓存(code cache)的内存区域,该区域还存储属于虚拟机本身的其他原生代码,比如解释器的部分内容。
代码缓存在虚拟机启动时设置了一个固定的最大值。它不能超出这个限制,所以有可能被填满。如果被填满,就不能再进行JIT编译,并且未编译的代码只能在解释器中执行。这将对应用程序的性能产生影响,并可能导致它明显低于潜在的最大性能。
代码缓存被实现为一个堆,其中包含一个未分配区域和一个空闲链表(指向被释放的块),当原生代码被删除时,该代码对应的块就会被添加到空闲链表中。会有一个叫做清扫器(sweeper)的进行来负责回收这些块。
当要存储一个新的原生方法时,可以在空闲链表中搜索一个足够大的块来存储编译后到代码,如果没找到,那么只要代码缓存有足够空闲空间,就会从未分配到空间创建一个新块。