纳米压入或原子力显微镜(AFM)是探测纳米尺度下材料力学性能和参数的有力手段。纳米压入数据的正确解析，依赖于人们对于纳米压入引发的塑性机制的深入认识。传统的纳米压入塑性理论认为，纳米压入会在压痕下方产生高密度的几何必须位错，这些位错分布在一个半球形的塑性影响区内。基于上述认知建立的经典纳米压入模型（Nix-Gao模型）能够很好地预测材料的硬度，并被广泛应用。然而，当压头尺寸减小到几十纳米或更小时，纳米压入的压入曲线上会出现不连续的位移或载荷突跳（pop-in），这种情况下压痕下方可能出现不同于经典纳米压入塑性理论所描述的塑性影响区构型。尽管已有少量试验证据表明纳米压入塑性可能存在压头尺寸依赖性，但因为缺乏原位直观的技术手段，纳米压入下塑性区的形成机制和几何构型仍然是个谜，这反过来也限制了人们对超小尺寸纳米压入的理解和应用。
针对上述问题，单智伟教授团队利用聚焦离子束制备了一系列尺寸不同的压头，采用原位透射电镜纳米压入技术，以单晶铝基体为模型材料，原位观测了pop-in发生时压头下方位错的形核类型以及所形成的位错塑性影响区构型。结果表明，位错塑性区的形状与压头尺寸紧密相关，如图1（左）所示。若假定压头顶部为半球状，则当其直径大于~100 nm时，pop-in发生后会在压痕下方形成半球状分布的“三维”塑性区，内部有高密度的常规位错，与传统认知完全相符。然而，当压头直径继续减小到~50 nm时，在半球状的塑性区顶部将会出现一个由棱柱位错环和螺旋位错所组成的“一维”塑性区。进一步减小压头直径到~15纳米，则塑性区将完全呈现为一维形状，全部由规律分布的棱柱位错环组成（图1右）。非常有意思的是，位错环的直径和压头的接触半径成正相关的关系（图1中）。
图1 位错形核类型的尺寸效应以及所形成的超长位错环阵列
棱柱位错环由于只能在棱柱面内滑动，在滑移过程中能够很好地保持位错环尺寸、形状以及滑移方向的稳定性，避免了位错之间的交割和缠结。当新的棱柱环产生时，邻近位错环之间的弹性排斥力依次传递，可以将阵列中的位错环推得更远。位错环在阵列中的分布则取决于晶格阻力与位错环之间弹性作用力的平衡。与之不同的是，普通的位错线容易发生交滑移而改变滑移方向和形状，更容易互相缠结在一起形成位错网。因此，棱柱位错环的持续形核是形成“一维”塑性区的必要条件。图2为我们原位观察到的棱柱位错环形核机制。压头下形核的位错线类似于Frank-Read源，它的两端钉扎在表面，中间向前弓出。在压头形成的应力场作用下，弓出的位错段发生了两次交滑移，使得其在两个位错滑移面组成的棱柱面上环绕一周，进而形成了一个单独的棱柱位错环,而残留的位错段则在位错线张力的作用下回复到弓出前的状态。该棱柱位错环形核过程可以重复发生，使得前面形核的位错环被越推越远。两次交滑移的“完美”发生依赖于压头下方弹性应力场的对称性。随着接触面积的增大，压头下将有更多的位错形核位点和滑移系被激活，导致位错形核后来不及形成棱柱位错环就发生缠结，破坏了弹性应力场的对称性，此时棱柱位错环也就不能连续生成了。因此接触面积增大后所形成的塑性影响区也将从“一维”逐渐向“三维半球状”转变。
图2 棱柱位错环形核机制的原位观察
此前人们通常认为位错的运动范围不会超过压入深度的10倍，据此提出了1/10准则，即纳米压入的深度要小于薄膜厚度的1/10，以此来保证薄膜的纳米压入测试结果不会受到薄膜基体的影响。然而，如图3所示，当压头直径足够小的时候，位错环穿透深度可以达到压入深度的~150倍，远超传统压入理论所设定的1/10准则。上述发现， 一方面，说明在用小尺寸压头如AFM探针进行纳米薄膜的力学测试时，需要建立新的理论模型；另一方面，也表明可以通过纳米压入的方法，可控地在晶体材料内部引入位错阵列，从而使其具备某种功能特性。
图 3位错穿透能力系数随接触直径的变化关系
上述研究成果丰富了人们对于纳米压入塑性机制的理解，为纳米压入数据分析、薄膜表层改性等应用场景提供了试验和理论上的参考。相关研究成果以“Ultralong one-dimensional plastic zone created in aluminum underneath a nanoscale indent”发表在《Acta Materialia》（https://doi.org/10.1016/j.actamat.2022.117944）上。博士生聂志宇为论文的第一作者，单智伟教授和解德刚副教授为论文的共同通讯作者。参与此工作的还有的马恩教授，美国麻省理工学院的李巨教授，日本大阪大学的Shigenobu Ogata教授，东京大学的Yuji Sato博士以及德国马普所的Jazmin Duarte博士，Gerhard Dehm教授。该研究得到国家自然科学基金委的资助（52031011，51971169 )。
