纳米晶双相复合永磁材料是由饱和磁化强度高的软磁性相和各向异性场强的硬磁性相在纳米尺度通过交换耦合相互作用而形成的倍受关注的新型永磁材料。这类材料具有稀土含量低，价格便宜，化学稳定性好等特点，具有潜在的开发应用前景。本文采用熔体快淬以及铜模水冷吸铸法制备出了纳米复合REFeB/Fe3B永磁材料，同时系统地研究了其组织结构与磁性能关系以及反磁化机制。采用熔体快淬方法制备15m/s快淬速度的REFeCoBM薄带，对于NdFeCoBM体系，直接快淬成份Nd₉Fe_71.5B_15.5Zr₄薄带矫顽力为891kA/m，剩余磁极化强度为0.77T，饱和磁极化强度为1.37T，Jr/Js=0.56，最大磁能积为82.9kJ/m³，添加元素提高了薄带退火后的综合磁性能。而Co和难熔金属的复合添加使薄带在15m/s的转速下得到了完全非晶，验证了Co和难熔金属的复合添加可以提高体系非晶形成能力。对于Pr_9.5（FeCo）_71.5B₁₅M₄体系，薄带出现了二元相Fe₂B和软磁性相Fe₃B，15m/s的快淬速度没能得到非晶或者直接快淬硬磁性相薄带。采用熔体快淬方法制备50m/s快淬速度的REFeCoBM薄带。对于Nd（FeCo）BM（Nb,Zr）体系，Nb和Zr的添加能提高合金的非晶形成能力，而且能改善快淬薄带晶化后的矫顽力和综合磁性能。同时Nb添加比Zr添加更能细化退火薄带的晶粒，改善微结构和磁性能。虽然Co的添加对矫顽力有所降低，但却能提高退火薄带的剩余磁极化强度温度稳定性、合金的剩余磁极化强度，及最大磁能积。9%的Nd体系中Nd₂Fe₁₄B硬磁性相比9.5%的Nd的体系中少，因此，9%的Nd体系的矫顽力较9.5%的Nd体系小。根据实验数据与理论分析了矫顽力机制。并且进一步分析了合金中相互作用关系的Henkel曲线，证实了合金中确实存在交换耦合作用。分析了Pr_9.5（FeCo）_71.5B₁₅M（Nb, Zr）₄成份的结构与磁性能， Pr取代Nd降低了薄带晶化峰的峰值温度，说明Pr加入使合金热力学稳定性变差，晶化转变及晶粒长大易于进行，从而使合金的显微结构比较粗大。对于DyFeBM（Nb, Zr）体系，Dy₂F₁₄B的高磁晶各向异性场给合金带来了高矫顽力，但是，由于它本身的饱和磁化强度就很低，而且它的交换长度较短，对软磁性相的分布和尺寸有更高的要求，很难达到充分的交换耦合，导致剩磁与最大磁能积都很低。用铜模水冷吸铸的方法制备成分（Y, Dy, Nd）₄FeB₂₂（Ta, Nb）₂直径2mm的棒材合金，成分Dy₄Fe₇₂B₂₂Nb₂得到了完全非晶的2mm棒材样品。分析了形成大块非晶可能的原因。同时采用单辊甩带法制备了相同成分的50m/s快淬薄带，通过热分析，利用基辛格方程计算了Dy₄Fe₇₂B₂₂Nb₂体系的晶化激活能。两个晶化放热峰的晶化激活能分别为572和484kJ/mol。两个放热峰分别对应Fe₃B和Dy₂Fe₁₄B。对棒材和热处理后的薄带样品进行了磁性能测试可知，由于其体系中稀土成份很低，导致了硬磁相Dy₂Fe₁₄B的相成份也很低，因而矫顽力较小，永磁性能不高。采用铜模水冷吸铸制备了（Nd, Pr）（Fe, Co）B（Nb, Zr）直径为2mm以及1mm的棒材。在Nd（Fe, Co）B（Nb, Zr）系列中，主要的相结构为硬磁性相Nd2Fe14B和软磁性相（Fe₃B,Fe）。成份Nd₉Fe_71.5B_15.5Nb₄直接快淬吸铸棒材剩磁为0.56T，矫顽力为568kA/m，最大磁能积为35.9kJ/m³。在650oC，10分钟退火后，矫顽力高达1151kA/m，剩余磁极化强度也略有增加。其原因可能在于二元相FeNb的存在，FeNb相弥散于Nd₂Fe₁₄B相中，提高了畴壁之间的钉扎，同时又保留了软硬磁性相之间的强交换耦合作用。在Pr（Fe,Co）B（Nb, Zr）系列中，主要的相结构为硬磁性相Pr₂Fe₁₄B和软磁性相（Fe₃B, Fe）。直接吸铸棒材的矫顽力在40-159kA/m之间。成份Pr_9.5Fe_51.5Co₂₀B₁₅Nb₄在650oC保温退火5分钟，退火后的矫顽力高达1210kA/m，剩余磁极化强度为0.61T,最大磁能积为65.1kJ/m³。二元相Fe₂Nb在磁体畴壁之间的钉扎作用，有效地抑制了磁矩反转。对于（Nd, Pr）（Fe, Co）B（Nb, Zr）1mm直接吸铸棒材，成份Nd₉Fe_71.5B_15.5Nb₄表现出较好的硬磁性能，矫顽力为307kA/m，剩余磁极化强度为0.57T，最大磁能积为34.8kJ/m³。而Pr系列中，Pr_9.5Fe_71.5B₁₅Nb₄矫顽力为1113kA/m，剩余磁极化强度为0.61T，最大磁能积为56.2kJ/m³。Pr_9.5Fe_71.5B₁₅Zr₄矫顽力为1118kA/m，剩余磁极化强度为0.69T，最大磁能积为80.7kJ/m³。