在微电子产业中,基于硅材料的金属-氧化物-半导体场效应晶体管的小型化就要在不久的将来达到最终的极限了。分子电子学被认为是电子器件进一步小型化最有希望的研究领域之一,它的主要目标是使用单个分子作为有源电子元件来构建电子电路。由于潜在的技术应用价值,分子电子学已经成为了基础科学研究的热点领域。它使我们有可能在单分子尺度上研究电路中由量子力学主导的电子输运机制。另外,分子所具有的小尺寸以及各种各样的电学、磁学、光学以及力学性质可以产生许多新奇的量子效应。这里,我们利用超高真空低温扫描隧道显微镜(Scanning tunneling microscope, STM)研究了磁性单分子在金属表面的吸附行为和电子性质。在第一章中,主要介绍了分子电子学的概况。首先引出了纳米电子学的概念,然后详细描述了分子电子学研究领域的发展过程以及取得的最新进展,接着讲述了我们所使用的STM及其在分子电子学和磁性自旋探测方面的应用,最后简单总述了本论文中所开展的研究工作。在第二章中,我们使用低温STM研究了吸附在Au(111)表面的三种稀土双层酞菁REPc2分子(RE= Tb, Dy and Y; Pc= phthalocyanine)的自组装行为和电子输运性质。首先,我们描述了REPc2分子在Au(111)上的吸附行为,分析了具有各种组装手性结构的分子岛,并提出了与其对应的吸附模型。其次,我们在STM设备上展示了不需要增加额外的栅电极就能实现具有栅压调控功能的单分子输运研究。这里Au(111)表面重构和分子间相互作用为REPc2分子提供的静电势可以充当等效栅压来调控STM隧穿结中REPc2分子的能级。通过分析REPc2分子的dI/dV谱,我们观测到了低偏压下分子电导的强烈抑制现象,而且这种抑制效应并不会随着分子所受到的局域静电势的改变而消除。这使我们可以毫不含糊地确认：在STM单分子输运中首次观测到了Franck-Condon阻塞。此外我们通过求解基于Anderson-Holstein模型的速率方程,进一步从理论上解释了这里出现的低偏压下电导抑制现象是由该体系的电子输运中存在的强电声耦合作用引起的。值得注意的是,相比于传统的基于金属电极断裂技术制作的三端纳米器件在观测Franck-Condon阻塞效应时较差的可重复性,在我们的STM输运中可以在Au(111)表面的每一个REPc2分子岛中观测到该效应,这表明利用STM隧穿结研究单分子的电子输运性质具有较高的可重复性。在第三章中,我们对吸附在Au(111)和Cu(111)表面的三种REPc2分子进行了非弹性电子隧穿谱(IETS)和非弹性电子隧穿成像(IETM)研究。在Au(111)表面的REPc2分子上,我们观测到了五个明显的振动模(30meV、52meV、77meV、96meV和136meV),其中30meV、52meV和77meV对应的振动模具有非常大的电导增加率(△σ/σ>50%)。我们对这些振动模进行了STM-IETM表征,得到了具有较高空间分辨的d2I/dV2图像。此外我们通过第一性原理计算得到的IETS和IETM模拟结果能够与这些实验结果很好地吻合。在Cu(111)表面的REPc2分子上,我们只能观测到54meV和78meV这两个振动模(它们分别与Au(111)上的52meV和77meV振动模是同一个振动模式),相应的电导增加率只有10%左右,并且与这两个振动模对应的d2I/dV2图像具有较差的空间分辨结构。同一个振动模的电导增加率和d2I/dV2图像在REPc2-Au(111)体系和REPc2-Cu(111)体系中的差异可以归因于REPc2-Au(111)体系中存在的分子轨道调制效应：当分子轨道能级被调节到和振动态能级处于近共振区时,会导致共振增强的振动激发,从而使上述振动模能量处的电导增加率得到了较大的提高。因此REPc2-Au(111)体系中振动模的d2I/dV2图像也就具有了较高的空间分辨率。但是在REPc2-Cu(111)体系中缺乏这种由分子轨道调制效应引起的振动增强激发,再加上Cu衬底对分子的强烈杂化作用,从而导致振动模只有10%左右的电导增加率,与其对应的d2I/dV2图像的分辨率较差。在第四章中,我们展示了使用低温扫描隧道显微镜原位构建具有分子内自旋耦合的磁性单分子。吸附在Au(111)表面的单个picene分子(缩写为Pc)可以通过STM操纵来一个接一个地容纳单个Co原子,从而形成人造的磁性分子CoxPc (x=1,2,3),其中磁性是由Co原子引入的。不同于先前文献中报道的人造磁性分子,CoxPc结构及其磁性质在STM操纵中都具有很高的稳定性。通过监控每个Co原子位置处Kondo效应的演化,我们发现CoxPc分子的磁性质可以通过改变掺杂Co原子的数目来调控。在CoPc和Co2Pc分子中观测到的Kondo共振具有完全相同的特征,表明Co2Pc分子中的两个磁性Co原子中心之间的自旋耦合作用是微不足道的。但是Co3Pc分子的dI/dV谱费米能级附近显示了一个宽的共振特征,该特征可以被分解为一个Kondo共振和位于其两侧的电导肩膀,这预示着Co3Pc分子中的Co原子之间存在着强的自旋耦合作用,我们的基于密度泛函的理论计算也证实了这一点。这一发现表明可以在表面上可控地人工构建具有分子内自旋耦合的磁性单分子。