1922年6月，在德国哥廷根“玻尔节”上，量子理论创始人玻尔作了7次著名演讲，简明地阐述了原子结构理论。在听众中，有一位专程从慕尼黑赶来的二年级大学生，他就是沃纳·海森堡。在演讲后的问题讨论中，海森堡对玻尔的一些观点提出了异议。这位大学生的发言，引起了玻尔的注意。当讨论结束时，玻尔邀请他一道出去散步，并仔细地交谈了量子理论的有关问题。他们在哥廷根郊外谈论了好几个小时，仍各持己见。尽管如此，玻尔诚恳待人的作风深深地打动了海森堡的心。而海森堡的聪明才智也给玻尔留下了深刻的印象，他向海森堡发出了去哥本哈根作学术访问的邀请。海森堡后来回忆说，这是他所能记起的“关于近代原子理论的物理问题和哲学问题的第一次全面彻底的讨论，而且它对我后来的事业肯定起了决定性的作用”。
海森堡一生在理论物理学上作出了重要成就，而他最大的贡献无疑是创建矩阵力学。在这之前，他在关于流体力学、反常塞曼效应、分子模型以及色散理论等方面做了大量研究工作。这些工作为他创立矩阵力学作了准备。尤其是与玻恩的合作，使他感受到建立新量子理论的迫切性。
玻恩原来是研究晶体点阵动力学的，1921年到哥廷根大学任理论物理学教授后开始原子理论的研究工作。他让他的学生学点量子物理并想同索末菲展开竞争。哥廷根的著名数学家希尔伯特主张数学家和物理学家结合起来研究物理学，他和玻恩联合组织了“物质结构”讨论班。此外，在玻恩周围还有各种讨论班，如“初学者讨论班”、“晚上讨论班”、“原子力学Ⅰ编写组”等，学术气氛非常浓。为了繁荣科学，玻恩还常邀请各国著名学者来访讲学。这大大开扩了学生们的眼界。玻恩对学生亲切不拘小节。在课余，他常和学生一起散步、野餐、演奏乐曲。玻恩在他主持的讨论班上鼓励提问和批评。因此，在玻恩周围常聚集着一大批有才能的学生，海森堡就是其中一个。
如果说海森堡在索末菲那里受到关于玻尔理论的严格训练，那么他在玻恩那里更多的是学到对玻尔理论的怀疑。当玻恩学派对玻尔理论的正确性表示怀疑时，索末菲学派还相信只要附加上普朗克、玻尔和索末菲提出的量子条件，牛顿力学还可以解决原子领域的问题。海森堡认为玻恩比波尔更加坚信要有一套完整的数学上统一的量子理论，而不是在牛顿力学、量子条件和光量子假设之间的徘徊与调和。
1922年，玻恩和他当时的助手泡利一起深入讨论了把微扰论应用于原子理论的问题，发展了微扰论能量表示的一般方法。1923年，玻恩和海森堡合作把微扰论用于氦原子，虽然理论结果在定性方面与实验一致，但定量方面差距很大。这使他们坚信，物理学的基础必须进行根本的变革。
1924年，在哥廷根讨论班上玻恩曾强调，把量子论的困难单单归诸辐射与力学体系之间的相互作用是不正确的。他认为力学必须加以改造，必须用某种量子力学来代替才能提供理解原子现象的基础。玻恩甚至在1924年的一篇论文中首次把期待中的新理论称作“量子力学”。这时玻恩对他自己所期望的新理论已有了一些模糊的领悟。而海森堡则找到了描述这种理论的数学方法。
海森堡在哥廷根虽然只是一个有奖学金的研究人员，但实际是玻思的助教。他与玻恩密切合作，力图从符号意义上的力学模型出发，建立一种新的力学。一年后他以一篇题为《关于量子论的形式规律在反常塞曼效应问题上的更改》的论文取得大学授课资格，成为无薪讲师。同年9月，海森堡作为领取“洛克菲勒奖学金”的研究人员来到丹麦的哥本哈根，而他的矩阵力学之类的创造性工作，事实上也是在哥本哈根生根发芽的。
海森堡在哥本哈根主要与荷兰物理学家克拉姆斯一起工作。克拉姆斯从1916年起担任玻尔的助手，在发展量子理论方面帮助玻尔做了不少工作。他多才多艺，不仅会5种外语，而且还会拉大提琴，在工作之余常在海森堡的钢琴伴奏下演奏。而他在学习上又对学生要求得极为严格。1924年初，主要根据当时到哥本哈根来工作的美国物理学家斯莱特提出的思想，玻尔、克拉姆斯和斯莱特一起发表了一种对后来影响较大的理论，亦称BKS理论。这个理论的中心思想是：给每个原子引进一组能产生虚拟辐射场的虚振子，而每一个这种虚振于具有一个跃迁频率（即原子的跃迁频率）。这就把不连续的原子过程与连续的辐射场联系起来了，从而可以利用对应原理，采取类似于经典理论的方法来处理量子论的色散问题。克拉姆斯利用这种思想导出了他的色散公式。
如果说克拉姆斯的色散理论实际上摧毁了电子轨道概念的基础，那么可以说海森堡更倾向于放弃电子轨道模型，用正确的数学公式来表示玻尔的对应原理。他和克拉姆斯一起用玻恩的方法研究色散问题，并合作写了一篇论文《关于原子对辐射的散射》。
1925年4月海森堡回到哥廷根。他想进一步在上述工作的基础上解决氢原子谱线强度问题，但在数学上遇到了很大困难。于是，他转而想从根本上解决问题，即找出一个与经典运动方程对应的，在逻辑上内在一致的电子在氢原子中的运动方程。但根据经典力学，这个方程应当描述电子在原子中运动的轨迹，可是原子太小了，电子轨道既看不见，也摸不着，也就是说是不可观察的。那么，如何从实验上来检验所得方程的正确性呢？
正当海森堡百思不得其解的时候，他得了枯草热病。这是由于某种有毒花粉引起的一种过敏症，需要到海边去治疗。当他在北海的赫尔兰岛上休养时，突然从爱因斯坦创立相对论的过程中得到启发。爱因斯坦认为物体的绝对速度和两个不同地点所发生事件的绝对同时性等概念是没有意义的，因为这些概念在实际上是不可观察的。于是海森堡认为，既然玻尔原理中确定半径和转动周期的电子轨道是不可观察的，同样也没有意义。人们在实验中能观察到的只是光谱线的频率和强度。
于是，海森堡从玻尔对应原理出发，“设法建立起一个理论的量子力学，它与经典力学相类似，而在这种量子力学中，只有可观察量之间的关系出现。”他在玻尔的频率条件和克拉姆斯的色散理论中看到了可以这样做的迹象。根据玻尔的频率条件，可以用电子的特征振幅来表示原子中各电子间的相互作用。运用克拉姆斯的量子色散理论，从经典运动方程出发，可以得出一个仅仅以可观测量为基础的量子力学运动方程。这个方程的解在理论上应当能给出原子系统完全确定的频率和能量值，并且也能给出完全确定的量子论的跃迁几率。
经过几天紧张的计算，他用得出的方程处理了一个较简单的非谐振子的量子力学系统和绕核作圆周运动的电子的情况，都获得了成功。
当他最后算完的时候，已是凌晨三点多钟了。此时他十分兴奋，睡意全无，奔出室外，攀上一座海边的岩塔，一直等到旭日东升。他后来回忆当时的心情时说：“最初，我深为惊奇，我感到，通过原于现象的表面，我正在窥测着一个奇妙的内部世界，而对自然界如此慷慨地层现在我面前的丰富的数学结构，使我感到眼花缭乱。”
海森堡在赫尔兰岛上住了一个多星期，终于写成了《关于运动学和动力学的量子论重新解释》一文。他发现量子力学量与经典力学量的不同之处在于：量子力学不遵守一般乘法的交换律，它们是不可对易的，即AB≠BA。从他所得出的方程出发，可以自然地得出符合量子条件的解，而不必像玻尔那样附加几条假说。他知道，“这个十分明显但又错综复杂的物理学问题，只能通过对数学方法的更透彻的研究来解决”。而他的理论在数学处理上只是处于开始阶段，仅能应用于一些简单的例子。所以，他对自己的论文并没十分的把握，犹豫着不敢立即送去发表。