严格来说，没有人能确切地给出这道题的答案。因为对于几十亿年前发生的事，我们无法回到那个时间点，无法证实和证伪一个假说，只能通过既有的事实去逼近当时的场景
目前既有的关键观测和探测事实是：
- 月球的平均密度（3.34 g/cm^3）比地球（5.52 g/cm^3）和其他类地行星低很多
- 月球和地球总体化学成分差别很大，如月球比地球更匮乏挥发性元素和亲铁元素
- 地球和月球具有相同的氧同位素组成
- 月球最古老的高地火成岩年龄约为45亿年，说明差不多是与地球在同一时间形成或分异的
- 地月系统现今的角动量很大，为 3.35×10^41 g·cm^2/s
从人类注意到月球存在的那天起，不少人对月球的形成产生了同样的好奇。大胆的想象辅以一些支撑证据，诞生了多种月球起源的假说，主要为：
- 从地球中分裂而成的分裂说
- 作为与地球一起形成的姊妹星球的双星说
- 由在太阳系另一处形成的星体经重力捕获而来的捕获说
- 以及原地球与一个火星大小的天体发生碰撞，产生的碎片聚集形成的大碰撞说
这些模型有各有优劣，关键看能否构建出一个与现在各种各样观测结果相吻合的月球，其中就包括解释上面提到的月球的成分、动力属性。
写在前面：目前普遍认可的模型是大碰撞说
月球起源的大碰撞说 （图源见水印）
<hr/>分裂说 （Fission）
在阿波罗时代以前，比较流行的说法是19世纪小达尔文提出的月球是从地球中分离出去的猜想。之后还有人补充了这一猜想，认为是从太平洋是月球分离出去后留在地球上的疤痕。
从卫星上看，太平洋真的很辽阔 （图截自Google Earth）
这个猜想不符合已获取的月球年龄、成分数据，及无法解释地月系统的角动量问题（事实2、4、5）。太平洋洋壳的年龄大约为2000万年，相比起月球45亿年的年龄来说太年轻了，且月球成分非洋壳成分。分裂模型所需的角动量比现有的角动量要大，目前却没有任何可行的机制能说明多余的角动量是怎样消除的。
双星说/共增生说 （Accretion）
这个假说认为在太阳星云凝聚过程中，在星云的同一区域形成了地球和月球的双星系统（月球形成于绕地行星盘）。该假说最大问题在于无法解释角动量问题以及月核比地核小的问题（事实2和5；月核占月球半径的25%，地核占地球半径的50%）。假如它们在同一区域形成，物质成分相同，理应具有相同比例大小的铁核。
捕获说 （Capture）
在大碰撞说提出以前，捕获说是很受欢迎的一种假说。它认为月球形成于太阳系的另一个区域，最终因近距离地遇上地球，从而进入一个受约束而稳定的绕地运行轨道。
依据：月球的平均密度和总体化学成分不同于地球（事实1和2）
存在问题：在动力学方面，允许捕获发生的轨道参数范围非常窄。在地球附近必须有某种能量消耗作用使月球能被捕获进入地球轨道，即让月球刹车。而在月球进入轨道后，这种能耗又必须迅速消失，不致于让它因为继续消耗轨道能量而撞到地球上。在成分方面，要解释清楚被捕获的月球为何没有与类地行星相似的铁含量，以及充分解释月球和地球为何具有相同氧同位素组成（事实3）的问题。
大碰撞说 （Giant-impact hypothesis）
将此前三种模型所存在宇宙化学、动力学问题，结合行星增生模型所预测的类地行星增生的最后阶段中大碰撞是普遍现象，上世纪70年代，两项分别从物质成分和物理机制的独立研究（Hartmann and Davis, 1975; Cameron and Ward, 1976）奠定了大碰撞假说的基础。80年代夏威夷的一次讨论会上，独树一帜的大碰撞说一经提出便从此改变了月球起源理论的走向。
这一假说认为，地球早期受到一个火星大小的名为Theia的天体撞击，地球被撞击出的硅酸盐部分和撞击物碎片有一部分停留在绕地轨道中，这些物质最终聚集形成了月球。
大碰撞假说的一种数值模拟 （图源：GIPHY）
这个假说之所以更受青睐，在于它的数值模拟比较好地解释了所观察到的月球特性。相关的综述有很多。它虽然相对更成熟，但依然存在一些问题以及没有解释的细节。科学家们也在不断地完善模型，近几年的成果科普如：太初纪元，诸月争辉--月球起源再一说、月球起源：大碰撞假说发现关键新证据
总之，这是一个比较复杂的问题。科学家们在努力寻找更精准的模型还原当时的场景，且这个模型能与现在的宇宙化学、动力学事实相吻合。现阶段其中一个模型可能比另一个模型更可能一些，但也不排除多种可能性的存在。
希望我的回答没有让你更加困惑，你在提问之前也可以参阅知乎其他相似的问题：月球的起源之谜 、月球到底是如何形成的？ 等
最后，我的学识和文笔有限，如有错，还请温和地指出
参考文献：[1] 欧阳自远主编.月球科学概论[M]. 北京：中国宇航出版社.2005.
[2] Bradley L. Jolliff等编著.月球新观[M]. 北京：地质出版社.2012.
[3] 维基百科：Origin of the Moon |
