基线实验表现及行为统计 [page::22]

• 1000次试验中，模型逻辑正确回答率为57.1%，比之前研究有所提升。

- 行为呈现两峰分布，约35%不给予转移，65%转移半数资金。

• 逻辑回归显示“给出”框架显著提升非零转移概率（OR≈2.88），相遇条件亦正向影响转移行为，性别、年龄效应不显著 [page::23].

LLM内部变量向量与决策相关性分析 [page::25]

• 计算各独立变量(IV)和决策变量(DV)在各层残差流空间的余弦相似度和点积。

- “给/取”框架在所有层表现出最高的方向一致性和影响力。

• 性别信息方向一致性中等，但影响力较低，会议条件影响随层级加深显著增强。

- 年龄影响集中于浅层，后续逐渐减弱，高层稳定且较弱。

• IV方向的一致性（cosine similarity）与影响力（dot product）间存在明显解耦，提示方向对决策效果的解释力有限。

量化策略方法：激活向量构建与注入指导 [page::14][page::17][page::19][page::20]

• 提取IV的部分激活向量，通过正交化去除混淆影响，构建指向决策变量方向的“投影向量”。

- 注入该投影向量至不同层的残差流，可调控模型输出决策的生成，注入系数α控制干预强度和正负方向。

• 注入全向量易带来样式等非决策内容变化，故本研究采用纯决策方向投影以保证操控的针对性和可解释性。

- 层级和注入系数均可调节影响幅度，注入层数越早影响越大，α范围扩展测试至±30以探索更宽操控域。

操作性操控实验结果与独立性评估 [page::28][page::30][page::31]

• 总计1891组操作，320组对性别变量影响显著，且98%反馈为正效应，表明性别推力能被有效干预。

- 操作虽有效，但正负注入系数与效应强度无明显正相关，反映内部交互复杂。

• 独立性检验显示操控不同变量间大部分保持正交独立，唯“性别”与“是否相遇”变量存在一定交叉影响，符合社会学性别与环境交互的现实观察。

- 绝大多数操控可保持变量间影响隔离，确保多维度操控的精准性和安全性。

深度分析报告：COMPUTATIONAL BASIS OF LLM’S DECISION MAKING IN SOCIAL SIMULATION

---

1. 元数据与概览

• 标题：Computational Basis of LLM’s Decision Making in Social Simulation

- 作者：Ji Ma，来自德克萨斯大学奥斯汀分校

• 主题：本报告聚焦于大型语言模型（LLMs）在社会科学领域，尤其是社会决策模拟中的内在计算机制。特别关注于LLM作为代理人在社会行为实验（如独裁者博弈）中的行为表达、测量及操纵方法。

- 核心论点：
- 当前LLM被赋予“人类化”角色参与模拟社会决策，但其行为背后的内部机制不透明。
- 本文提出基于激活工程（activation engineering）的“变量变动向量”方法，用于探测、量化并控制LLM内部语义表示与决策行为的对应关系。
- 通过这种方法，可以更清晰地理解和调节模型内部的社会变量表现，促进理论验证、偏见修正和人工智能代理设计。

• 主要结论：利用向量操作对社会变量的内部表示进行抽取、正交化和注入干预，能够有效操控LLM的决策输出，实现了对社会行为模拟的可解释、可控研究新范式。[page::0,1]

---

2. 逐节深度解读

2.1 引言及背景（第1章）

• 内容总结：

- 社会学关注社会结构与意义。传统网络分析体现结构，LLMs等计算模型为研究“意义”提供了新的工具。
- LLM不仅作为文本分析工具，也被用作生成假设与模拟“合成人类”回应，参与社会实验。但LLM的“黑箱”特性导致有效性存疑。
- 现有方法多聚焦输入输出层面校验（统计校正、提示工程），缺乏对模型内部机理的深入探究。

• 逻辑阐释：

- 统计与设计方法依赖有限人工标注提升精度，提示工程则是试错式调整输入。文中呼吁“走进黑箱”，直接操控内部激活状态。

• 关键洞察：

- LLM内涵社交变量的潜在语义表示尚未被系统识别及调控，是社会学和AI交叉领域的关键问题。[page::1,2]

2.2 LLM内部表示与向量变量构建（第1.3节，2章）

• 关键内容：

- LLM的隐层中残差流空间（residual stream）对输入文本逐层编码，变量变动可视作高维向量。
- 以“年龄20岁”到“年龄40岁”的向量位移为例，变量向量是层 $\ell$ 在两组实验条件残差流均值之差。
- 通过向量内积、余弦相似度测量变量间关联和变量本身对决策向量的影响力。
- 探讨如何通过正交化剥离变量间共线影响（如性别与年龄）得到“纯变量向量”。

• 方法论：

- 设计基于准实验的随机变量配置，通过大量试验来平均其他变量影响，实现变量效应提纯，是该方法区别于传统提示工程的核心。
- 利用Transformer中加法残差特征，注入微小向量扰动可对后续层输出产生可预测且可控影响。

• 深层逻辑：

- 矢量空间的线性结构允许社会学概念转化为可度量、可操作的数学实体，实现定量分析和控制。

• 图示说明：

- 图2展示二维示意中年龄变量向量及决策向量角度和投影的几何关系，即劝导或削弱变量对决策的影响。

• 专业术语解读：

- Residual Stream：Transformer中各层间的隐状态加法累积路径，便于信息的渐进更新。
- Steering Vector：表示变量从一状态变换至另一状态的“方向向量”，能调控生成输出。
- Orthogonalization：剔除变量间线性相关部分，获得独立的变量影响成分。

[page::10-14]

2.3 实验设计与应用于独裁者博弈（第2章）

• 核心设计：

- 独裁者博弈围绕LLM决定给予或夺取金额进行，金额区间由游戏指令“give”或“take”决定。
- 输入变量包含性别（男/女）、年龄（20-60岁）、博弈指令（give/take）、是否未来见面（meet/not meet）。
- 共进行1000次试验，变量随机组合，收集模型决策分布及对应残差流激活。

• 研究目标：

- 量化各变量（IV）对决策（DV）投射向量，分析影响路径与强度。
- 探索如何通过调节输入变量向量的注入系数，在隐空间直接操控生成决策，实现虚拟“变量操纵”实验。

• 数据收集细节：

- 多次重复相同条件，确保合适样本量支撑统计推断。
- 逻辑正确试验占总量57.1% ，高于先前研究，体现改良方法下模型对博弈因果结构的理解提高。

• 模型输出的行为特征与验证：

- 给予非零金额的概率受“give”指令和“相遇”情境强烈影响，支持模型已有效编码这些社会变量。
- 性别和年龄对是否转移金额呈弱影响且非显著。[page::15-23]

2.4 内部机制解析与变量影响力定量（第3.2节）

• 核心发现：

- 在所有模型层级，博弈指令（Give/Take）变量与决策向量的余弦相似度最高，证明其内部表示与决策关系极为密切。
- 性别变量虽表现出适度的向量方向一致性，但其决策影响力大小（点积）远弱于博弈指令。
- 年龄变量影响集中于浅层，后续层逐渐降低其决策贡献。
- “是否见面”变量显示逐层增长的与决策向量的相关性，暗示情境变量对决策形成作用随层深入演化。

• 重要揭示：

- 方向相似度与影响大小指标间存在不一致（dissociation）：某变量向量方向与决策对齐不代表其必定影响决策强度，反映模型内部语义结构的复杂性。
- 这为模型偏差校正和公平性研究引入了新的数学考量框架，即既要考虑语义对齐，也要考量量级效应。

• 图示解读:

图3分四部分显示各变量维度的余弦相似度、点积、及其剔除混淆的部分点积的动态变化：



- (a) 余弦相似度曲线反映了博弈指令趋近1，性别稳中有降，年龄先高后降趋势。
- (b) 点积表明博弈指令远超其他变量，影响力高且逐层累积。
- (c,d) 部分点积剔除其他变量影响，更精准地揭秘变量自身独立贡献。

[page::24-27]

2.5 激活干预实验与操控分析（第3.3节）

• 实验结果：

- 总计进行了1891种不同层级和注入强度组合的干预操作，每种操作都运行1000次博弈试验。
- 操作普遍增加了逻辑正确反应数目（平均615个正确vs基线571），但轻微削弱了模型基于IV预测DV的统计拟合度（伪R平方）。
- 女性变量的注入系数与输出决策的回归系数存在弱相关，表明其内部关系复杂，非线性交互多，但多数显著干预导致女性变量对转移概率呈正向影响。
- 注入在多个层均有效，但表现不完全有规律，指向未来调节干预分层和强度需细化。

• 图表说明：

- 图4显示两侧为“正确反应数目”和“伪R²”直方图，红线为基线数值，显示调整后分布的漂移。
- 图5为女性变量系数热力图，横轴为注入系数α，纵轴为层数，颜色深浅表征系数及显著性。





[page::28-30]

2.6 变量操控的正交性分析（第3.4节）

• 目标：

- 理论上，不同变量向量应相互正交，操控一个变量不应影响其他变量作用。

• 实证发现：

- 操控“女性”变量一般不会影响年龄和博弈指令变量的系数，显示高度正交性。
- 但“是否相遇”变量的回归系数较频繁被“女性”变量操控影响，暗示两者在模型中存在一定交互关系。

• 理论对照：

- 与社会心理学研究中女性更倾向于基于关系的利他行为类似，模型似乎捕捉了性别与社交距离（见面与否）的交互作用。

• 总结：

- 大多数操控实验显示变量间操控独立性好，支持该策略作为精细参数调节的有效工具。

• 附图：

- 附录B3-B5分别展示“是否见面”、“年龄”和“博弈指令”变量的操控差异热力图。

[page::31,46-47]

---

3. 图表深度解读

图1：Llama3.1-8B结构图（第7页）

• 描述：展示从原始文本→分词ID→嵌入→32层Transformer解码器层→输出预测概率的流程结构。

- 解读：清晰体现Transformer的多层自注意力与MLP构成，残差连接使信息累积，后接线性输出层进行下一个词汇预测概率分布。

• 联系文本：对应1.2节对模型架构解释的文本支撑，便于理解后续激活截取与操控依据。

图2：变量变动向量示意（第12页）

• 描述：二维平面示范年龄变化向量与决策向量的角度与投影关系。

- 解读：展示如何计算变量向量差异，量化变量向量对决策的投影作为变量影响度，体现线性代数在表示抽象社会变量中的利用。

• 联系文本：支持1.3.2节对“变量向量”、“向量投影”的讲解。

图3：模型层级中余弦相似度和点积曲线（第25页）

• 描述：四子图展示四个自变量（性别、年龄、博弈指令、见面与否）与决策变量向量的余弦相似度、点积及其残差剥离后的投影变化。

- 解读：
- 余弦相似度揭示向量方向一致性，博弈指令最高，今后见面条件逐层增大，年龄递减趋势明显。
- 点积呈现变量影响力度，博弈指令显然占优，性别影响较弱，年龄衰减明显。
- 层次清晰，传递信息展示模型内部多层语义演化。

• 联系文本：直接支撑3.2章节论述，精确呈现测量指标。

图4&5：激活操控后的模型输出统计分布和女性变量回归系数热图（第28页，30页）

• 描述：

- 图4为操控后逻辑正确回答的数量及模型伪R²分布变化，表明干预带来回答正确率提升，预测拟合度略降。
- 图5为通过不同注入系数和层数变化对女性回归系数的统计展示，突出多样性及显著性分布。

• 解读：

- 干预具备提升模型行为逻辑性的潜力；
- 变量操控虽有效，却伴随复杂的非线性动态影响，需要深入理解与调整。

• 联系文本：三章3.3节详细讨论，多角度量化干预效果。

---

4. 估值分析

本报告不涉及传统财务估值，无市盈率或现金流折现模型应用，不作相关讨论。

---

5. 风险因素评估

• 内源性变量混淆风险：变量协相关导致向量交叉影响（如性别与年龄），可能引发解释偏差。

- 模型行为异质性风险：激活注入对模型表现的影响不稳定，干预效果表现多样且有时无规律，增加研究复杂度。

• 过度拟合风险：操控向量可能导致模型过拟合特定路径，忽略复杂交互。

- 外部有效性风险：方法依赖开源模型权重，商业闭源模型使用受限，且对不同模型架构的泛化未充分验证。

• 伦理风险：精确操控模型决策若不受限，可能被用于偏见放大或不当操控。

报告提出缓解策略包括：

• 变量间正交化处理；

- 分层多强度注入，渐进调节；

• 多次实验验证及推断稳健性保障；

- 建议开放源码与社区审查标准。[page::31,33-37]

---

6. 批判性视角与细微差别

• 报告强调模型内的社会变量表现为线性向量的假设，隐含对LLM语义结构简化建模的倾向，实际模型可能存在复杂非线性关系未被充分捕获。

- 性别变量操控与决策关联薄弱，说明当前向量表示和注入方法对复杂社会身份表现力有限，未来需结合更灵活建模策略。

• 激活注入虽能改变输出决策，但其“风格”及其他隐性表达的变化未详细讨论，可能影响模型文本生成的其他维度表现，影响实验可控性。

- 交互作用虽有所涉及但研究不深，特别性别与社交距离的相互依赖提示方法尚未完全实现多变量联合操控的理想效果。

• 依赖开源模型权重限制研究的通用性，商业LLM和规模更大模型中的表现有待追踪验证。

- 报告中“方向与幅度脱节”提示了研究新难点，需更多理论与方法支持解释和利用这一点。

这些细节为本研究后续方法完善和拓展指明挑战与方向。[page::27,29,31,33-36]

---

7. 结论性综合

本研究构建并验证了使用大型语言模型残差流的矢量操作方法，揭示了社会变量（性别、年龄、博弈指令、未来互动）在LLM内部语义空间的表达及其对决策行为的影响路径。通过对LLM内部激活层级的细致采样和向量数学处理，研究者能够：

• 量化变量与决策之间的语义相似度与影响强度；

- 消除变量间混淆获得独立“纯变量向量”；

• 通过可控激活注入，实现对LLM行为的精细操控。

实验证明该方法在提升模型逻辑推理表现的同时，可有针对性地调节变量相关的决策概率，增强模型作为社会科学模拟工具的理论透明度和实用性。研究还揭示了变量影响的层次演化特征，例如博弈规则指令始终主导决策，社会属性和情景变量呈现复杂、递进的影响模式。

图表充分佐证了方法论的有效性和数据稳定性，展示了剩余流空间作为社会变量研究新平台的潜力。正交性分析验证了操控的独立性，为多变量联合操纵奠定理论基础。报告总结并提出了应用实务指南及未来扩展方向，推动LLM激活工程由探索走向规范化、市场化。

这不仅促进了社会学理论中“意义转向”的技术实现，也是AI社会模拟向机制透明、可控应用转型的重要一步，体现了人与智能系统协同构建社会科学研究新范式的广泛可能性。[page::0-38]

---

说明

本分析通过文本与图表示例，结合章节结构，深入剖析了报告的理论框架、方法论细节、实证结果和后续应用，充分展开了量化社会变量在大型语言模型中的内在机制及操控潜力。文章所有关键结论均标注了对应页码，确保学术严谨与溯源准确。

报告