算法不透明性的双刃剑效应:基于自我决定理论的研究

【字体: 时间:2025年09月25日 来源:Acta Tropica 2.5

编辑推荐:

  本研究针对算法不透明性(Algorithmic Opacity)的影响机制展开探讨,基于自我决定理论(SDT)框架,揭示了其在人工智能执行结构化与非结构化任务时对员工行为产生的差异化影响。通过421名制造业员工的实证数据,研究发现算法不透明性通过激发和谐激情(Harmonious Passion)促进主动学习(Active Learning),或通过强迫性激情(Obsessive Passion)引发政治行为(Political Behavior)。该研究为算法管理提供了重要的理论依据和实践启示,填补了现有文献中对算法不透明性积极效应研究的空白。

  

随着人工智能技术在各行各业的深度应用,算法不透明性(Algorithmic Opacity)已成为组织管理领域备受关注的核心议题。传统研究多聚焦于算法不透明性的负面影响,包括导致问责困难、引发公平性质疑、削弱员工对输出结果的信任,以及损害员工的自我决定权和自主性等问题。然而,近年有学者指出,算法不透明性并非全然负面——它能够通过提供精简信息显著提升工作效率,甚至促进专业人士更有效地将领域知识与人工智能系统融合,实现"参与式增强"。这种矛盾现象表明,我们需要更全面、辩证地理解算法不透明性的作用机制。

在此背景下,来自辽宁科技大学工商管理学院的研究团队开展了一项创新性研究,试图从自我决定理论(Self-Determination Theory, SDT)的视角揭示算法不透明性对员工工作激情和工作行为的双重影响机制。该研究近期发表在《Acta Tropica》期刊上,为理解人工智能时代的人机协作提供了重要理论洞见。

研究人员采用多时段问卷调查法收集数据,样本来自中国北方某大型汽车制造企业的421名全职员工。该企业以其高度自动化的制造流程和在不同车间中应用人工智能技术的差异性而成为理想的研究对象。研究通过结构方程模型(Structural Equation Modeling)进行假设检验,并使用Bootstrap法计算中介效应的置信区间。

在技术方法方面,研究采用了经过严格翻译-回译程序处理的成熟量表进行变量测量,包括算法不透明性量表、激情工做双维度量表、主动学习量表、政治行为量表以及人工智能任务结构量表。研究还控制了性别、年龄、教育程度、工作年限、部门、成熟度和工作自主性等多个潜在混淆变量。通过验证性因子分析、组合信度检验和区分效度分析等手段确保了测量工具的信度和效度。

研究结果部分呈现了丰富的发现:

理论模型构建方面,研究基于自我决定理论和激情二元模型构建了一个整合的理论框架。该模型提出当人工智能执行结构化任务时,算法不透明性通过满足员工的基本心理需求(自主性、胜任力和关联性)产生和谐激情,进而促进主动学习;而当人工智能执行非结构化任务时,算法不透明性通过挫败员工的基本心理需求产生强迫性激情,进而引发政治行为。

算法不透明性对和谐激情的影响路径显示,当人工智能执行结构化任务(如具有明确目标、定义清晰的工作流程、可预测结果和已知问题解决方案的任务)时,算法不透明性通过节省员工的认知资源、减轻工作负荷,使员工对工作有更多的自主性和控制权,从而满足其自主性需求。同时,员工能够专注于需要创新思维和共情能力的更有意义的任务,寻求更多工作中的挑战和发展机会,显著满足胜任力需求。此外,员工还会有更多资源来发展人际关系,满足关联性需求。这种心理需求的满足促使员工将工作自主内化为身份认同,形成和谐激情。

和谐激情对主动学习的影响机制表明,具有和谐激情的员工在工作中感知到工作的重要性,他们更加积极主动地追求更高目标,表现出前瞻性的工作行为。主动学习作为一种自我发起、自我导向的行为,使员工能够扩展知识基础和学习能力,增加适应环境变化所需的灵活性。和谐激情带来的喜悦、享受和热情等积极情绪鼓励员工为未来职业发展积极准备,通过掌握高端职位所需的知识和技能来保持就业机会,获取生活所需资源。

算法不透明性对强迫性激情的影响路径揭示,当人工智能执行非结构化任务(如需要定义和解决不熟悉问题或需要灵活性和创造力进行决策判断的任务)时,算法不透明性阻碍了员工基于领域知识调整人工智能决策的过程,使员工对工作的控制感降低。员工被迫遵循人工智能做出的低质量决策,无法基于领域知识对人工智能的决策进行补充和调整,导致自主性需求受挫。同时,算法不透明性限制员工识别算法中嵌入的统计偏差的能力,阻碍顺畅的人机协作过程,使员工胜任力需求受挫。此外,员工感到与组织疏离,没有额外资源用于发展关系纽带,导致关联性需求受挫。这种心理需求的挫败使员工经历受控的内化过程,形成强迫性激情。

强迫性激情对政治行为的影响机制表明,具有强迫性激情的员工将工作视为获得外部奖励的手段,获胜的强烈欲望或对失败的恐惧可能压倒他们的道德原则,从而采取不道德的捷径来实现自我服务的目标和满足自身利益。由于政治行为具有高度工具价值,它是获得支持和资源的可行手段。强迫性激情产生的资源丧失感使员工将更多精力投入到政治行为中,并将其重新构建为道德上可接受的行为。

调节效应分析结果显示,人工智能任务结构调节了算法不透明性通过和谐激情对主动学习的间接影响。当人工智能执行结构化任务时,算法不透明性对主动学习的平均间接效应显著;而当人工智能执行非结构化任务时,这种间接效应虽然仍然显著,但效应大小和方向发生了显著变化。同样,人工智能任务结构也调节了算法不透明性通过强迫性激情对政治行为的间接影响。当人工智能执行非结构化任务时,算法不透明性对政治行为的平均间接效应显著;而当人工智能执行结构化任务时,这种间接效应不再显著。

研究讨论与结论部分强调了该研究的理论贡献和实践意义。在理论方面,研究挑战了算法不透明性纯粹是破坏性特征的主流观点,揭示了其在特定条件下的积极价值;修正了自我决定理论中关于透明信息始终与员工心理需求满足正相关的观点,发现算法不透明性在特定条件下能更好地满足员工的自主动机;通过将主动学习和政治行为确定为和谐激情和强迫性激情的行为结果,深化了对激情二元模型行为后果的理解;通过识别人工智能任务结构的调节作用,提供了关于算法不透明性影响效应的更全面和复杂的视角。

在实践意义方面,研究为智能制造行业的管理实践提供了重要启示,指出人工智能系统的部署效果与任务特征密切相关,建议管理者在标准化程度高的车间优先推广人工智能技术;建议建立分级算法透明度管理体系,对基于算法的预测和分类任务优先采用算法模型和高透明度特征;强调企业需要密切关注工作激情这一关键因素,并通过增强双向沟通和及时反馈来降低强迫性激情的可能性。

研究也承认了一些局限性,包括无法完全排除反向因果关系的可能性、样本来源的局限性以及未能探索更多的差异化行为结果等。作者鼓励未来研究采用纵向或实验设计来更好地评估变量间的因果关系,收集来自不同行业组织的数据以增加研究结果的普适性,并探索和谐激情和强迫性激情的其他行为后果,如工作塑造和知识隐藏等。

总之,这项研究通过整合自我决定理论和激情二元模型,揭示了算法不透明性对员工行为结果的双重影响机制,为理解人工智能时代的人机协作提供了重要的理论框架和实践指导。研究启示我们,算法不透明性既不是纯粹的好也不是纯粹的坏,其最终影响取决于具体的工作情境和任务特征。这种辩证的观点将有助于组织和研究者更全面、更深入地理解和管理人工智能技术带来的组织变革。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号