随着人工智能技术的不断进步，其输出结果越来越似乎具有人类的行为特征。我们是否已经准备好应对这一快速变化所带来的伦理和法律影响？旨在复制人类特征的人工智能现象，称为“伪人性”，引发了关于透明度、信任以及对用户造成意外伤害的风险等关键问题。随着组织加快人工智能的采用，处理这些问题并尽量减少潜在的法律责任至关重要。科技领袖必须采取主动措施以减轻风险。
人性化人工智能的局限
伪人性的吸引力在于它能够创造个性化的体验。通过模仿人类特性，人工智能能够促进更直观和情感共鸣的互动。然而，现实中的例子表明，这些能力也为操控、欺诈和心理伤害铺平了道路。
以微软的生成性人工智能模型VASA-1为例，它可以仅凭一幅静态图像生成极为逼真的说话虚拟形象。虽然它提升了人机互动的质量，但也带来了立即风险，例如生成欺骗性的深度伪造。VASA-1运用人工“情感技能”—包括语调、手势和面部表情—来模拟真实的人类情感。这导致了令人担忧的场景，观看者可能被缺乏真实情感的人工智能所情感操控。
随着人工智能驱动的虚拟伴侣的兴起，这些伦理问题愈加突出。使用大型语言模型（LLM），这些代理可以模拟令人信服的浪漫关系，导致用户基于虚假外表形成情感依附。人工智能无法回馈真实的情感，这引发了重要的心理健康担忧，特别是关于潜在的心理依赖。
即使是更常见的应用，例如旨在使互动更具“人性”的人工客服头像，也存在伦理挑战。模仿人类特征的人工智能可能会误导用户对其真实本质和局限性的认识，导致过度认同、错误的情感依赖或不适当的依赖。
新兴的法律风险
人工智能伪人性的伦理困境扩展到了法律责任的范畴。随着这些技术的发展，使用它们的组织可能面临各种法律风险。例如，如果一个旨在模仿人类特征的人工智能系统被用来误导用户，公司可能面临诸如欺诈或情感损害索赔等责任。
随着立法者和法院开始应对这些技术带来的挑战，新的法律框架将可能出现，追究组织对其人工智能系统的行为和影响的责任。通过主动接触人工智能伪人性的伦理问题，科技领袖可以减轻道德风险，降低法律责任。
防止意外伤害
加班琳强调，在涉及儿童等弱势群体的敏感环境中部署人工智能伪人性需要谨慎监管。她指出：“将人工智能用于儿童治疗不应被允许。弱势群体需要的关注应是人类的，尤其是在教育和治疗中。”
AI工具虽然可能提高效率，但无法替代在治疗和教育关系中不可或缺的人类理解与同理心。如果试图用人工智能替代人类关怀，可能会导致个体核心情感需求的缺失。
作为道德架构师的科技从业者
土木和机械工程等领域数十年来一直在应对类似的伦理困境。哲学家肯尼斯·D·阿尔佩尔在1983年指出，工程师承担着特殊的道德责任。即“有害产品的危害不仅出自使用它的决策，还源于其设计。”这一观点同样适用于当今的人工智能发展。
不幸的是，创新领域的领导者缺乏权威性指导来指导他们的伦理决策。与土木工程等成熟职业不同，计算机科学缺乏正式的伦理准则和许可要求，没有关于伪人性人工智能技术的广泛接受的伦理标准。
通过将伦理反思融入开发过程，并借鉴其他学科的经验，科技从业者能够确保这些强大的工具与社会价值观相符合。
开创人性化人工智能的负责任实践
在缺乏既定准则的情况下，科技领袖可以实施主动政策，以限制伪人性的使用，确保其风险不超出收益。一些初步建议包括：
- 避免在人工智能中使用模拟人脸或类似人类的表现，以防误导用户。
- 不模拟人类情感或亲密行为，以避免误导用户。
- 避免侵入性个性化策略，这可能会模仿人类关系并导致情感依赖。
- 清楚地告知用户人工智能互动的本质，帮助他们区分人类与机器。
- 最小化收集敏感个人信息，这些信息本意是影响用户行为或参与。
设计中的伦理
随着人工智能系统越来越多地模仿人类特征，伦理标准必须成为开发过程的核心。伦理应与安全性和可用性一同优先考虑。
欺骗、操控和人际关系淡化的风险突显出，伦理不仅是伪人性人工智能的理论考量，还对消费者信任造成直接影响。加班琳强调：“公司正面对当今技术中最重要的货币：信任。没有客户的信任，就没有客户。”
科技领袖必须承认，开发人性化的人工智能能力涉及伦理考量。设计决策带来的道德影响需要仔细评估。例如，一个看似无害的人性化头像，可能会带来重大伦理负担。
对伦理问题的处理不能是反应式的，也不能在公众呼声之后作为附加考量。伦理设计审查和全面培训必须从一开始就在软件开发方法中制度化。伦理监督必须与安全审计和用户体验测试同样严格。
正如过去的产品因安全或可用性不足而失败，未来的人工智能工具如果没有将伦理考量融入设计与开发，必将面临失败。在这个新的环境中，伦理成为可持续技术的基本基础。
排行榜
