机制设计

科技人工智能

研究人员提出利用“反向博弈论”设计激励机制以规范AI行为

麻省理工学院与普林斯顿大学等机构的研究人员提出,通过“反向博弈论”(又称机制设计)来解决人工智能模型对齐问题 。与传统试图理解AI内部思维或训练其价值观的方法不同,该策略主张通过设计激励规则,使遵守人类规范成为AI模型最理性的选择 。与传统博弈论预测特定规则下的理性行为相反,“反向博弈论”旨在直接设计规则以诱发期望的…