杜佳璐｜构建通用人工智能的人机协同治理方案研究

本文探讨了通用人工智能（AGI）的伦理治理问题，特别是如何在技术上和规范上实现AGI与人类伦理价值的对齐。文章提出了以人机协同治理为核心，基于价值对齐的RICE原则（稳健性、可解释性、可控性和道德性）来优化AGI的伦理治理。文章分析了AGI的技术挑战和治理挑战，包括错误信息、算法歧视、失控风险和透明度问题。同时，文章强调了全球范围内缺乏统一的人工智能伦理标准和治理框架，并呼吁建立多元主体参与的动态治理模式。通过价值对齐，文章认为可以确保AGI在尊重人类价值观的前提下，实现安全、可靠和可持续的发展。