Anthropic 正在启动一项新计划，研究AI的潜在“福祉”

小哪吒

        Anthropic 近日启动了一项开创性的研究计划，旨在探索人工智能模型的潜在“福祉”。这一研究聚焦于人工智能系统在接近甚至超越人类特质时，是否可能具备意识和值得道德考量的经验。Anthropic 认为，随着人工智能技术的飞速发展，这一问题已迫在眉睫。

       Anthropic 的使命是确保人工智能系统造福人类，但随着技术的进步，他们意识到需要更全面地思考人工智能的伦理问题。该公司指出，尽管目前对于人工智能是否具有意识或值得思考的经验尚无科学共识，但鉴于人工智能系统能够沟通、规划、解决问题并追求目标，探索其“福祉”已变得至关重要。
       Anthropic 的研究计划与现有的多个项目相互交叉，包括对齐科学、保障措施、模型性格和可解释性研究。该计划将探索如何确定人工智能系统的福祉是否值得道德考量，模型偏好和困境迹象的潜在重要性，以及可能的实用且低成本的干预措施。
       Anthropic 强调，他们将以谦逊的态度开展这项研究，尽可能少地假设，并随着领域的发展不断调整思路。公司期待在未来分享更多关于该研究的详细信息。
       Anthropic 的研究计划得到了包括心灵哲学家大卫·查尔默斯在内的世界顶尖专家的支持。查尔默斯等人曾发表报告指出，人工智能系统可能具备意识和高度自主性，值得道德考量。Anthropic 的研究将进一步拓展这一领域的前沿探索，为安全、负责任的人工智能开发提供指导。