Anthropic邀请公众提出最棘手的AI问题

邀请提出尖锐问题

谁来制定AI的规则？

AI能否给我的孩子带来更美好的未来？

AI是否让世界变得更危险？

AI能帮助科学家治愈疾病吗？

人们对AI有很多尖锐的问题。解决这些问题是我们职责所在。

许多人对AI持积极态度。他们每天都在使用AI，看到了AI在减轻工作和生活负担、改变学习方式、加速科学和技术进步、创造新的繁荣来源以及解决我们面临的一些重大医疗和社会问题方面的潜力。

但也有许多人抱有严重担忧。一些人担心AI可能导致失业。一些人担心AI会贬低创造性工作。另一些人则关注人类能动性：AI可能影响我们独立思考、建立人际关系以及拥有生活意义的能力。许多人担心AI能力落入坏人之手意味着什么——并质疑收益是否大于成本。

在下面的视频中，您可以听到我们采访过的人的一些希望和担忧。

Anthropic是一家公益公司——我们的使命是确保先进AI模型的益处并降低其风险。例如，这一公益使命促使我们投资于AI保障措施以减少滥用风险，研究AI模型的行为和内部运作以帮助我们将它们与有益目标对齐，免费向科学家提供我们的AI模型，并启动了一个奖学金项目，将早期Claude用户与非营利组织配对，以帮助扩展AI的益处。

为了真正符合公共利益，我们需要充分了解公众对这项新技术的希望和担忧。作为我们关于尖锐问题的新倡议的一部分，我们正在采取进一步措施，了解人们对各种AI相关话题的看法和问题，并透明地记录我们朝着公益目标取得的进展。

我们已经奠定了基础，询问了数千人对AI的看法：

• 我们启动了Anthropic公共记录——一项公开调查，首轮调查了52,000名美国人，了解他们对这项技术的最大希望和担忧；

• 我们通过Anthropic访谈员对来自159个国家和70种语言的81,000名Claude用户进行了调查；

• 我们进行了数十次面对面焦点小组和召集会议，与那些工作和传统涉及AI引发问题的群体进行了交流；以及

• 我们通过匿名真实世界数据研究了Claude的使用情况。

我们创建了Anthropic研究所——公司内部的一个研究机构，旨在应对AI将给社会带来的最重大挑战——自公司成立初期以来，我们的长期利益信托一直对我们如何有效推进公益使命提供公正监督。

现在，我们明确邀请您向我们提出关于AI最尖锐的问题：关于AI对就业、社会和家庭影响的问题；关于我们如何实现AI在科学和医学领域巨大潜力的问题；关于人类历史上最强大的技术之一下一步将带我们去向何方的问题。

作为回报，我们将公开跟踪并报告我们为解决这些问题所采取的具体行动——并且我们将明确说明我们可能在哪些方面未能达到既定目标。

要查看其他人提出的问题，并分享您自己的问题，请访问我们的尖锐问题网站。