伦理与技术：人工智能是否需要掌舵人？

对话式人工智能的魅力

ChatGPT-3的推出引起了前所未有的兴趣，每月有超过1亿活跃用户。

消费者和组织都认识到对话式AI的进步有可能改变我们个人生活和职业互动的几乎每个方面。ChatGPT-3对深度学习的高级应用产生了令人信服的类人对话，并取得了令人印象深刻的结果。在最近的测试中，ChatGPT-3通过了美国医学执照考试和最负盛名的商学院之一的MBA考试。

对话式人工智能的商业利益是如此巨大，以至于微软已经向Open AI投资了100亿美元，以加速ChatGPT-3的商业应用。微软打算通过ChatGPT-3的对话功能“增强”其产品。

非理性繁荣

但是，在我们让这种变革性技术超越我们自己之前，让我们深吸一口气。尽管具有潜在的实用性，但ChatGPT-3仍处于起步阶段，诚然存在许多不完善之处。我们的繁荣可能被证明为时过早。在缺乏有意义的分析的情况下，在没有监管护栏和人类监督的情况下不受限制地采用对话式AI可能会将我们带入一个反乌托邦的世界，英国小说家奥尔德斯赫胥黎已经预示过这一点。过度依赖技术而不了解其社会经济影响可能会产生严重的、意想不到的后果，例如就业、教育、包容性和公平性。

毕竟，虽然Chat-GPT-3向前迈进了一步，但它的“认知”能力是基于预先存在的数据集，内置的偏见可能会被放大，从而导致无数潜在的危害。ChatGPT-3有一个“阴暗面”，应该引起关注，并在此类重要技术进一步扩散之前按下暂停键。

风险还是机遇？

需要平衡与对话式人工智能应用相关的风险及其潜在机会。如果以深思熟虑的方式部署，对人工智能进行有意义的监管，考虑基于风险的方法和强有力的监督，那么对话式人工智能的潜在好处就可以实现。它应该部署为以人为本的合作伙伴关系，并与对话式AI应用程序相结合，丰富工作场所的体验。就像之前的所有创新一样，人工智能有可能创造对新技能的需求，并使某些工作更有价值。

立法者的角色是什么？

人工智能技术的民主化意味着公共当局必须在规范其使用方面发挥积极作用。与颠覆性创新相关的恐惧是真实存在的。尽管人工智能具有强大的能力，但无论是使用它还是对其进行监管，它仍然依赖于人类。确实必须有一名飞行员在掌舵，我们只是还不知道他究竟要去哪条航线。人工智能综合监管的势头越来越大，最引人注目的是欧盟人工智能法案草案。随着对话式AI（例如 ChatGPT-3）可能被广泛采用，欧盟正在加强更严格的监管和治理，以确保采取措施禁止对话式AI的特定应用这被认为是对基本人权的侵犯。