888棋牌网址:人工智能的不断发展对相关治理体系提出了挑战

2月3日和8日，《自然》杂志发表了两篇关于ChatGPT的分析文章，其中一篇文章将ChatGPT描述为“高效、流畅但不够准确”，另一篇文章的作者写道:“如果你相信这项技术有潜力带来改变，那么你需要紧张。”2月10日，中信证券前瞻研究首席分析师陈俊云也在一次非公开活动中表示，ChatGPT在数据实时性和结果准确性方面仍存在问题。888棋牌网址

警惕算法偏见，避免AI邪恶

ChatGPT在一定程度上是人工智能发展的产物，人工智能的不断发展对相关治理体系提出了挑战，尤其是在数据安全和算法监管层面。

首先是数据安全。去年，当ChatGPT首次推出时，亚马逊警告员工不要在ChatGPT中上传机密数据，因为它可以用于迭代训练。同样，OpenAI的战略合作伙伴微软的一名高级程序员也在内部论坛回答员工问题时表示，他不能与ChatGPT分享机密信息。

肖军认为，从算法的角度来看，ChatGPT可以实现实时用户交互信息的存储。用户反馈可以被ChatGPT使用，但在这个阶段ChatGPT是否存储用户数据与它的后台如何监管有关。“企业使用大量数据进行产品研发，这些数据的获取和使用是否合理合法，是否会侵犯用户隐私，甚至是否会涉及国家的一些敏感数据等，目前还存在争议。”

在ChatGPT的训练、迭代和优化过程中，会用到大量的数据。田桃源指出，AI大模型(GPT-3基础模型)的前期训练需要使用海量文本数据集，后期用户与程序交互时也会有数据对比分析的“强化学习”过程，因此需要注意数据安全问题。