ChatGPT安全风险引担忧(AI实验被叫停?)

财经资讯 2023-04-12 13:24:08

一段时间以来，以ChatGPT为代表的生成式人工智能(AIGC)是炙手可热的革命性新技术。然而，与任何新技术一样，AIG...更多知识由小编为你整理了《ChatGPT安全风险引担忧》详细内容,欢迎关注学习。

ChatGPT安全风险引担忧

一段时间以来，以ChatGPT为代表的生成式人工智能(AIGC)是炙手可热的革命性新技术。然而，与任何新技术一样，AIGC同样会带来数据安全、隐私风险和算法安全等问题，目前已经引发广泛关注。

一些上市公司关注到形势变化，主动表态暂停与ChatGPT对接测试。

停止与ChatGPT对接测试

4月11日，二六三披露机构调研纪要表示，公司此前使用公司的虚拟员工云小朵对接了ChatGPT进行了测试。但目前各国都对信息安全问题有所担忧，因此公司已经停止了与ChatGPT的对接测试。目前公司正在积极与国内大模型进行对接测试。预计未来，云小朵的应用主要在智慧党建、数字展会、智慧文旅、数字营销、智慧医疗和智慧教育等方面。

ChatGPT自2022年12月问世以来，一直是投资者关注的焦点问题。二六三也不例外，就公司在AI方面的业务积极回应投资者关切。

1月31日，二六三在投资者互动平台表示，公司制作的虚拟数字人在语音交互功能中应用了基于AIGC技术的NLP问答技术，但业务尚处于研究和探索阶段，存在较大不确定性。

2月1日，二六三表示，公司业务暂不涉及ChatGPT相关技术应用，但会密切关注新技术的发展。

2月8日，公司进一步表示，没有推出ChatGPT类似技术或产品的计划，未来会根据业务发展规划和市场需求等情况决定产品计划。

3月27日，二六三在投资者互动平台表示，正在对已有数字人员工“云小朵”结合ChatGPT技术进行研发实验，公司未来会根据用户需求以及商业化场景进一步推动此项业务发展。

二六三年报显示，公司是一家成立26年并专注于云服务领域的高科技企业，致力成为全球领先的互联网通信云服务提供商。2022年，公司实现收入89537.44万元，较上年同期上升0.45%，主要系企业手机移动转售业务的业务量增长；实现归属于上市公司股东的净利润3203.02万元，比上年同期下降4.07%。

AIGC数据安全风险监管提上日程

在全球范围内，各国都在逐步重视对于AIGC的监管力度。美国拜登政府已经开始研究是否需要对ChatGPT等人工智能工具实行检查。美国商务部4月11日就相关问责措施正式公开征求意见，包括新人工智能模型在发布前是否应经过认证程序。而意大利、加拿大等国监管机构也先后宣布将关注ChatGPT及其背后公司OpenAI带来的数据安全风险，并将开启监管调查。

在中国，AIGC的风险也引起监管部门和行业协会的注意。

4月11日，国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》，其中在数据安全方面，该文件提到，生成式人工智能服务提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，不但要符合《中华人民共和国网络安全法》等法律法规的要求，还不能含有侵犯知识产权的内容。如果数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形。此外，还要能够保证数据的真实性、准确性、客观性、多样性。

中国支付清算协会4月10日发布的《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》指出，ChatGPT类智能化工具已暴露出跨境数据泄露等风险。《倡议》表示，支付行业从业人员要遵守所在地区的网络使用规定，正确认识ChatGPT等工具的机遇和风险，全面评估使用ChatGPT等工具处理工作内容的风险，依法合规使用ChatGPT等工具。在使用ChatGPT等工具时，要严格遵守国家及行业相关法律法规要求，不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。

奇安信安全专家告诉记者，全球范围内发生了多起因使用ChatGPT导致的数据泄露事件，各国开始重视AIGC数据安全风险的监管审核。而此次《生成式人工智能服务管理办法(征求意见稿)》的发布，意味着国家对AIGC的监管治理已经提上日程。

对于企业来说，也应该更加重视数据安全和隐私保护问题，在开展相关业务时积极寻求专业的网络安全技术和咨询服务的支持，确保业务的安全和可靠性。

【内容声明】文章内容由新财梯网编辑整理，新闻来源：中国证券报