试想一下:一家服装公司,拥有你的姓名、交易记录以及长期消费行为数据。如今,这家公司决定开发生成式人工智能模型,并利用用户数据训练模型,提升商业竞争力。它需要重新征求你的同意吗?
在新加坡监管机构看来,答案是肯定的。
新加坡个人资料保护委员会20日发布《生成式人工智能个人数据使用咨询指导原则》,这是其中一个案例。该指导原则基于新加坡《个人资料保护法令》,讨论机构在开发、部署生成式人工智能,以及系统投入使用后的不同阶段,如何透明、负责任地使用个人数据。
这一案例背后,是人工智能时代数据治理面对的一个难题:当数据用途不断扩展,用户如何获得真正有意义的知情同意?
新加坡数码发展及新闻部长杨莉明20日在新加坡数据节开幕式上发布该指导原则时表示,数据商业价值不断提升,可信赖的数据治理需要明确责任机制。如果个人数据被用于开发或改进生成式人工智能模型,机构应以清晰、直接的方式说明,而不能依赖宽泛笼统的描述。
不过,很多时候,问题并不是用户没有“同意”,而是不知道自己究竟同意了什么。
随后的论坛上,新加坡国立大学人工智能治理教授西蒙·切斯特曼做了一个现场互动:“过去一年里,如果你曾经点击过同意某些服务条款,允许对方使用你的数据,请举手。”
不少观众举起了手。
“如果你读完了所有这些条款,请继续举手。”
一些观众放下了手,现场响起笑声。
如何让用户充分知情?委员会提出,只使用“您的数据将用于新产品开发”这类笼统表述是不够的,机构应提供“人工智能专项通知”,明确说明数据使用目的、涉及的数据类型、使用方式,以及用户如何拒绝或撤回同意。指导原则建议,社交媒体平台如果希望利用用户数据开发生成式人工智能模型,可以同时更新隐私政策、制作专门说明页面、在平台内弹窗提醒,并通过邮件通知用户,同时提供拒绝的渠道。
切斯特曼说,互联网早期,人们面对的数据更多是“静态”的:用户搜索信息、获取内容。随着社交媒体兴起,数据开始记录用户与谁互动、个人偏好等更丰富的信息。未来,人工智能不仅收集数据,还可能基于数据进行推断,而这些推断可能超出个人主动提供、原本希望被使用的信息范围。数据治理正从单纯依赖用户同意的模式,转向加入更深层次的授权机制和问责要求。
新加坡星展银行首席数据与转型官尼潘利明也表示,过去企业主要关注数据集本身是否合法获取,但现在需要关注的是不断流动、不断变化的数据。
(据新华社电)