人工智能一代 孩子们的隐私该被如何对待?

AI行业快讯10个月前发布 senki
9,930 0 0

人工智能一代 孩子们的隐私该被如何对待?人工智能一代 孩子们的隐私该被如何对待?

经济观察网 记者 胡泳

人工智能一代

虽然围绕人工智能还有许多不确定因素,但我们知道,它会影响到我们生活的每一个部分,而且在许多情况下,对儿童和青少年的影响最大——从他们如何出生和长大,到他们可以获得的服务,以及他们如何学习,乃至他们将要接受训练的工作。

我们称今天的儿童为“人工智能一代”,人工智能模型所作出的决定界定了他们在网上观看的视频、他们在学校的课程、他们的家庭获得的社会援助……这一现实既带来了巨大的机会,也可能生发严重的风险。如果没有对儿童的特别关注,这项技术的发展有可能在不考虑儿童的具体需求和权利的情况下进行,而儿童的健康发展对任何社会的未来福祉都是至关重要的。

人工智能可能加剧不平等,并维持偏见。例如,采用机器学习和人工智能技术对学生申请进行分类的学校,可能会无意地但却是系统地排除某些类型的候选人。在影响深远、有时是无形的监视技术背景下,我们如何保护儿童不受歧视?

人工智能设备越来越能操纵用户并使其上瘾,而儿童尤其容易受到影响。对人工智能技术的过度依赖会让孩子在社交和情感上变得残缺。数据隐私泄露也是一个令人担忧的问题,当社交媒体通过数据采集和推送定向内容与儿童对接时,当智能玩具能够听到孩子说话时,孩子们的隐私该被如何对待?

儿童/青少年已经占了人工智能系统用户的很大一部分。如何/何时从他们那里收集数据?公司可以用这些数据做什么?如何为未成年用户创建/过滤内容?很明显,我们需要人工智能的领导者、工程师、设计师、产品经理和其他参与创建人工智能系统的人接受儿童权利的教育,以保障这些权利在系统的不断加速发展中得到维护和考虑。

这样的考量必须转化为具体的措施,诸如:

如何根据“儿童友好”的全球标准以及用户的偏好,建立内容或平台的评估/评级/排名系统?

如何让年轻人根据自己的喜好选择加入或退出人工智能功能(不论在移动设备还是在网站上)?

怎样公布有关公司、工具、平台或个人内容的表现信息,以激励更多的对儿童友好的内容?

在设计管理人工智能系统的全球标准及法律和政策时,可以如何让儿童和年轻人参与其中?

怎样保障儿童/青少年的数据安全,并教会他们学习个人管理?

www.AIGC00.com

© 版权声明

相关文章