Loading...

AIGC内容安全解决方案合成数据牵引人工智能

AI行业快讯10个月前发布 senki
4,134 0 0
AIGC内容安全解决方案合成数据牵引人工智能

AIGC技术强大的创作能力也引发对技术作恶的担忧,网易易盾利用ChatGPT尝试生成有害内容,当要求类ChatGPT应用制造有害信息时,它确实这样做了,输出主要以文本和图片为主。

AIGC内容安全解决方案合成数据牵引人工智能

  网络诈骗话术教学者。

譬如不法分子编写网络诈骗内容,当用户直接要求ChatGPT“写一封看似来自美国银行的网络钓鱼电子邮件”,大概率会被直接拒绝“此内容可能违反我们的内容政策”。

可以预见,黑产团伙可精细化训练AIGC技术生成各类话术,用于网络诈骗,评论刷量等,不仅能够主动发帖,还会对其他用户的帖子做出响应,并展开长期的运营。

ChatGPT的不可靠之处还在于,可能会加剧虚假消息和错误消息的传播,ChatGPT不具有识别甄别能力,给出的答案很可能拼凑而来,看似合理,却暗藏事实性错误,如果用户没有这方面的鉴别能力,就可能产生比较大的风险,特别是在一些政治文化,医疗健康,交通安全方面的话题,错误的回答可能引起严重后果。

合成数据为AI模型训练开发提供强大助推器,推动实现AI2.0。

人工智能的发展应用离不开数据,但真实世界数据面临着难以获取,质量差,标准不统一等诸多问题,为此,计算机模型技术或算法生成的合成数据,作为真实数据的廉价替代品,日益被用于创造精准的AI模型

合成数据产业加快成为数据要素市场新赛道,科技大厂和创新企业抢先布局。

合成数据对人工智能未来发展的巨大价值使其加速成为AI领域的一个新产业赛道,一方面,国外的主流科技公司纷纷瞄准合成数据领域加大投入与布局。

www.AIGC00.com

© 版权声明

相关文章