AI生成信息从“一眼假”到“深度伪造”,仅仅过了几年时间。几年前,网络上流行上传个人照片生成各类主题海报或视频的游戏,令人们对AI融入生活抱有了更多期待。比如,通过AI换脸实现的“蚂蚁呀嘿”搞笑视频,曾一度霸榜热搜。同时,AI技术应用于天气预报、新闻播报、医疗、手机地图等领域,让生活更加便利。然而,也产生了一些新的问题。有人用自己的照片与某女星素材合成亲密视频,引发争议;某知名办公软件将用户文档用作AI训练文本,引发反对声浪;还有一些人的声音、人脸被AI学习,生成虚假信息用于电信诈骗、造谣……
AI为人们提供新体验的同时,伴随的风险成本越来越高,不仅侵犯了一些人的合法权益,也扰乱了网络空间秩序。比如,AI生成音频技术的滥用可能侵犯个人的人格权。自然人的声音具有唯一性、独特性,是自然人人格的重要组成部分。今年4月,北京互联网法院宣判的全国首例AI生成声音侵权案,判决侵权方赔偿原告25万元。又如,AI生成的虚假音视频很容易引发误解,甚至造成恶劣影响,破坏网络信息的可信度和网络空间的秩序。今年9月,网上流传某网络平台负责人的负面“酒后”音频,给该平台招致风波,结果警方调查发现,音频内容系AI伪造。
这些“追着AI跑”的规范手段必不可少,但从AI生成内容的逻辑看,还需从前端发力,即在“投喂”素材训练AI大模型环节做好必要的规制。AI自主学习需要有大量的“学习对象”作为基础,包括声音、文字、语法、图像、热力分布等,这些素材越丰富,AI就“吃”得越饱,生成的内容就越自然逼真。当前,网友使用AI软件上传声音、人脸等个人生物信息时,几乎是不设防状态。此外,AI在获取训练素材时还缺乏一定的规范,比如用户为一次娱乐活动而上传的素材能不能被储存和多次利用?相关信息该如何使用?都应有明确的说法。
以手机APP过度索权为例,近年来,很多APP开发运营者为了获取更丰富的用户数据,后台过度索权问题饱受诟病。2021年初,工信部出台文件,明确了“知情同意”和“最小必要”两项个人信息保护基本原则,要求从事APP个人信息处理活动,应当由用户作出自愿、明确的意思表示,同时不得从事超出用户同意范围或者与服务场景无关的个人信息处理活动。同理,AI自主学习也应被划定明确、具体的边界范围。比如,用户上传的信息将被用于什么用途、如何储存及使用,要有类似“知情同意”“最小必要”的规定。
王石分享新著《我的改变:个人的现代化四十年》在哪下载安装?网友发现《黑神话:悟空》误将钢筋扫描至游戏中,如何评价游戏场景实景扫描这样的做法?是怎么办到的?好用吗?
作者: 申屠全惠 2024年10月31日 05:17660.57MB
查看839.1MB
查看8.7MB
查看508.37MB
查看
网友评论更多
584贡轮厚s
【雨果快报】Temu进行半托管组织重大调整,沃尔玛公布黑五网一促销计划⚋✙
2024/10/31 推荐
187****6921 回复 184****6821:香港机场成文旅“打卡”新热点♤来自大连
187****9038 回复 184****4773:云南省公安厅出入境管理局二级高级警长段明波接受审查调查🎠来自沭阳
157****2474:按最下面的历史版本✧😕来自衢州
9798傅婷宗487
俄沃罗涅日州州长:防空和电子战部队在该州击落和压制大约10架无人机⚵👵
2024/10/30 推荐
永久VIP:《冰球小课堂》第六集:滑行技术-急停🥏来自邵武
158****2931:5日本执政联盟在众议院选举中未获得过半议席💪来自福清
158****817 回复 666➒:航天员生命安全是重中之重,预祝美国两名航天员安全归来🌮来自常德
908沈寒彬tw
反馈|住房和城乡建设部:营造特色村貌 留住村落“乡愁”☐🐎
2024/10/29 不推荐
管雅翠tn:最新动态: 俄方表示“新年休战”不在议程上 美方称将优先增强乌军防空能力🛶
186****5894 回复 159****5812:康桥悦生活建议委任国富浩华(香港)为核数师🏀