京东JDG捧起MSI奖杯 斩获队史首个英雄联盟国际赛事冠军
北京时间5月21日晚,2023英雄联盟季中冠军赛(2023 MSI)在英国伦敦落下帷幕。经过4局惊心动魄的激烈交锋,京东JDG以3:1的比分战胜BLG,队史首次捧起国际赛事冠军奖杯。这也是继LPL春季赛冠军后,京东JDG斩获的又一个冠军。4场巅峰对决 京东JDG首次斩获国际大赛冠军此次MS
更新日期:2023-05-12
来源:纯净之家
2023年,注定是AIGC发展的关键一年,它标志着人工智能逐渐从学术研究走向产业化,并与商业融合形成互为支点的发展格局,进入产业商用期。
技术无罪,商用却有风险。不少AIGC平台在上线后仅仅几天时间内就频频遭遇翻车。究其背后,是国家对人工智能技术发展的引导和规范体现。
4月11日,国家互联网信息办公室公布了《生成式人工智能服务管理办法(征求意见稿)》(以下简称办法)。这代表着,国内即将迎来首个AIGC新规。其中,在《办法》的21条政策中释放出了一条的关键信号,国家支持AIGC的健康发展和商业应用,前提必须是合法合规,且有13条规定都明确指向了”AIGC 提供商“。
在此背景下,网易易盾从AIGC提供商运营角度出发,结合国家政策与丰富的行业经验,提供覆盖事前—平台运营前置的风险、事中—平台内容合规风险、事后—投诉与违规处理风险的全流程解决方案。
01 事前—平台运营前置风险
1. AI算法治理
从算法治理角度出发,AIGC提供商有责任在平台投入使用前对可能产生的问题进行预估、判定并制定相对应的措施,对算法使用过程中的安全监测、算法评估以及算法推荐对个人信息主体带来的影响等内容进行规范。
同时,《办法》中明确规定,AIGC服务及生成内容必须“符合社会主义的价值观”,防止出现民族、信仰等歧视、尊重商业道德、尊重他人合法权益、“防止生成虚假信息”等意识形态与价值倾向问题。
因此,人工智能服务提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责,提供预训练和优化训练数据的来源等描述,人工标注规则,人工标注数据的规模和类型等必要信息。
由于大模型依赖训练数据,在数据输入层面可能会存在恶意操纵的风险,包括有毒输入、偏见、意识形态攻击、舆论操控、虚假信息、隐私泄露等。因此,模型训练语料库基本决定AIGC生成内容的价值观。数据标注是AI数据训练流程中的“关键一步”,纯净、贴合AI应用场景的数据源可解决数据训练中90%的问题。
对此,易盾可对模型训练语料库提供人工标注服务。易盾拥有头部企业海量数据的标注经验,可快速、准确地提供专业人工标注服务,涵盖文字、图片、音视频及特殊场景和人物,同时对激增数据量可建立应急响应流程,为模型训练提供贴合使用场景的高质量数据。
2. 安全管理制度
用户认证管理
AIGC提供商需提供涵盖用户认证、重点群体保护和算法透明服务。按照《中华人民共和国网络安全法》规定,提供生成式人工智能服务应当要求用户提供真实身份信息。
在强化信息认证能力方面,易盾提供多种身份验证方式,灵活组合;创新算法能力,有效应对AI技术合成人脸、3D面具等假体攻击;同时在登录注册或使用AIGC服务前集成调用信息认证能力,减少恶意注册的安全风险。
技术安全评估
《互联网信息服务深度合成管理规定》第二十条 深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的,应当按照国家有关规定开展安全评估。
易盾可协助AIGC提供商建立健全AIGC相关的安全管理制度及业务技术资料的支持,协助企业进行现场迎检,包括文件准备,人员访谈,技术检测,问题记录,问题整改。
服务算法备案
AIGC提供商应按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。易盾可提供算法备案咨询全流程服务,协助企业完成备案信息填报。
02 事中—平台内容合规风险
1.AI实时交互内容审核
为了遵守法律法规和体现社会主义核心价值观,对于实时交互内容审核和利用AI生成内容,需要加强敏感内容审核,例如涉政、涉黄、涉暴等内容,以确保信息的安全和合规性。然而,特殊的prompt指令可能会绕过AI自身的安全机制,增加审核的难度和复杂度。
为了解决这个问题,网易易盾提供了针对AIGC+UGC场景下的机器审核能力,可根据业务场景配置审核的松紧程度,选择适当的审核策略来满足不同场景的合规要求。
如在语聊对话场景中,存在真实用户和智能机器人两种角色,这要求机审能够快速识别不良信息,确保人机聊天的实时性。易盾的机审技术可根据业务场景不同,在UGC内容和AIGC生成内容配置不同的松紧度审核策略,兼顾用户使用体验和内容安全合规性。
2.上下文关联分析+人审
AI生成内容由于算法机制原因,存在用户利用敏感话题、循序诱导提问等方式输出不当AIGC内容的情况,特别是包含多条上下文内容,单词条阅读没有问题,关联上下文多词条阅读会有违法违规的信息,违法人员常借用藏头诗、情景剧本、歌词等形式生成长文本(长图)分享,来躲避平台的审查机制。
网易易盾自主研发AI语义分析技术,提供AI机审上下文关联能力;并结合人工审核,对AI生成的长图分享、记忆薄等内容进行关联检测分析。另外易盾自主研发的人工审核系统能还原真实对话场景,区分AI机器人与真实用户的会话,大幅提高审核精准度及审核效率,有效识别和防范用户利用敏感话题、循序诱导提问等方式输出不当信息。
3.AI伪造内容识别
由于Deepfake等技术的滥用可能会导致严重的诈骗和欺诈行为,因此需要采取措施来打击AI滥用行为。易盾基于深度伪造识别算法,打造了动态防御机制,可以识别由AI生成的视频或音频。这种技术可以识别Deepfake等虚假信息,从而保护社交网络和其他在线平台的用户免受欺诈和诈骗的侵害。
根据《互联网信息服务深度合成管理规定》对于由AI生成的图片、视频等内容需要进行标识,以确保信息的真实性和准确性,避免虚假信息的传播造成不良影响。网易易盾建议平台提供深度合成内容的显著标识功能,用户在创作AIGC内容的时候可以自行完成显著标识的标记操作。标识AI生成的内容,以及采取防御措施来打击AI滥用行为,是确保互联网信息安全的重要措施。
03 事后—投诉与违规处理风险
网易易盾可协助用户建立投诉接管机制,建议平台提供用户投诉举报渠道,鼓励用户参与平台内容治理,易盾智能审核系统也将提供用户投诉举报审核机制,打通机器审核和平台业务接口,及时对用户投诉举报内容进行审核处置。
AIGC大大降低了创作门槛,为信息生产和传播带来了新的变革和机遇。对于AIGC提供商而言,与机遇并存更多的风险与挑战。
新技术与新行业的发展往往与政策合规相辅相成,如何在合规的基础上稳步实现应用落地、推进产品迭代,是AIGC提供商入局后绕不开的一点。作为新一代数字内容风控服务商,网易易盾将帮助AIGC平台合规发展,为新行业的可持续发展持续做贡献。
京东JDG捧起MSI奖杯 斩获队史首个英雄联盟国际赛事冠军
北京时间5月21日晚,2023英雄联盟季中冠军赛(2023 MSI)在英国伦敦落下帷幕。经过4局惊心动魄的激烈交锋,京东JDG以3:1的比分战胜BLG,队史首次捧起国际赛事冠军奖杯。这也是继LPL春季赛冠军后,京东JDG斩获的又一个冠军。4场巅峰对决 京东JDG首次斩获国际大赛冠军此次MS
“智”在必得 荣誉加冕,吉利汽车研究院赋能领克09 EM-P远航版斩获2023世界智能驾驶挑战赛金奖
5月19-21日,由国家发展和改革委员会、科学技术部、工业和信息化部、国家广播电视总局、国家互联网信息办公室、中国科学院、中国工程院、中央广播电视总台、中国科学技术协会、天津市人民政府主办,由天津市东丽区人民政府、中国汽车技术研究中心有限公司承办的2023世界
WIC2023丨科技感满满!擎朗机器人打造智能医疗新体验
5月18日至21日,以“智行天下,能动未来”为主题,的第七届世界智能大会于在津举行。随着各行各业的科技智能化集成度越来越高,今年的世界智能大会也有了更多的黑科技——近世界和国内500强企业、知名科技企业参展,用自家的产品和技术,谱写着智能新篇章。受到疫情停摆
中国太保寿险携手华为云联合创新签约,智慧职场、智慧康养成为亮点
5月19日,中国太保旗下中国太保寿险携手华为云在深圳举办联合创新签约仪式暨创新闪亮发布会。中国太保寿险、华为云、海康威视、讯盟科技、安真通科技、多点科技正式签署联合创新协议,共同加快保险的大健康、大养老两大板块的业务数字化,以物联网、云、AI、5G等数字技
字节跳动CWPP开源方案Elkeid亮相BlackHat Asia 2023
5月11日-12日,Black Hat Asia 2023(亚洲黑帽大会)在新加坡举办,来自字节跳动内部的最佳实践开源解决方案Elkeid入选了 Black Hat Asia 2023武器库(Arsenal )。Ekeid可满足主机、容器集群、Serverless等多种工作负载的安全需求。Black Hat大会被公认为世界信息安全行业
易开得发布航母级净水科技合作产品,为国民健康饮水护航
5月18日,易开得全球首个航母级净水实验室揭牌仪式在三亚隆重举办,并发布MQ7+全厨房净水器,以航母级净水科技护航中国家庭健康用水。以航母级科技研发净水器,健康饮水迈入新阶段作为净水领域的领跑者,易开得在净水科技方面有着深厚积淀。在科技驱动净水产品持续迭代
助力游戏无障碍,八位堂(8BitDo)确认参加第五届科技无障碍发展大会
第五届科技无障碍发展大会Technology Accessible Development Conference (以下简称TADC)将于5月29日在北京举行。科技无障碍发展大会是由深圳市信息无障碍研究会打造的信息无障碍行业年度高峰盛会,致力于关注行业发展、技术创新、成果分享、趋势研讨等多维度风向,促进
国际级高性能安全天花板:小牛电动RQi配Brembo卡钳、倍耐力轮胎、双行车记录仪
近日,全球智能城市出行解决方案提供商小牛电动正式发布2023春夏新品,公众期待已久的小牛电动高性能纯电街跑RQi正式进入量产发售阶段。3年精心打磨挑战纯电之路,高性能街跑终迎领军之作据了解,小牛电动RQi曾于2020年CES(国际消费类电子产品展览会)展会首度亮相,引起
字节跳动2023奖学金计划报名开启!10万奖学金,助力科研梦想!
近日,字节跳动招聘官方微信公众号宣布2023年奖学金计划已开启报名,计划支持 10余位具有创新精神的学生,每位学生可获得 10 万元人民币奖学金 ,鼓励其用技术回馈社会。本届奖学金计划面向中国大陆及港澳台地区高校在校生开放(毕业时间在2023年12月及以后),专业要求信
小满到 雨水丰 墨迹天气可视化短时预报让雨热天气及时可测
5月21日,是二十四节气中第8个节气,夏季的第二个节气「小满」。小满时节,雨热同期。据墨迹天气气象数据显示,小满时节中国大部分地区已相继进入夏季,南北温差将进一步缩小。南方地区降水增多、雨量增大。冷暖交汇频繁,也会导致暴雨、狂风、雷电等等强对流天气的发生
口碑销量双双领先 三星Galaxy S23系列树立旗舰新标杆
谈及全球智能手机销量,大家似乎已经习惯于三星稳坐第一。随着各大机构纷纷发出今年一季度全球智能手机出货量数据,三星再一次无悬念拔得头筹,根据Canalys的统计数据,今年第一季度,三星不仅以22%的份额稳居全球第一,并且还是头部厂商中唯一实现环比增长的品牌。其中
电视导购真实推荐 今年618选这台电视绝对错不了
做电视销售这一行有好几年了,近两年有个特别明显的感觉,那就是无论线上、线下,TCL电视销量都特别好,基本上就是出一款火一款的节奏,这两年大屏高端电视也基本都在走Mini LED路线了,感觉Mini LED已经是下一代大屏显示技术了,从画质等多方面带来了4K电视的第二次革
爱不缺席 三星BESPOKE缤色铂格系列产品全力守护幸福小家
在快节奏生活的当下,家庭总是承载着长久的爱与浪漫,拂去日常疲惫的同时,给人以无限的温暖和陪伴。520节日在即,三星持续秉承BESPOKE HOME个性化与可持续理念,以充满高级感、科技感与艺术感的三星BESPOKE缤色铂格冰箱、洗/干衣机、衣物护理机和吸尘器等套系化家电,
全新影驰RTX 4060/4060Ti系列显卡正式发布,DLSS 3为游戏提供超级动力
RTX 40家族再扩容,今天,NVIDIA正式公布了GeForce RTX 4060 Ti 8GB、GeForce RTX 4060 Ti 16GB和GeForce RTX 4060三款全新GPU。全新核心全新体验,为玩家开启升级换代之旅。NVIDIA RTX 4060 Ti和RTX 4060旨在为主流游戏玩家和创作者提供令人难以置信的1080p性能,首次
小度青禾学习手机重磅官宣,为青少年学习提供新选择
5月17日,小度宣布将推出全新品牌「小度青禾」旗下首款「新物种」产品——小度青禾学习手机,一部专为青少年打造的学习手机。新品专为青少年定制手机系统,并应用小度灵机大模型;同时还拥有全免费的小初学习资源,以及具备应用管控、实时定位、视力保护等全面能力。定制青少