如何应对大模型的安全问题，中国科学院院士何积丰：人工智能是“孙悟空”，对齐技术就是“紧箍咒”
2023-09-07 17:11:50 来源：东方网·纵相新闻
(资料图片仅供参考)
模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”。AI的发展因此带来了新的安全隐私问题，如何解决这一隐患，在今天开幕的2023 INCLUSION·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”（东方网·纵相视频 程琦 丁一涵）
关键词：
相关阅读
-
如何应对大模型的安全问题，中国科学院...
模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无... -
我国建立农作物种子认证制度 为好种子...
人民网北京9月7日电（记者李栋）近日，市场监管总局联合农业农村部印发 -
浙江：一杯咖啡折射乡村能级跃升新思路
“走，去村里喝杯咖啡！”——于自然野趣中品味咖啡芳香，在“诗和... -
政策密集出台后多地楼市一线见闻
从明确首套房“认房不认贷”标准，到延续实施居民换房个税优惠政策... -
江西丰城：荒山变花海，催生“美丽经济”
眼下，走进江西省丰城市“中国爱情花卉小镇”，随处可见花枝摇曳，... -
黑龙江在经济新蓝海中再起航
【高质量发展调研行】 ◎本报记者张佳星刘莉李丽云孙明源 苍原莽 -
撬动数字化转型潜能 新紫光集团加速布...
人民网北京9月7日电（记者栗翘楚）9月5日至7日，由印尼轮值主办的“第4 -
国际清洁空气蓝天日 | 数读我国大气污...
空气，包围着地球，滋养着生命。2023年9月7日是第四个国际清洁空气蓝天 -
中国第13次北冰洋科学考察队抵达北极点
人民网北京9月7日电（王绍绍）据自然资源部消息，北京时间2023年9月5日 -
工信部：面向5G通信、元宇宙等领域需求...
人民网成都9月7日电（记者申佳平）“新型显示产品是信息社会的主要... -
海关总署：前8个月民营企业进出口14.33...
人民网北京9月7日电（记者王震）海关总署今日发布数据显示，前8个月， -
国有大型商业银行公布存量首套个人住房...
人民网北京9月7日电（黄盛）工商银行、农业银行、中国银行、建设银行在 -
业内聚焦算力服务高质量发展：需优化布...
人民网北京9月7日电（记者栗翘楚）当前，加快推进算力基础设施建设，已 -
多家银行宣布降低存量首套住房贷款利率
人民网北京9月7日电（记者罗知之）9月7日，工商银行、农业银行、中国银 -
数读中国 | 系列举措密集出台 激发民...
(责编：王震、高雷) tjewm{width:100%;text-align:center;margin:30 -
国家邮政局：8月中国快递发展指数为361....
人民网北京9月7日电（记者杨虞波罗）据国家邮政局消息，经测算，2023年 -
仁化县石塘镇积极探索生态种养新模式
今年来，仁化县石塘镇依托良好的生态资源优势，积极探索实施“稻虾... -
五里亭大桥、百旺大桥维修加固工程即将启动
我市五里亭大桥、百旺大桥均于2004年建成通车，运营至今将近20年，由于 -
破解安“桩”难题，韶关有“新”模式—...
小区物业不同意出具安装充电桩的同意书、公共充电桩抢位难、公共充电桩 -
聚力打造“峡谷山宝”生态农业特色品牌...
近年来，乳源瑶族自治县大布镇围绕“峡谷山宝”乡村振兴先行示范带...
