首页 > 原创资讯

人工智能治理要坚持两手抓

来源:经济日报 时间:2023-08-29 17:42:37


(资料图片仅供参考)

大模型的高速发展和渗透带来生成式人工智能的广泛应用,形形色色的生成式人工智能插件在短短几个月内交互到了人类社会的生产生活中,引发新一轮智能化浪潮。正如数十年前计算机技术、互联网革命引领了技术与生产方式的历史性变革,生成式人工智能开始深刻地影响人们生活的方方面面。当我们使用生成式人工智能高效搜索、生成文本、提高工作效率,当我们感受训练聊天机器人的新鲜感,当我们在文本之上使用图像生成、音频视频生成,生成式人工智能的潜在风险也在不知不觉中逐渐渗透。

科技创新的二元性历来受到社会广泛关注,从互联网的数据隐私到智能机器人的道德伦理,再到生成式人工智能对于个人隐私的处理和引发潜在欺诈行为风险,如何规范应用值得我们深度思考。

用户会给生成式人工智能工具提供个人、公司或所属社会组织的非公开信息,模型获得了这些数据,便有可能在后续各类生成任务中泄露信息。过去担忧手机APP等软件在用户未察觉时对其隐私进行观察和调用,而在生成式人工智能应用场景中,亦存在隐私和信息泄露风险。例如,生成式人工智能可以被用来创建背景丰富、看似来源可靠的信息,进而诱导用户点击恶意链接或下载恶意软件;可以塑造丰富立体的社交媒体形象,甚至模仿某人的声音或外貌,引导造谣与诈骗;可以被训练为向特定用户推荐误导性内容,或在某些情况下加强他们已有的偏见,等等。

生成式人工智能可处理海量数据,但也给知识产权保护、个人隐私保护、打击虚假信息等方面带来新挑战。积极推进人工智能治理,法治与社会教育是促进守正创新的两大抓手。

一方面,营造安全有序的法治环境,规范生成式人工智能服务。为减少虚假信息的传播,建议明确禁止或限制其在特定领域的使用。例如,批量化的虚拟形象创建和对话;为降低隐私泄露风险,建议规定生成式人工智能使用个人数据时需经用户同意,确保数据隐私得到保护,用户有权决定哪些数据可以被使用,以及生成的内容如何使用;为减少对社会公序良俗的破坏,建议严格限制仇恨言论、歧视性内容创建。可考量设立专门的机构负责技术审查和认证,评估生成式人工智能系统的安全性、可信度、伦理问题等。

同时,对于生成式人工智能系统出现问题时的法律责任和赔偿机制,可考虑进行系统设计,对开发者、运营商以及使用者的责任分配展开讨论。本质上,机器产生的任何行为都需要有主体负责,而生成式人工智能能否以及如何界定责任主体,是一个重要而紧迫的问题。自动驾驶的技术发展、商业应用和社会问题,为我们作出了可参考的探索。

另一方面,加强对公众的教育与培训也至关重要。技术的风险不仅来源于自身,也来自于不当使用。如何让公众更好地理解技术、更明智地利用技术,进一步完善科技伦理体系,都需要强有力的社会教育作为支撑。要加强对公众进行教育和培训,强调伦理和法律约束,以提高对这些潜在风险的认识;要增强用户对伦理和法律问题重要性的认识,特别是在生成内容时,明白不应该滥用工具;要鼓励公众充分了解生成式人工智能的逻辑和可解释性、推断和生成过程,鼓励选择更透明和可解释的模型,以便更好理解生成内容的来源和原理,不轻信在看似严肃的行文和环境中插入的各类信息和煽动性观点;要提醒用户保护个人隐私和数据安全,不分享敏感信息尤其是机密信息;政府、行业、企业等相关各方应加强风险研判,有效防控人工智能的科技伦理风险,进一步加强行业自律,不断推动科技向善、造福人类。

(本文来源:经济日报 作者:清华大学技术创新研究中心主任、教授 陈 劲)

相关稿件

人工智能治理要坚持两手抓

“安顺杯”法治新闻摄影大赛|“我有一条线索”

浙商证券给予杭氧股份买入评级,杭氧股份点评报告:杭州盈德成立,看好工业气体行业整合

暴雨黄色预警:辽宁吉林山东等地局地有大暴雨

卢卡库1.13亿欧回切尔西后仅踢一赛季,之后780万欧租国米、550万欧租罗马

新闻特写|“让青春站上向阳而生的舞台”

黑芝麻(000716.SZ):签订南方·巴马健康食品系列产品生产体验项目框架协议

2023年,“堵城”是它

迈越科技第四次冲刺上市:业绩受季节性影响大,应收账款及杠杆率高

元成股份:上半年实现营业收入2.35亿元 积极寻求公司业绩增长新动能

诺普信:子公司的淡水养殖业务量非常小,该业务经营正常

卜房者说丨全面取消限购限售!这个城市火力全开

中国太保蔡强:希望今年年终是核心人力拐点

归母净利润增长翻倍,汇通达网络(09878)交出亮眼“成绩单”

武乡:雨后板山云雾缭绕

百利科技:全资子公司收购兮然科技股权

第十八届中国长春电影节开幕

尹锡悦吃海鲜午餐被批“作秀”,在野党:干脆把核污染水运到总统府

大熊猫“添添”在美国迎来26岁生日

深圳开学前给全市校车集中体检

深交所上市公司监管委副主任付彦:深市国有上市公司有三大特点

【中国式现代化的京津冀实践】北京城市副中心政务服务中心创新通办模式,让跨省通办更便捷

世贸规则面前,岂容美国为所欲为(观象台)

重庆荣昌:诉前磋商促进打通农田灌溉“生命线”

纽约民众连续多日集会 抗议美政府处理移民危机不力

【世界说】暴力执法、随意枪杀、抹煞历史……美非裔无妄之灾数不胜数 美媒:“种族主义才是美国最致命的恐怖主义之一”

服贸会开幕在即 近百家英国企业和组织将展示多领域成果

英媒:金砖机制提供了“制衡西方的力量”

国际看点|毒品吸食者成群 美国肯辛顿大道如上演僵尸电影!

西藏定日县:车辆乘客进珠峰景区,今起需统一换乘旅游观光车