市场星报官方网站
全国数字出版转型示范单位
www.ahcaijing.com
您的位置: 首页 > 要闻 > 正文

2026网安周|明确人机边界,别做“甩手掌柜”

2026-09-18 09:34:05 来源:光明网-科普中国   

【编者按】当前,人工智能技术加速向经济社会各领域渗透,与之相伴的安全风险与伦理挑战也日益凸显。2026年国家网络安全宣传周期间,光明网联合科普中国推出AI科技伦理系列科普视频,引导公众理性认知技术逻辑,秉持算法向善理念,共建网络安全生态。

AI能干的事情,正在变得越来越多。撰写报告、语言翻译、处理分析数据,甚至写诗作画,AI都可以高效完成。随之而来的现实疑问也摆在所有人面前:到底还有哪些事情,只能由人完成,不能够全盘托付给AI?

重复劳作、计算推演、规则清晰明确的任务,适合交给AI处理。这类工作AI处理速度快、准确度高,把这类事务交付机器,是技术带给人类的解放。

但有三类核心事项,是绝对不能交出去的,这也是人与机器分工的底线。

第一是最终判断。AI能够梳理信息、分析利弊,给出多种方案建议。但是接不采纳方案、最终如何行动,决定权必须掌握在人的手中。AI输出的只是参考,做出抉择的人,要为这个选择承担全部责任。

第二是价值选择。AI可以罗列不同选项,拆解每一种选择的利弊得失。可什么样的目标值得追寻,什么事情值得去做,属于价值层面的取舍,算法无法替人类作答。算法擅长解决“怎么把事做好”,但“该不该做、为什么要做”,只能由人来思考定夺。

第三是承担后果,也是最根本的底线。AI不会产生懊悔情绪,给出错误建议之后,也不会生出责任感。但人类会。很多事情之所以被我们郑重对待,正是因为我们清楚,所有后果终究要自己扛下。承担责任,是人和机器最深刻的分野。

有一个简单实用的标尺,可以用来衡量一件事能不能交给AI:倘若AI出错,谁来为此负责?

如果AI发生失误,人类可以兜底、补救并且承担责任,那么交由AI辅助处理就无可厚非。可一旦事情出错,找不到具体的人站出来承担“这是我的决定,由我负责”,那这件事就不适合交给AI。

就像医疗诊断,AI可以用来辅助分析病情,但给出诊断结论、对患者生命健康负责的必须是医生;司法工作中,AI可以整理材料提供参考,但决定他人命运、背负司法责任的,只能是法官。在这类关键场景,人类必须始终在场。

无论技术如何迭代进步,有些核心位置不能拱手让出。一旦交出的不仅仅是一项工作任务,更是属于人的判断力、价值取向与责任意识。

这并不是人和人工智能相互对立,而是人类为技术划定合理边界,也是身处智能时代,我们需要守住的立身之本。

视频请点击

https://kepu.gmw.cn/2026-09/17/content_39004740.htm

凡市场星报、安徽财经网、掌中安徽记者署名文字、图片,版权均属于市场星报所有。任何媒体、网站或者个人,未经授权不得转载、链接、转帖或以其他方式复制发表;已经授权的媒体、网站,在转载使用时必须注明“来源:市场星报、安徽财经网或者掌中安徽”,违者本单位将依法追究法律责任。
热线电话:0551-62620110
举报电话:0551-64376913
举报邮箱:3598612204@qq.com
分享到:

安徽财经网手机版

市场星报公众微信

市场星报微博

掌中安徽APP下载