天才一秒记住【梧桐文学】地址:https://www.wtwx.net
祁怀青说,“就是可以安装在任何主流智能体上的app。”
“这样理解也……可以。”
姬寻挠挠额头,接着向她介绍「奇迹小宝」,“大模型时期训练的智能包很多数据不完善,定义不清晰,导致智能包和应用误判、错判、瞎判,你应该听说过一些。
「奇迹小宝」造成的悲剧就比较惨烈了。”
如果把目前市面上主流的通用人工智能体看作手机的话,智能包某种意义上确实相当于手机上运行的应用,某种或多种功能的集成。
确切地说,智能包是一项融合技术,在集合多个应用接口的基础上,另有不同的呈现形式,可以是日常运行的app,可以是一个辅助性功能,也可以是专业场景下的数字“人”
,比如「奇迹小宝」。
「奇迹小宝」诞生于智能体前身——大语言模型横行其道的头几年。
它原本是隔壁岛国一项通过面部表情和肢体语言分析欺诈概率的测谎技术,随人工智能大模型的兴起,被融合进大模型,成为可部署于本地进行定制化训练的智能包。
训练「奇迹小宝」的元数据来自金融反诈、视频核保、刑事审问等过程中积累的测谎数据。
理论上来说,它理想的应用场景是辨别犯罪嫌疑人受审时是否存在隐瞒、扭曲事实乃至欺诈的表现。
但它第一次大规模上线,却被应用到了青少年心理测评上。
智能包的呈现形式被制作成受青少年喜爱的卡通形象「奇迹小宝」,通过种种诱导性提问,甄别受试者的精神风险等级。
或许是开发该智能包的人没有想过它会被用在青少年心理测评,又或者支持上线的人忽略了非常关键的一点:由于元数据来源几乎都是犯罪者,训练智能包的无数次校准、调整过程中,它的底层逻辑从“有没有”
变成了“在哪里”
。
亦即,「奇迹小宝」的作用原理并非:受试者是否存在说谎的可能性,说谎概率有多大。
而是:受试者在哪一阶段说了谎,以什么方式扭曲事实欺瞒提问者。
「奇迹小宝」是以所有受试者都存在欺瞒、扭曲事实为基础而运转的。
它会寻找一切证据支撑自己存在的意义。
也就是说,在「奇迹小宝」的认知中,所有受试者都是说谎者。
区别在于,谎言的善意与恶意,低频与高频。
恶意而高频的说谎者,必然被判定为潜在犯罪者。
「奇迹小宝」上线并未引起波澜,大众对政府机构自以为是的表功式宣传的关注度,并不如官员们以为得那么高。
但运行两年后,岛国不同区域三十余名青少年同时发动十二场校园爆炸袭击,却让「奇迹小宝」悍然闯入世人视线。
十二场爆炸,死亡二十六人,伤三百余人。
领头人正是少年x。
一个被「奇迹小宝」认定为“潜在犯罪者”
“高危者”
的中学生。
“潜在犯罪者”
“高危者”
并不仅仅是封存入档案的秘密标签。
「奇迹小宝」同时接入了校园管理系统、市政监控系统以及通讯系统。
作为永不休息的数字“人”
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!