观察者悖论

—— 计算机领域冷笑话

--------------------------------------------------------------------------------------

X在办公室晕倒，抢救，常规治疗效果无效，陷入深度昏迷。二年后，家人同意关闭呼吸机。

六年后，医工交叉研究生U在做患者画像研究的时候，发现了这个病例。因为X是领域内有名的反对AI前辈，所以U就多看了几眼，发现X的日常血糖控制记录里，血糖浓度平均在一个偏低的水平。U对这个病例产生了兴趣，就让AI助理做了X的时间进度360画像。由于时间进度360画像看起来很花时间，AI助理也没提出有什么值得关注的点。于是U快进看完了这个病例，没发现什么异常，搁到一边。
又过了大半年，U在一次会议的论文张贴区看到一篇论文的引文题目是关于血糖控制药物的剂量使用分析的。他直接找到了这篇引文，看了以后，联想到X的病案，觉得X的病发很像持续血糖控制药物剂量过量引起的。U持续地查找这些论文的引文，发现早在十多年前此类问题的论文就已经有了。
U回去重新查看了X的病历，发现X的处方剂量都是合理的，虽然每次都在剂量的上限边缘。但U在研究了X的药物采购记录后，发现X的采购周期比合理的周期短那么一点点。也就是说，虽然处方剂量是合理的，但X自己实际可能多用了药。
由于糖尿病的药物使用都是由随身用药机器人自动完成的，所以U对这个病例非常感兴趣，打算做自己的硕士毕业论文。
在被授权获得X的用药机器人记录后，U发现，X确实是手动修改了用药机器人的用药剂量。
多么可笑，一位反AI的人士，因为不肯听从AI的建议，手动修改了用药剂量，最终丢了自己的性命。

U的论文发布后，得到了很多人的反馈。

又过几年，一个网红的粉丝自媒体作者I，在自家爱豆吸毒过量去世后，开始舆情个案研究。研究来研究去，居然也找到了X的案例。她发现X发病前，大量的信息推送，都是和高血糖危害，以及药物控制低血糖有益的新闻、自媒体，甚至论文有关的；而低血糖危害相关的信息非常少。这点结合U的论文，不难理解X究竟是怎样一步步把自己推向危险边缘的。I把这个个案研究的结论定义为：智能助理的信息筛选，更容易让信息接收方陷入信息茧房，而甚至会产生危及自身生命的情况。

I后来做了一系列的报道，都是各类危及自身及社会的信息茧房的案例，最终引发了行政干涉，以立法形式强制要求推进、筛选系统，在信息推送中，必须推送足够的负样本，和相关类型信息。

一个信息自动分析程序捕获了这条新的法规，给出了一系列的数据分析，包括阅读量的下降，广告点击量的降低，投资规模的变化预期等等。

无数接收到自动分析程序的代理服务程序开始了自己的工作，各种指令，经过编码、加密，转换成电信号，光信号，无线信号……被扩散到世界各地的服务器。某个服务器的一个进程接收到了某个信号，于是它所调度的某个线程，把配置表里的一个参数，从0.0012调整到0.0011。对应的，某一个推送列表的清单发生了一些变化。与此同时，更多的推荐列表的内容也开始发生着变化。
而更多的做空指令早在这些推荐列别内容变化之前就已经涌进了各交易中心的主机系统。

U起床，走进盥洗室，装有摄像头的智能墙，显示出他今天的身高、心率之类的生理数据，并给出了今日食物、药物的摄入建议。U站到水槽台盆前，开始洗漱，语音助理开始念今天的推送消息：第一条，关于某法规发布，强制要求推进、筛选系统，在信息推送中，必须推送足够的负样本，和相关类型信息。第二条，新研究表明血糖控制在较低水平可能有助于心脑血管疾病预防。大量的医学、生物学、信息领域学术论文和摘要的后面，跟着自媒体板块股票跳水的消息。

--------------------------------------------------------------------------------------

B：人工智能会有独立的自我意识吗？

A：这要看，怎么定义有独立的意识。

B：在生物学领域，如果一个生物具有自己识别规避风险保持自身存活及种群延续的行为，就被认为是有自我意识的。

A：……

A：如果AI的存在风险就来源于它是否有自我意识，那我们如何能够观察到它是有自我意识的？