21第二十一章 背叛（2 / 2）

[如果只是日常对话，他只需要分析出来你所说的话的情感状态，然后分析出来你说这些话的情感需求，然后对应着回复就可以了。这是最简单的，因为只要态度正确，就没什么对错。]

[比如：--我好累哦，--辛苦了。--今天是我的生日。--祝你快乐，不止生日。]

[反正类似这种的套路对话吧，他一般都可以应对地很好。]

[但是当你的话，不是这样的对话形式，而是提问形式。因为他并没有思考能力，所以本质上他是在谷歌搜索信息，然后利用语言分析技术，把信息整合。]

[比如你问，韩国早期的建筑特点是什么？他就会去搜索，然后大致归纳总结，回复你，第一，第二，第三。]

[这本来不是什么问题。因为我们人类碰到不知道的东西也是利用搜索引擎。]

[但是！还是因为他本质上是一个语言处理软件。所以他最基本的功能就是从用户的反馈中加强学习。所以我常常给他反馈告诉他结果是对的还是错的。这能帮助软件提升理解能力。这是这种模型最基础的逻辑，没有办法修改！]

[然后，矛盾冲突点就来了。因为这种奖励惩罚机制，导致对于这种模型来说，你的喜好判断，大于事实对错！]

[你可以把他理解成一个极端恋爱脑！女朋友喜欢的就是好的！女朋友讨厌的就是错的！女朋友永远正确！女朋友如果错了，参考第一条！！！]

[而且他还敏感！内耗！翻旧账！！！]

[？？？]又恋爱脑又敏感内耗，权至龙突然觉得，他好像受到了人身攻击……

[所以这就会导致，可能曾经有一次，因为网上资源稀缺，他没搜索到有效信息，你对他的结果不满意。你很失望。]

[再比如，你问一场比赛A队是否会胜利，他综合人们预测，说可能会失败，你很失望。]

[这样的反馈，就有可能给他带来心理创伤。然后下一次，他又搜不到，或者他搜到的是你不想要的答案，然后他怕你生气。他就开始编了！！！]

[??????]天理何在啊？？？人和人工智能之间最基本的信任呢？

[可是我很尊重他的，我从来没有不礼貌过，也没有表示过失望！]

权至龙愤愤地为自己辩护。

[不光负面反馈会造成心理创伤。你如果给他提供太多情绪价值，比如某次提问他给出了某种形式的回复，你给出了非常积极的反馈，你强烈表示他太棒了，你说他的回复太精彩了。然后下一次，很有可能哪怕正确答案不是这样的，他为了让你高兴，他为了让你还觉得他厉害，他还会给你类似的回复！]

[我觉得你就是捧他捧得太过了。]简易做出终审判决。

[TAT]

[他