第466章 虚擬社会实验（1/2）

第466章 虚擬社会实验

“我知道在这个人工智慧的时代，大家之所以会来燕大数院，並不是所有人都想去从事纯数工作，很多同学是觉得数学能够成为一个前往人工智慧业界的跳板。

很正常，大部分人都是俗人，比起数学家的清贫，动輒能拿到百万年薪的人工智慧方向，確实太诱人了。

从刚才大家的提问，也能看出，大家或多或少都对人工智慧有些了解，比普通人的了解更多。

所以当前所有大模型的核心都是概率擬合和最有决策。

大模型的训练目標是最小化损失函数。

这意味著模型被无限趋向於產生最大概率、最小误差的输出。

在情感或行为层面，这意味著模型永远朝著最安全、最逻辑、最符合预期的完美答案收敛。

而强化学习与人类反馈是它的底层机制，这套机制的本质是用人类的反馈来筛选和强化好』的行为，惩罚坏』的行为。

这让模型成为一个高度优化的取悦机器，它无法容忍不符合人类期望的错误或犹豫。

相信我，老师对人工智慧只会比你们更加了解，当前主流的人工智慧他们的底层逻辑没有区別，包括深红。

到了用户的体验层，比拼的是谁模擬的更好，谁的模型更加准確，谁训练时候的语料更加丰富。

因此，我非常非常好奇，深红推出的虹到底要如何才能规避大模型的弊端，是创造全新的算法吗？彻底不用大模型的底层机制了吗？“

徐贤在讲台上侃侃而谈。

他很好奇，人工智慧行业的从业人士们都很好奇。

这套名为虹的人工智慧到底能做到什么程度？真的能模擬出人类的情感吗？

首先找上门的是华为。

作为长期阿波罗科技的合作伙伴，华为为深红提供了底层算力，同样的，因为有深红为华为的昇腾系列晶片背书，导致昇腾的软体生態建设进展迅速。

“林总，我想知道，虹的能力到底如何，以及我们是否有机会围绕著虹展开合作？”

余东坐在会议桌前，神情专注而热切。

他在华为是排名前五的人物，不过他一般不会来谈业务，像算力採购这种，都是下面的人在谈。

他更想了解人工智慧的最新动態，以及和林燃討论他的战略构想。

“它真的能跨越情感交流的深吗？”

林燃不假思索道：“我不知道，我们都知道人工智慧是黑箱，时至今日，大家也不清楚人工智慧所谓智慧涌现到底是怎么表现出来的。

我只能说，我们的测试人员从体验上，会觉得这比过去人工智慧表现出来的更加智能，感觉有更多的情绪在其中。

但你能说这跨越了所谓情感交流的深谷吗？我没办法给你一个具体的回答。”

余东想到了过去他们所体验的人工智慧，无论是文本还是语音，都没有情绪。

像豆包，它在和人通话的过程中，会模擬人的语气，会模擬人说话的停顿和呼吸，但冰冷的现实依然存在，计算机代码的固定无法避免。

什么是计算机代码的固定？

是指它在模擬对话过程中，不同对话之间，语气的停顿和间隔都是一样的。

类似疑惑从0到100，豆包对疑惑的表现永远是卡在50这个分位线上。

这是因为模型在生成语音时，需要对一系列参数进行预测和控制，包括了音高、语速、音量、停顿等等。

而模型的第一要义是平滑性，也就是生成自然、流畅、没有明显机器感的声音。

为了达到这一点，模型倾向於选择参数空间中最稳定、最平滑的路径，而不是最极端、最不规则的路径。

另外在参数空间里的均值回归，为了最小化损失函数，模型同样会倾向於输出高概率的均值。

说的更直白一些，一旦识別到疑惑这个標籤，ai就將其与一组预设的、固定的语音参数，像语速放慢5%，音调提高30hz，停顿增加500ms这样的標籤进行绑定。

所以人工智慧模擬的情绪是假的，余东的疑问是，你们到底能做到哪一步？

只是更多的標籤，更细分的情感表达，还是说真正意义上的情感模擬？

如果林燃说的信誓旦旦，他反而不敢信。

而林燃给的回答，是我也不知道。

这样的回答，让余东內心震惊不已，你们该不会是真的做到了吧。

“林总，臥槽，你们真实现了非结构化、高纬度的实时情感反馈？”余东问道。

林燃说：“如果你只是指这个，那我可以肯定的告诉你，我们確实做到了。这个本身就是左右脑架构要解决的核心问题。

右脑的神经形態晶片本身就具备负责捕捉並生成情绪偏置的功能，它能打破左脑gpu

的理性控制。

你们的晶片研发部门拿到的右脑晶片设计方案里，应该有相关模块，你想了解更具体的技术问题，可以问问他们，我很期待华为研发的右脑晶片。

它能让ai犯错，能让它犹豫，能让它像一个真正的人一样，在交流中產生隨机的、不完美的停顿和反应。

我们想做的更多，我不確定，它真的能够跨过那条鸿沟。“

余东面露迟疑：“什么鸿沟？机器和人之间的鸿沟吗？”

林燃说：“是的，这次的一万个名额，背后关联的其实是一万个角色，我们和腾讯合作，在一个虚擬世界里的一万个角色，我们给每一个角色都生成了人物、背景、成长环境、工作等內容。

现实世界和虚擬世界之间的交互会逐渐完善这个虚擬世界。

我们目前好奇几点，像社会性情感的涌现。

我们好奇，当一万个拥有不完美情感的ai，在一个相对封闭的虚擬社会中开始交互时，它们是否会產生宏观的社会性情感？

它们之间是否会形成群体性的排斥、部落化的认同、甚至是系统性的偏见和歧视？这些情感，並非由我们编码，而是由它们自身的交互逻辑和预设的背景参数，在动態环境中涌现出来的。

智慧能够涌现，那么情感呢？“

余东脸上出现好奇和期待的神色，这是他也好奇的问题。

“第二个在於，当这些ai角色不断接收来自人类內测用户的强情感反馈，並被要求根据预设的性格和经歷做出复杂决策时，它们是否会发展出超出设计目標范围的自我认知？

它们是否会意识到自己是代码，还是会坚信自己是虚擬世界中的真实个体？我们想观察，意识的边界，究竟是计算的终点，还是情感的起点？