科技入侵现代 第653章 人工智慧的边界

第653章人工智慧的边界

爆不爆一方面要看风向，另外一方面要看对象。

舆论转向往往都只在一瞬间。

比亚迪可以是国产制造的标杆，是电池技术与产业链整合的极致体现，是在全球新能源赛道上硬生生挤出一席之地的样本。

在另一种叙事里，被放大为高负债、高扩张、现金流紧绷的典型，一旦周期反转，风险被无限放大。

华为可以是方法论的胜利者，从通信设备到智慧型手机，再到智能汽车解决方案，几乎每进入一个领域都能重构规则。

同样的，高度集中权力与资源的体系，在光环之下承受著分红压力、债务结构与外部环境的多重挤压，被质疑是否还能持续复制奇迹。

小米可以是最懂年轻人的品牌，用性价比与生态链构建起庞大的用户心智，把参与感做成一种商业模式。

也可以在另一种声音里，被批评为过度依赖营销叙事与流量红利，产品力被稀释，品牌溢价难以真正建立，在高端化与规模化之间反复摇摆。

归根结底，企业本身没有那么快发生变化，变化的是观察它的角度。

当资本需要故事时，优点会被组织成逻辑；当市场开始怀疑时，同样的事实会被重新排列，变成隐患。

Pony不知道林燃知不知道这点，但他显然深谙此道。

从抄袭帝国到最懂投资的巨头，腾讯一直是那个腾讯，靠体量生吃竞争对手，但舆论却一轮又一轮地反转，比烙炊饼翻的还要更快。

「林生，因为是你，所以舆论没有爆，没有聚焦在深红端。」

「对深红科技的指责甚至还没有对腾讯的指责多。」Pony想到这里，不由得无奈苦笑。

他接著说道：「现在绝大部分的负面舆论都体现在使用人员，也就是那些管理者身上。」

「说老板滥用，说管理者越界，说有人把工具当成鞭子。」

他停了一下，像是在组织措辞，「但这只是第一阶段。」

「现在的叙事是工具是中性的，问题出在使用者。」Pony继续说道，「但你我都知道，这种叙事维持不了太久。」

「一旦出现几个足够极端的案例，舆论会自动升级。

「从人用错了，变成为什么可以这么用。」

「再往后，就是这个东西本身就有问题。」

林燃说，「所以你才会来找我。」

「对，过去看过太多，舆论无限滑坡的事件，导致官方哪怕不想下场都被逼的不得不下场。」Pony没有否认，「我来找你之前，想到是我们现在还有时间，把边界自己画出来。」

「结果没想到，你早就已经把边界画好了。」

Pony为对方的老练所折服。

林燃回答道：「你说的很对，我们不但现在要动，还要和用户进行充分的沟通，告诉他们我们是怎么想的。」

「人工智慧作为个体介入到生活中，这是第一次，大家都没有经验。」

「OpenClaw被调侃，说过去这玩意叫病毒，现在它叫小龙虾。」

「我们未来也会面临同样的问题。」

「我们需要让用户知道，整个生态大家一起在完善。」

「他们提供问题，我们解决问题。」

「所有涉及他人状态判断的能力，默认关闭。」

「包括摄像头、行为分析、专注度评估，只允许个人使用场景开启。」

「企业级调用，需要双重授权，而且必须可追溯。」

「虹不会再直接给出绩效判断、人员评价这一类结论。」

「它连数据都不会输出，更别提代替决策。」

这就不得不提微信的好处，因为载体是微信，所以用户天然就包括了人脸识别这一重验证场景。

「反馈机制上也会有所限制，一旦检测到高强度、持续性控制行为，会触发提示，甚至主动降级能力。」

Pony鼓掌道：「我没有意见。」

林燃说：「你肯定没有意见，这对腾讯来说，相当于主动阉割产品能力，降低产品成本，还不会引起广大消费者不满的行为。」

「另外我们还需要在社交媒体上强调一下，未来有类似的产品，这不是我们的问题。」

「目前我的想法是，第一层，是权限。」

Pony问：「你是打算切割？」

林燃说：「我们需要提前定义边界，现在市场上一定会有人跟进，而且会有人走得更激进。」

「他们不会像我们一样收手。」

「甚至会把全接管当成卖点。」

「尤其是一些ToB的企业，这对他们来说是最好的卖点。」

「对企业来说，他们可以把管理层干掉，有什么比二十四小时无休的人工智慧更好的管理层吗？」

「顺便压榨员工的劳动力。」

「这就是最好的开源节流。」

Pony点了点头，「这个我也在看，已经有团队在试类似的方向看了。」

「所以我们要先说清楚。」林燃继续说道，「哪些事情我们不做。」

「用户、产品、平台，这三层要拆开，这三件事，不能混在一起。」

「等事情真的出问题，再来区分，是来不及的。」

林燃说完之后长叹一声：「其实国内还不用太担心，我们一旦限制了，燕京是不会同意普及的。」

Pony反问：「真不会吗？」

林燃坚定道：「不会，我们从一开始就杜绝的话，燕京不会，对燕京来说要做的是降压而不是加压。」

「如果失控，首先受冲击的，是社会结构本身。」」

「只是国外肯定会，我们不做，矽谷的大厂会沿著这个方向做。」

Pony说：「这是好事啊。」

「矽谷如果往这个方向走，而且走得足够彻底，其实是在帮我们做两件事。」

「他们帮我们把边界跑出来。」

「什么地方会出问题，什么强度会引发反弹，哪些场景会踩线，这些东西，本来需要我们自己一点点试错，现在有人替我们去试。」

「当他们把能力拉到极限，问题就成了社会问题。」

「一旦那一步发生，全球讨论的焦点就会改变。」

「如果矽谷真的往这个方向走，那他们内部也会出现分裂。」

「企业、监管、公众之间的冲突会被提前激化。」

林燃说：「没错，我担心的就是这个问题。」

「到了那一步，一旦社会矛盾大到一定程度，被推出来背锅的一定是华人。」

「在阿美莉卡，做ai拿高薪的本来就以华人居多。」

「华国这个强大的祖国，在太平洋另一侧，帮他们吸的仇恨也够多。」

「到了那一步，华人开发人工智慧监控黑人干活，新世纪的庄园，叠加2028年的总统大选，华人群体百分百会被祭旗。」

「被推出来祭旗的总不能是印度人吧，阿美莉卡的印度人仇恨值还不够，要是枫叶国的那还差不多。」

「这才是我所担心的。」

Pony则安慰道：「华人那么多，不会怎么样的。」

林燃没有说话，办公室陷入了沉默。

两人都很清楚，这不过是安慰人的说法。

林燃摇了摇头：「总之我们做好我们的事情，我管不了那么多。」

他内心则补了一句，在这个时空确实管不了那么多。

「我打算强调虹是个人辅助系统，不是管理工具，明确禁止未经授权的他人状态分析，公开我们已经做的限制，提前预警，我们不做，别人未必不做。」

公告发出的那一刻，平台的讨论热度瞬间被点燃。

第一批反应，是支持。

「终于有人出来设规则了。」

「这东西确实该管一管。」

「起码比放任要好。」

这部分声音，主要来自普通用户。

他们对边界本身并不反感，甚至觉得这是负责任的表现。

但第二批声音，很快出现。

已经尝到控制红利的人，他们的反应最激烈，他们自然不满。

只是这部分人本来就不多，声音一旦在社交媒体上冒出来，很快就被更大的流量淹没了。

评论区几乎是瞬间被占领，节奏统一得惊人，几条高赞回复挂在最上面，语气干脆直接，没有太多修饰。

「开始阉割功能了？」有人质疑。

下面很快有人接话：「你这叫功能？你这叫监控。」

另一条抱怨被顶上来：「我花钱就是为了效率，现在你告诉我不能用？

紧接著的回复几乎是一边倒：「效率是你自己的，不是压别人的。」

「你要效率可以，别拿别人当工具人。

2

「花钱买助手，不是买鞭子。」

还有人把话说得更直接：「你要的不是AI，是一个不会反抗的员工。」

「企业用户是不是被针对了？」这条评论下，回复更多。

「就这也叫针对？你这种就适合找个路灯挂上去，等挂上去之后再来跟我谈针对！」

「国内这些变态企业能不能死一死啊。」

「赚几百亿不给员工涨薪，创始人大手笔分红，都已经做到世界第一了对员工还是压榨也就算了，现在还开始搞起赛博监工，还好深红的创始人是九零后，多少有点底线。」

「你要管理，可以自己管，别把责任外包给系统。」

「之前能这么用，是因为没人管，不代表这件事本来就合理。」

这类回复的点赞数往往更高。

舆论的风向最开始很明确。

普通用户的直觉判断非常一致，他们可以接受帮助自己的工具，但对被他人用工具管理这件事本能地抗拒。

一直到未成年人使用虹被限制之后，这部分父母和管理者开始合流，提出了反对声，让整个舆论场被搅浑。

深红的处理很干脆，没有征求意见，没有灰度测试，补丁上线的同时，所有已识别的未成年人帐号被直接限制使用，剩余订阅费用全部原路退回。

「基于用户心理健康与认知发展考虑，未成年人暂不适合使用虹。系统已自动关闭相关权限，并完成退款处理。」

理由也很简单。

「尚不具备区分虚拟与现实的能力。」

家长群体的反对声如同滔天巨浪，本来自己管小孩哪有配备人工智慧助手帮忙管轻松啊。

而且人工智慧的知识储备、教育学常识等各方面能力都远超他们。

这也关乎到他们切身利益，越懂行的家长，就越知道这是多大的损失。

其中以HD区鸡娃家长为首，他们是最不满的群体，也是声音最大，能影响范围最广的一帮人。

「你们凭什么替我们做决定？」

「我们是家长，我们有权决定孩子用不用。」

「你们这是直接越过用户。」

与此同时，那些之前因为功能被限制而不满的管理人员，也找到了新的发力点。

他们的表达方式开始发生变化。

「连家长的选择权都可以剥夺？」

「今天是未成年人，明天是不是成年人也要限制？」

「这已经不是产品问题，是权力问题。」

两个原本逻辑完全不同的群体，在这一点上出现了短暂的重叠。

他们的诉求不一样，但指向相同，都是你不该替我决定。

评论区开始出现拉扯。

支持与反对开始交错。

有人讨论心理健康。

有人讨论用户权利。

有人开始上升到技术公司是否越界的问题。

「林总，燕京那边有声音，意思是说咱们这边应该要开放针对未成年人的权限，只是增加一道程序，由家长确认就行，说我们这样一刀切也不是办法。」宋南平找上门来。

他来的主要目的不是这个，他来是想著给林燃展示全新隐身无人机在前线的作战情况。

这不过是他的开场白。

林燃说：「我们不开放，家长点了同意，不代表风险不存在，只是把风险从系统，转移到了个体。」

「这个东西，本质上不是权限问题。」林燃继续说道，「是能力和对象是否匹配的问题。」

「未成年人没有稳定的自我边界，也没有足够的判断能力。」

「你给他一个高强度、持续反馈的智能体，他很容易建立依附关系。」

「给燕京那边回复，说我们不做，也有的是公司会做，他们巴不得去争取这部分用户。」

宋南平迟疑道：「难道我们就把这部分用户让给其他企业？这部分用户规模不小，而且从小开始用，这可是长线生意。」

林燃坚持道：「我们不做恰恰是负责的表现，我们的产品拟人程度最高，最容易建立依附关系，其他企业很容易做成管理工具，那样危害反而没有我们这么大。」

宋南平听完之后点头：「好，我就这么回那边，这是前线的最新情报，您看看。」

他从公文包里掏出一个看不出品牌的平板电脑，放到林燃办公桌上。

这里的话题已经准备切换到更重要的事情上了。