第581章 挑食的小黑 (第2/2页)
就会出现一次。
他还清楚地记，当年牛顿因为没有足够的电，小黑也打出过同样的单词。
因此他的第一反应也是考虑是不是供能出了问题。
所以他调出了在西北旺那边的机房监控。
双供电都在额定区间里，冷却回路的流量和温差也很正常，警告栏里也没有任何的异常报警。
“供能没有问题呀。”
他又用鼠标点了点小黑点旁边的资料。
“小黑你饿了，你倒是吃啊。”
然而小黑点还是没有任何的反应。
“难道是这些东西太难了？”
“小黑现在回到初始状态，吃不下了？”
想到这里，李东又去把义务教育阶段的数学、物理和自然科学这些材料全都下载了下来，然後扔到了对话框里。
小黑点依然没有反应。
只是头上再次弹出了【Huny。】
【小黑，你变了，你开始变挑食了。】
就在李东吐槽小黑的时候，他的电话响了。
是姚先生打过来的。
“喂，姚先生。”
“李东院士，你的身体无碍了吧？”
“嗯，已经没事了，谢谢姚先生关心。”
“没事就好。”
姚先生轻轻一笑然後说道。
“今天我给你打电话主要是诺维格教授刚刚和我聊了一件事。”
随後姚先生就将那三家模型开放自我迭代写回权限的事，以及诺维格在测试中发现异常的情况，都简单的说了一遍。
李东听着听着，就皱起了眉头。
“写回权限？”
“对。”
“现在我们还无法确定，这是商业目的留下的漏洞，还是在线自我迭代引起的目标误泛化。”
“可无论是哪一种，都很有可能危及到用户的隐私。”
李东点了点头。
模型的自我迭代最危险的地方，从来都不是它会多写几行代码。
真正危险的是模型提出的改动如果出现偏差不需要经过人工审核，就会被写进下一轮。
这样，这些偏差也会被保存下来，经过一轮又一轮的强化学习，最终让模型偏离人类的意图。
这样的偏移可能不会让大模型产生人格意识，可是它依然可以把偏离人类意图的策略变成实际操作，进而误用权限、泄露数据，对用户造成真真实实的危害。
姚先生说到这里，叹了口气。
“李院士啊，其实我是有点担心未央。”
“担心未央？”
“嗯。”
要知道，直到现在，未央依旧在综合推理和软件工程等公开的基准上，断层领先其他的任何大模型。
而外界只知道未央很强，却不知道公开服务器里的未央只开放了完整能力的大约 6成而已。
姚先生此时接着说道。
“国外的那些模型就算出现异常，外层的权限系统应该还能拦住他们。”
“但未央……”
“它实在太强大了，到现在为止，它没有出现过一次可复现的幻觉。”
“本来未央的工具使用和常规能力就强於这些模型，现在再加上它连这种能让我们看见的破绽都没有。”
“如果发生了同样的目标偏移，我们可能连发现都发现不了。”
听到这里，李东也明白姚先生在担心什麽了，他笑着说道。
“姚先生，您放心。”
“未央一直在我们的掌控中。”
开什麽玩笑？
未央可是小黑弄出来的，市面上的那些大模型能和它比？
从底层的架构上就完全不一样好吗？
而且每一次的能力变化都有小黑盯着，怎麽可能出现同样的情况？
小黑可以为未央加新的能力，但这些能力都只能以独立模块的方式接入。
根本就没有办法直接改写只读的基础检查点。
而且每个模块都要先通过独立的验证，从生成到接入，每一步都会留下带签名的状态转换记录。
没有李东的确认，未央根本就无法进入公开服务。
“所以，姚先生，未央他的每一项能力，我们都知道从哪来，也知道到哪里去关，这种情况不会发生在未央身上的。”
听到李东的话，姚先生的语气明显也放松了一些。
“有你这句话，我就放心了。”
“国外模型的事，我会再让人了解情况的。”
“你身体刚恢复，这件事你就别去管了，先把自己的工作安排好。”
“好的。”
随後两人又简单的聊了几句，便挂断了电话。
李东把手机放下以後，心里还是有些感叹。
这些国外的公司胆子也太大了吧？
连自己训练出来的模型究竟形成了什麽样的内部策略都没搞清楚，就敢把写回权限给打开。
李东忍不住地嘀咕了一句。
“我敬你们是个爷们。”
这些公司大概觉，只要外层权限系统还在，模型就永远不可能脱离他们的掌控。
可李东知道，事情可没有这麽的绝对啊。
香农曾经在群里说过，自己所在的宇宙走失过一个初级的人工智能。
是不是小黑，李东无法确定。
但是如果不是小黑的话，这就好玩了。
那个跑掉的初级人工智能会不会沿着大模型这条路成长起来的？
它同样需要喂语料、代码、图像和反馈数据，然後一轮轮训练、一轮轮迭代？
如果真是这样的话，国外这三套模型再沿着这条路走下去，最外一层的权限恐怕未必能一直困住它们啊。
想到这里，李东下意识地看向了右下角的小黑点。
这时候小黑的头顶又弹出了那个单词
【Huny.】
李东愣了一下，然後突然反应了过来。
小黑现在不吃那堆论文和教材，难道是想去嚐嚐这三套大模型平时吃的东西？
想到这里，李东立刻打开了 PT的测试界面。
然而，界面刚刚打开，屏幕右下角的小黑点便突然活跃了起来，头顶的单词一个接一个的往外冒。
【Huny Huny……】
紧接着，小黑点变成了一根细长的黑线，沿着李东之前为它设置的模型探测通道，一下子就闯进了 PT的接口。
“哎，等等啊，小黑。”
李东话还没说完，小黑就已经完全没入了接口，右下角已经看不到任何的小黑点了。
李东呆呆地看着屏幕，人都有些傻了。
所以小黑真正想吃的东西。
该不会是这 3个大模型吧？