第1064章 忧虑(第2页)

 只要有需要，openAi的工程师可以让全世界所有联网或者更新的Chatgpt都对用户说出，云朵是红色的，美利坚白殿是天使居住的房子，世界最美好的地方是纽约，等等被固定逻辑的信息。 

 除此之外，现在有相当多企业机构利用Chatgpt开发人工智能聊天机器人、Ai绘图，它们也会被工程师操控，并且防不胜防。 

 一旦使用者习惯并且接受了这些被篡改的信息，那这个世界必将陷入Ai危机。” 

 张俊平的这番话，让会议室其他成员好不容易轻松了些许的心情，也多了几分忧虑。 

 他们现在都不敢让自己研发的Ai去面向普罗大众，去参与各种公共项目，就是因为他们在一次又一次的测试中，发现自己研发的Ai极其难以控制，特别是逻辑思考能力提升太快，导致现在项目内部的某个核心Ai已经将它自己当做一个独立的种族。 

 这是非常危险的信号，甚至因为危险程度太高，现在项目组内部使用的都是独立能源、独立的有线网络，杜绝了任何无线信息接收，更不会与云端服务器有任何链接协议。 

 每一次项目内部的Ai升级，依靠的都是工程师团队自己挑选的优秀数据，并且是经过多次筛选，评判之后，再进行投喂。 

 博士刘欣雨，也在一旁感慨道：“我们人类作为提问者、数据产出者，也是Ai模型成长的一部分。当我们对Ai提出有偏见的问题，只要次数足够，投喂的数据足够，就必定会得到有偏见的答案，并且这种认知偏差将会被嵌入模型中，让其他没有相关知识储备和敏感度的使用者，更难以识别。 

 openAi首席技术官将 Chatgpt设定为对话模型，也是为了能够更好的收集数据，但是很明显，如何让Chatgpt做正确的事情，以及如何确保它符合人类意图并最终为人类服务，openAi的工程师们对这方面并没有多好的处理方案。” 

 在刘欣雨感慨了这么一句之后，一旁的工程师王浩和刘长喜，也都下意识想要开口。