OpenAI公司首席执行官承认ChatGPT存在风险,现在怎么办?

在上周末,公司官承OpenAI公司首席执行官Sam Altman突然加入了关于ChatGPT(该公司最近发布的首席对话文本生成模型) 在Twitter上的争论,并给出了令人惊讶的执行警告 。
他在Twitter上写道:“ChatGPT的存风功能虽然非常有限,但在某些方面做得很好,险现足以给人留下一种令人误解的公司官承伟大印象。但现在依靠它做任何重要的首席事情都是错误的。这是执行一种进步的建站模板预演;在稳健性和真实性方面 ,我们还有很多工作要做 。存风”
Altman最后在该帖子中写道,险现“ChatGPT是公司官承一个有趣的创意灵感。太棒了!对事实查询的首席依赖并不是个好主意。我们将努力改进!”

那么,执行是存风什么促使Altman发表上述言论?毕竟,当OpenAI公司在11月30日发布ChatGPT时,险现虽然他警告说这是一个早期的演示和研究版本 ,源码库在功能上有很多限制 ,但他也对未来的应用进行了一些宣传和炒作。他在Twitter上写道 ,“很快,你就能拥有一个有用的助手 ,与你交谈,回答你的问题 ,并给出建议。随后你将拥有自动执行任务的工具,最终受益匪浅,因为它会为你发现新的知识。源码下载”
Altman最近发出的警告可能并不是对上周AI Beat专栏的回应。更有可能的是,是过去10天来的大规模炒作和铺天盖地批评的回应。到目前为止 ,OpenAI公司的ChatGPT被支持者描述为一种“轰动”和“最具颠覆性的技术”,但也有批评者指出,云计算“ChatGPT有点像你在酒吧遇到的那个喝醉的女孩,她一直在喋喋不休地说话 ,有一些是真话 ,有一些是废话 ,但你肯定不会想把她带回家去见你的父母 。”
也许,最值得注意的是 ,Altman看到了OpenAI公司的研究演示对主流的高防服务器冲击 。《纽约时报》 、《华尔街日报》、《华盛顿邮报》 、《大西洋月刊》甚至《福克斯天气》都在过去几天里报道了这一事件。
ChatGPT现在发生了什么?目前看来,ChatGPT一直得到行业人士的关注 。没有任何迹象表明OpenAI的受欢迎程度正在下降:事实上 ,OpenAI公司似乎在满足请求方面遇到了困难。据报道,一些人收到了这样的通知:“哇!你可能得等一段时间。目前收到的请求多得让我们无法接受。模板下载”
但尽管围绕ChatGPT的讨论仍在继续 ,从那些指责谷歌公司在大型语言模型方面落后的用户,到对大学论文未来的担忧 ,似乎开发这些模型的开发者都在保持低调 ,意识到未来出现的激烈竞争。
对于OpenAI公司来说,该公司显然正在利用这段广泛的ChatGPT社区实验期来获得RLHF(从人类反馈中强化学习),以用于备受期待的GPT-4的未来版本 。
当然,虽然StabilityAI公司首席执行官Emad Mostaque说得很清楚 ,但正是这么说 ,代表了硬币的另一面 :昼夜不停地工作以开发ChatGPT的开源变体的开发人员。

Stable Diffusion公司的创建者之一LAION表示,他们已经在积极地研究这个问题。他说 ,“所以,我们需要等待。同时,我保证上面的文字都不是ChatGPT写的,至少现在是这样 。”