必应聊天开放测试后添加 GPU 速度赶不上使用量

叶紫网   2023-05-09 11:04:50


(资料图)

叶紫网5 月 9 日消息,米哈伊尔,微软广告和网络服务负责人・帕拉欣(Mikhail Parakhin)最近回复网友,针对必应聊天(Bing Chat)回应等待时间过长,道歉,并表示 GPU 增加速度跟不上用户使用量的增加。

叶紫网翻译 Parakhin 的推文内容如下:“很抱歉让你遇到了延迟问题。由于使用量不断增长,我们添加 GPU 的速度还不够快。我们会竭尽所能地修复这个问题”。

微软并未公布支撑 Bing Chat 运行使用了多少块 GPU,不过市场调查机构 TrendForce 集邦咨询公布的报告指出,如果以英伟达 A100 显卡的处理能力计算,运行 ChatGPT 将需要使用到 30000 块英伟达 GPU。

Parakhin 在相关推文中还提及了其它内容:

导出和必应的聊天记录将在“几天内”上线

Bing Image Creator 生成的图片支持多种长宽比,但不会在现阶段推出

必应聊天将支持代码解释器(Code Interpreter),但并未公布具体上线日期。

http://www.huaxue.eeju.com/zixun/