云霞资讯网

根据现在的数据分析,越来越多的大模型在干长任务,调用大量工具(tools),这部

根据现在的数据分析,越来越多的大模型在干长任务,调用大量工具(tools),这部分是愿意买单的客户的需求。如果在线用,对时延就要求非常高,没法长时间等待。且这种上下文滚动越滚越大,消耗太大了。就必须有更多更快的内存和更多的算力。我有点预感,赛博员工的成本可能很快就会超过碳基员工。最后内存税,算力税还是要找公司厂长来买单的。