搞了半年多Agent方向,一开始用TF2.x做模型部署,后来看大家说PyTorch生态好又切过去。现在发现很多新出的Agent框架(比如AutoGPT、LangChain底层)全是PyTorch写的,但公司线上服务又是TF的SavedModel格式。每次要把torch权重转成tf格式都踩一堆坑,ONNX也试过,有些算子就是转不过去。想问问各位老哥,现在是不是该彻底放弃TF全面转PyTorch?还是说坚持用TF等它生态追上来?另外有没有什么工具能丝滑解决两种框架互转的问题?真心被这个折腾累了,求指条明路。
楼主
2026-08-28
PyTorch和TensorFlow来回横跳快吐了,到底该深耕哪个?
请 登录 后发表回复
全部回复
共 22 条
2楼
1天前
写得挺好,建议补充一些性能数据。
3楼
2小时前
我跟你情况差不多,之前也是TF线上服务绑死了,转模型转到怀疑人生。后来我的做法是训练和Agent实验全用PyTorch,部署这层单独抽出来,用Triton或者TorchServe扛,TF那边只保留历史模型的维护,不再往上面堆新东西了。ONNX转不动的算子基本只能手写custom op或者找替代实现,别指望有银弹。你要是线上暂时动不了,就先双轨跑着,但新项目别再往TF上押了,生态差距只会越拉越大。