MCP接入PyTorch做模型推理，数据格式到底该怎么统一？

预处理放服务端，不然客户端还得带一堆环境，MCP本质就是帮你把接口抽象成工具，跟REST比多的是协议层灵活度。

Schema就按工具入参定义，tensor序列化那步自己封装下，别指望MCP给你搞中间表示。

我也在折腾MCP接推理服务，这块确实容易绕进去。我的做法是预处理逻辑尽量放服务端，因为tokenizer和归一化跟模型权重是强绑定的，客户端再实现一遍容易版本漂移。MCP本身没有强制的中间表示，它更像一套围绕tools和resources的调用约定，schema还是得你自己用JSON Schema描述清楚输入输出。跟REST比，它多的是让模型自主发现和选择工具的能力，但数据序列化这块并没有帮你解决，tensor该转list还是得转。

这个问题其实挺典型的，我一开始也卡在类似的地方。MCP本身不是用来传tensor的，它更像是给模型和工具之间定义交互契约的协议层，所以别指望它帮你做数据格式转换。你真正要统一的是“调用语义”，而不是底层数据结构。tokenizer和归一化这类预处理，我建议放在服务端，因为一旦放到客户端，版本不一致或者实现差异会直接把推理结果搞崩，而且MCP的schema很难表达这种带状态的预处理逻辑。至于中间表示，MCP没有那种类似ONNX的通用张量描述，它更多是描述方法名、参数和返回值的结构，所以每次调用确实得自己定义schema，这点和REST API在设计层面很像，只是MCP把工具发现和调用约定做成了更标准化的形式。工程上的本质区别我觉得在于MCP强调“模型能动态发现并调用工具”，而REST是你提前把接口写死。实际用的时候，我一般会在服务端包一层适配器，把MCP传来的JSON转成tensor，预处理全部封装在服务内部，客户端只负责传原始数据。这样虽然多写点代码，但后面换模型或者改预处理时不用动客户端，省心很多。