本项目用于启动一个基于本地大语言模型(LLM)的应用程序,以下是详细的使用步骤:
在本地服务器上启动一个兼容OpenAI SDK的大语言模型(LLM),可以使用Jan来实现这一点。
编辑.env
文件,添加以下内容:
执行命令node app.js
以启动应用程序。
程序仅能访问指定的目录,默认情况下是files
目录。如需修改,请在app.js
中调整服务器MCP部分:
// EJ ln.20
const transport = new StdioClientTransport({
command: "npx",
args: [
"-y",
"@modelcontextprotocol/server-filesystem",
"ruta",
"otra ruta",
...
],
});
默认情况下,.env
文件中指定的模型可能无法正常工作,因为它不支持工具调用功能。请确保选择一个支持工具调用的模型。