公益网站建设的意义图书馆网站建设情况说明

公益网站建设的意义,图书馆网站建设情况说明,北京网络排名优化,百度seo关键词怎么设置简介 本文详细介绍如何使用Ollama在本地部署大模型#xff0c;通过HTTP API将其集成到业务系统#xff0c;以及在开发工具中应用AI助手。文章提供了本地部署与云端API的混合架构方案#xff0c;帮助开发者构建自己的AI工作流#xff0c;实现数据安全、成本可控、离线可用等…简介本文详细介绍如何使用Ollama在本地部署大模型通过HTTP API将其集成到业务系统以及在开发工具中应用AI助手。文章提供了本地部署与云端API的混合架构方案帮助开发者构建自己的AI工作流实现数据安全、成本可控、离线可用等优势并包含详细的安装指南和代码示例。这两年大模型卷得飞起ChatGPT、通义千问、文心一言层出不穷。对普通用户来说在网页上聊两句就够了但对开发者 / 研究者 / 数据分析党来说真正有用的是三件事• 在本地跑起来• 用 API 把模型接进自己的业务• 在开发工具里无缝用上“会写代码的 AI”这篇推文就带你用Ollama 本地/云端 API LLM封装打通这条链路做一套「自己的 AI 工作流」。一、本地部署为什么越来越多人选择 Ollama很多人第一反应“我直接用在线大模型不香吗为什么还要折腾本地部署”本地部署有几大优势隐私安全代码、数据不出本机对企业 / 研究来说很关键可控成本不用担心 API token 一不小心跑爆预算可定制可以下载特定领域模型代码、金融、法律等甚至做 LoRA 微调离线可用断网的时候它还在而在一众本地部署方案里Ollama的优点是• 跨平台Windows / macOS / Linux• 一行命令拉模型、一行命令跑起来• 自带 HTTP API很适合接前端、后端、脚本二、Ollama 安装 跑通第一个本地模型1. 安装 Ollama 可以去官网搜索 “Ollama”根据系统下载对应安装包直接默认路径下载即可。https://ollama.com/download安装完成后命令行终端里可以输入ollama看到帮助信息。输入ollama -v查看安装版本。安装好后打开https://ollama.com/library随便找一个模型下载例如deepseek-r1。打开Ollama第一种是直接打开下载好的APP。安装后Ollama 的图标会显示在桌面右下角的系统托盘区域。也可以直接在这里面对话。第二种是终端启动。打开终端试试直接跑一个模型。例如ollama serve #启动如果APP启动了本命令忽略ollama run deepseek-r1:1.5b #下载模型到本地后面可替换为其它模型终端会自动帮你下载对应模型第一次会稍微久一点显示即下载成功。下载完后进入对话模式你可以直接在命令行里和本地模型聊天到这里你的“本地 ChatGPT” 已经跑起来了。三、把本地模型当作 API 用Ollama HTTP 调用示例1. Ollama 默认的 API 地址安装并启动 Ollama 后一般会默认在本机开一个 HTTP 服务http://127.0.0.1:11434我们调用的核心接口通常是POST /api/generatePOST /api/chat2. 用curl发一个最小请求先在终端试一下最小 demo以 chat 接口为例curl.exe -X POST http://127.0.0.1:11434/api/chat -H Content-Type: application/json -d {\model\: \deepseek-r1:1.5b\, \messages\: [{\role\: \user\, \content\: \用三句话介绍一下你自己\}]}如果一切正常你会看到模型返回的 JSON包括生成的内容。可以看到输出有点混乱所以这种调用方式不常用。3. Python 调用Ollama API 示例下面是一个最简 Python 示例脚本你可以放在自己项目里import requestsimport jsonOLLAMA_URL http://127.0.0.1:11434/api/chatdefchat_with_ollama(prompt, modeldeepseek-r1:1.5b): payload { model: model, messages: [ {role: user, content: prompt} ], stream: False# 如果想要流式输出可以改为 True } resp requests.post(OLLAMA_URL, jsonpayload) resp.raise_for_status() data resp.json() # Ollama 的 chat 返回里一般有 message 字段 return data.get(message, {}).get(content, )if __name__ __main__: answer chat_with_ollama(帮我写一段 50 字以内的大模型介绍) print(answer)大模型能够理解、创作并处理文字、图像、视频等复杂信息展现出强大的认知能力和广泛的应用场景适用于人工智能领域中的多任务协同和数据驱动决策。4. Ollama包调用方法两者选其一! pip install ollama #下载ollama包from ollama import Client# 关键步骤创建Client时指定明确的hostclient Client(hosthttp://127.0.0.1:11434) # 然后使用client进行对话response client.chat( modeldeepseek-r1:1.5b, messages[ { role: user, content: 用三句话介绍一下你自己, }, ])print(response[message][content])我是人工智能助手DeepSeek-R1专注于理解、分析和解答复杂的查询。我擅长提供深入的解析和详细的信息解释并能够快速响应用户的问题。我的独特服务是提供高效的解决方案帮助用户在复杂的信息中快速找到所需答案。有了这个模板你可以很容易把本地模型• 接到自己的后端服务Flask / FastAPI / Django• 接到桌面工具 / 自动脚本• 接入你正在写的量化回测、数据清洗、报告生成等工作流四、 除了本地模型还可以调用各种云端 API虽然本地模型例如 Ollama DeepSeek-R1 本地版能够实现“离线可用”“数据不出本机”等优势但在很多实际场景中云端 API 依然不可替代• 需要高推理能力如 GPT-4.1、Claude 3.7、DeepSeek V3• 对稳定性、速度要求更高• 属于大规模在线业务而非个人电脑部署• 多模型混合调用翻译用 Qwen、推理用 GPT、编程用 DeepSeek因此本章补充如何调用主流云端大模型 API让读者可以完成“本地 云端”混合式 LLM 工作流。1. 主流云端 API 模型一览下面是目前开发者最常用的几类云端大模型类型代表模型特点国际强模型GPT-4.1 / o1 / Claude 3.7推理最强、稳定性最高国内旗舰模型通义千问 Qwen-Max / Qwen-Plus中文任务强、成本适中国内高性价比模型DeepSeek V3 / R1 / Chat性价比极高、推理能力强其他云厂商模型文心 4.0 / 讯飞星火 / 腾讯混元SDK 完备、适合集成到企业系统API key必备申请API接口的流程通常包括以下步骤选择合适的API平台、注册并获取API密钥、阅读文档和示例代码、测试和集成。其中选择合适的API平台是最关键的一步因为不同的平台提供的API功能和支持可能有所不同。选择一个符合你需求的平台能大大提高开发效率和效果。获取方法:访问 ChatGPT 官方接口平台https://platform.openai.com较为麻烦且费用高支付方式不友好如果你本身就有就直接用用国内模型的官方接口便宜好用充值方便。如deepseek通义千问等DeepSeekhttps://platform.deepseek.com/usage**用第三方接口平台**https://sg.uiuiapi.com推荐使用注册免费送0.3美元的额度能 调用好几百次且聚合了多种模型足够测试使用3. 云端 API 调用示例OpenAI安装 SDK! pip install openai #安装openai包! pip install dotenv #安装读取环境变量的包从环境变量读取API KEY和BASEOPENAI_API_KEYsk-J #换成你的API KEYOPENAI_API_BASEhttps://sg.uiuiapi.com/v1 #用uiuiapi这行可以不用修改 plaintext import os# 加载 .env 文件load_dotenv(你的openai.env的绝对路径, overrideTrue)# 定义环境变量API_KEY os.getenv(OPENAI_API_KEY))API_BASE os.getenv(OPENAI_API_BASE))调用示例最新版用法from openai import OpenAI# 初始化 OpenAI 服务。client OpenAI( api_key API_KEY, # 换成你的API KEY base_url API_BASE # API 请求地址可以是 OpenAI 官网也可以是代理地址)# 调用 GPT-4o-mini 模型response client.chat.completions.create( model gpt-4o-mini, messages [{role: system, content: 用三句话介绍一下你自己}])print(response.choices[0].message.content)我是一个人工智能助手专注于提供信息和解决问题。我的目标是帮助用户找到所需的答案并提供有用的建议。无论你有什么问题我都会尽力为你提供支持。其它云端API的调用方法一样只需要替换.env文件里的API key 和URL即可。五、本地 云端用统一的“LLM 封装层”管理多个模型现实中我们经常会有这种需求• 日常小任务、本地模型够用• 关键任务、追求效果时用 GPT-4 / 更强的云端模型• 甚至根据任务自动选择翻译 → 某模型写代码 → 另一个模型这个时候比较推荐的做法是在自己项目里写一层统一的 LLM 封装对外只暴露一个方法def llm_chat(provider, prompt, **kwargs): ...比如简单示意# 定义chat_with_ollamadef chat_with_ollama(prompt, modeldeepseek-r1:1.5b): response client.chat( modelmodel, messages[ {role: user, content: prompt} ] ) return response[message][content]#定义chat_with_openaidef chat_with_openai(prompt, modelgpt-4.1-mini): client OpenAI(api_keyAPI_KEY, base_urlAPI_BASE) r client.chat.completions.create( modelmodel, messages[{role: user, content: prompt}] ) return r.choices[0].message.content#封装def llm_chat(provider, prompt, **kwargs): if provider ollama: return chat_with_ollama(prompt, modelkwargs.get(model, deepseek-r1:1.5b)) elif provider openai: return chat_with_openai(prompt, modelkwargs.get(model, gpt-4.1-mini)) else: raise ValueError(未知 provider请使用 ollama/openai/qwen/deepseek)这样你只需要在任务代码里写text llm_chat(ollama, 用三句话介绍一下你自己)code llm_chat(openai, 写一段 Python 代码计算1-100的和)print(文本回答, text)print(代码回答, code)输出结果文本回答 我是一个人工智能助手旨在帮助用户解答问题和提供信息。我的知识覆盖广泛从科学和技术到文化和历史。虽然我没有情感但我可以根据用户的需求提供有用的建议和支持。代码回答 pythontotal sum(range(1, 101))print(f1 到 100 的和是: {total}) plaintext 就完成了 **“本地 云端混合大模型架构”**。如何学习AI大模型如果你对AI大模型入门感兴趣那么你需要的话可以点击这里大模型重磅福利入门进阶全套104G学习资源包免费分享这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】这是一份大模型从零基础到进阶的学习路线大纲全览小伙伴们记得点个收藏第一阶段从大模型系统设计入手讲解大模型的主要方法第二阶段在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用第三阶段大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统第四阶段大模型知识库应用开发以LangChain框架为例构建物流行业咨询智能问答系统第五阶段大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型第六阶段以SD多模态大模型为主搭建了文生图小程序案例第七阶段以大模型平台应用与开发为主通过星火大模型文心大模型等成熟大模型构建大模型行业应用。100套AI大模型商业化落地方案大模型全套视频教程200本大模型PDF书籍学会后的收获• 基于大模型全栈工程实现前端、后端、产品经理、设计、数据分析等通过这门课可获得不同能力• 能够利用大模型解决相关实际项目需求 大数据时代越来越多的企业和机构需要处理海量数据利用大模型技术可以更好地处理这些数据提高数据分析和决策的准确性。因此掌握大模型应用开发技能可以让程序员更好地应对实际项目需求• 基于大模型和企业数据AI应用开发实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能 学会Fine-tuning垂直训练大模型数据准备、数据蒸馏、大模型部署一站式掌握• 能够完成时下热门大模型垂直领域模型训练能力提高程序员的编码能力 大模型应用开发需要掌握机器学习算法、深度学习框架等技术这些技术的掌握可以提高程序员的编码能力和分析能力让程序员更加熟练地编写高质量的代码。LLM面试题合集大模型产品经理资源合集大模型项目实战合集获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】