当前位置: 首页 > news >正文

邢台网站建设报价多少钱wordpress yeti 主题

邢台网站建设报价多少钱,wordpress yeti 主题,网上接单做效果图哪个网站好,郑州专业做网站公司之前将ChatGLM6B模型下载到本地运行起来了#xff1a;ChatGLM3-6B上手体验#xff1b;如果想要用在项目中#xff0c;那么可以使用API调用的方式进行操作#xff0c;尤其当你的项目还是不同语言的异构的场景下#xff0c;其他服务需要调用的时候就可以直接通过请求服务来获…之前将ChatGLM6B模型下载到本地运行起来了ChatGLM3-6B上手体验如果想要用在项目中那么可以使用API调用的方式进行操作尤其当你的项目还是不同语言的异构的场景下其他服务需要调用的时候就可以直接通过请求服务来获取了。 1.运行API模式 ChatGLM3-6B的官方代码里有运行API的bat文件可以直接点击运行即可如果在Linux系统或者通过docker部署的方式运行可以运行openai_api_demo目录下的 openai_api.py文件。 模型默认运行在8000端口 2.接口介绍 接口url :http://127.0.0.1:8000/v1/chat/completions 请求参数 functions: functions, # 函数定义model: model, # 模型名称messages: messages, # 会话历史stream: use_stream, # 是否流式响应max_tokens: 100, # 最多生成字数temperature: 0.8, # 温度top_p: 0.8, # 采样概率请求的方式有流式和非流式请求对应请求参数中stream的True和False请求方式的处理可以参照官方给出的方法 import requests import jsonbase_url http://127.0.0.1:8000def create_chat_completion(model, messages, functions, use_streamFalse):data {functions: functions, # 函数定义model: model, # 模型名称messages: messages, # 会话历史stream: use_stream, # 是否流式响应max_tokens: 100, # 最多生成字数temperature: 0.8, # 温度top_p: 0.8, # 采样概率}response requests.post(f{base_url}/v1/chat/completions, jsondata, streamuse_stream)if response.status_code 200:if use_stream:# 处理流式响应for line in response.iter_lines():if line:decoded_line line.decode(utf-8)[6:]try:response_json json.loads(decoded_line)content response_json.get(choices, [{}])[0].get(delta, {}).get(content, )print(content)except:print(Special Token:, decoded_line)else:# 处理非流式响应decoded_line response.json()content decoded_line.get(choices, [{}])[0].get(message, ).get(content, )print(content)else:print(Error:, response.status_code)return None3.不同的调用方式 ChatGLM3支持工具调用api接口也支持了这一特性 简单对话 def simple_chat(use_streamTrue):functions Nonechat_messages [{role: system,content: You are ChatGLM3, a large language model trained by Zhipu.AI. Follow the users instructions carefully. Respond using markdown.,},{role: user,content: 你好给我讲一个故事大概100字}]create_chat_completion(chatglm3-6b, messageschat_messages, functionsfunctions, use_streamuse_stream) 工具调用 def function_chat(use_streamTrue):functions [{name: get_current_weather,description: Get the current weather in a given location.,parameters: {type: object,properties: {location: {type: string,description: The city and state, e.g. Beijing,},unit: {type: string, enum: [celsius, fahrenheit]},},required: [location],},}]chat_messages [{role: user,content: 波士顿天气如何,},{role: assistant,content: get_current_weather\n python\ntool_call(locationBeijing, unitcelsius)\n,function_call: {name: get_current_weather,arguments: {location: Beijing, unit: celsius},},},{role: function,name: get_current_weather,content: {temperature: 12, unit: celsius, description: Sunny},},# ... 接下来这段是 assistant 的回复和用户的回复。# {# role: assistant,# content: 根据最新的天气预报目前北京的天气情况是晴朗的温度为12摄氏度。,# },# {# role: user,# content: 谢谢,# }]create_chat_completion(chatglm3-6b, messageschat_messages, functionsfunctions, use_streamuse_stream) 命令行调用测试 def chatincmd(use_streamTrue):while True:functions Nonecontent input(Question:)chat_messages [{role: user,content: content}]create_chat_completion(chatglm3-6b, messageschat_messages, functionsfunctions, use_streamuse_stream)
http://wiki.neutronadmin.com/news/223215/

相关文章:

  • 建设信用卡商城网站网页设计心得体会大二
  • 无忧网汕头seo服务
  • 宁波网站制作维护小说网站怎么做不违法
  • 报价网站系统劳务外包和劳务派遣
  • 山西省住房城乡建设厅门户网站网站怎么做下载链接
  • 湖州市城乡建设局网站百度影响力排名顺序
  • 那个网站做的好dedecms两网站共享用户名
  • 青海旅游网站建设方案百度贴吧怎么发广告
  • c 教学网站开发深圳网站建设公司市场
  • 建网站商城在哪做湖南网站建设 莫道
  • 天津网站建设案例教程新动力网站建设
  • 网站设计 app开发免费企业网页申请制作步骤
  • 什么网站上面能接点小活做网上注册公司营业执照注册流程
  • 什么网站做ppt分销网站开发合同
  • 外贸网站建设 推广dede织梦做的网站 栏目页有切换js 怎么循环子栏目 调子栏目
  • 网站建设优化开发公司有固定ip自己做网站
  • 网站备案 地址wordpress如何设置成伪静态页面
  • 娄底市建设局网站wordpress 不显示评论
  • 模板堂网站源码加强网站网络安全建设方案
  • 营销软件网站什么是网络营销渠道中最重要的中间商
  • 小企业网站建设的小知识网站建设是半年的持久战
  • 网站建设销售合同广州南站在哪个区
  • 网上购物网站建设需求学校网页设计模板html代码免费
  • o2o商城网站建设方案前端网站开发心得体会
  • wordpress评论删除站点重庆渝云建设有限公司
  • 广东工程建设咨询有限公司网站建设网站要注意什么问题
  • 绿色学校网站模板wordpress 付款插件
  • 上线了怎么做网站东营+网站建设
  • 用服务器ip怎么做网站哈尔滨市建设工程交易信息网
  • 北京网站设计的公司企业网站管理系统用哪个好