中文网站建设英文网站建设,百度免费推广有哪些方式,湖州网站设计平台,嵌入式软件开发培训班文心一言#xff08;英文名#xff1a;ERNIE Bot#xff09;是百度全新一代知识增强大语言模型#xff0c;文心大模型家族的新成员#xff0c;能够与人对话互动、回答问题、协助创作#xff0c;高效便捷地帮助人们获取信息、知识和灵感。文心一言从数万亿数据和数千亿知识… 文心一言英文名ERNIE Bot是百度全新一代知识增强大语言模型文心大模型家族的新成员能够与人对话互动、回答问题、协助创作高效便捷地帮助人们获取信息、知识和灵感。文心一言从数万亿数据和数千亿知识中融合学习得到预训练大模型在此基础上采用有监督精调、人类反馈强化学习、提示等技术具备知识增强、检索增强和对话增强的技术优势。 本文使用gradio开发一个简单的对话页面使用的大模型是文心一言。
一、获取token
百度的aistudio平台提供免费的文心一言调用token每个用户100W个点击token 在我的令牌可以看到token 后续会用到该token请将代码中的token更换成自己的token。
二、编写代码
创建文件erniebot_test.py代码如下请将erniebot.access_token替换为自己的token
import gradio as gr
import random
import time
import osimport erniebot
import gradio as grdef predict(content, his):if len(his)0 and isinstance(his[0], list):his his[0]erniebot.api_type aistudioerniebot.access_token xxx # 替换为自己的tokenmessage []for idx, msg in enumerate(his):if idx % 2 0:message.append({role: user,content: msg,})else:message.append({role: assistant,content: msg,})message.append({role: user,content: content,})response erniebot.ChatCompletion.create(modelernie-bot, messagesmessage)return response.resultwith gr.Blocks() as demo:chatbot gr.Chatbot()msg gr.Textbox()clear gr.ClearButton([msg, chatbot])def respond(message, chat_history):bot_message predict(message, chat_history)chat_history.append((message, bot_message))return , chat_historymsg.submit(respond, [msg, chatbot], [msg, chatbot])if __name__ __main__:demo.launch(inbrowserTrue, server_port80, shareTrue, server_name0.0.0.0)
三、创建环境
您可以参考【深度学习实践】换脸应用dofaker本地部署中的anaconda安装教程完成anaconda的安装。
创建虚拟环境erniebot_test :
conda create -n erniebot_test python3.10
如下图提示输入Y/N时输入y 进入该虚拟环境
conda activate erniebot_test
如下图 安装依赖
pip install -U erniebot -i https://mirrors.aliyun.com/pypi/simple/
pip install -U gradio -i https://mirrors.aliyun.com/pypi/simple/
运行代码
python erniebot_test.py
如下图 浏览器打开127.0.0.1即可
在下方的文本框输入按回车开启对话
