微软开源TypeChat库,给大语言模型换种提示,一行代码安装
在过去的几个月里,我们已经见证了围绕最新一波大语言模型掀起的讨论热潮。很多人以对话的方式与大模型进行交流,这也是最直接的方式。
但这一方式面临一个问题:如何将这些模型最好地集成到现有的应用程序界面中仍然存在很大的问题。
换句话说,我们如何利用人工智能将用户的请求转化为应用程序能够处理的内容?以及我们如何确保我们的应用程序是安全的,并且进行的工作可以让开发者和用户都信赖?
为了解决上述问题,微软开源了一个名为 TypeChat 的实验性库,它可以很容易地获得类型良好的结构化数据, 其在自然语言与应用程序模式(application schema)和 API 之间建立起了一座桥梁。
项目地址:https://github.com/Microsoft/TypeChat
目前,TypeChat 已经与 OpenAI API 和 Azure OpenAI 服务进行了一些非常基本的集成。
网友表示:「借助 TypeChat,AI 能输出准确的 JSON 以与人类研发的系统集成。」
「TypeChat 将 prompt 工程替换为 schema 工程:无需编写非结构化的自然语言 prompt 来描述所需输出的格式,而是编写 TS 类型定义。」
还有网友表示 TypeChat 是迈向未来的一大步。
TypeChat 介绍
只需一行代码就能启动并运行 TypeChat:
至于为何构建 TypeChat 库,微软表示,当前人们可以与 LLM 进行对话交流,在这当中,需要解析语言,然而,人类输入的语言和 LLM 理解的语言在结构上差别很大,典型的软件很难从原始文本中重建语言。
TypeChat 可以帮助 LLM 以 JSON 的形式响应,并且响应结果非常合理:例如用户要求将这句话「我可以要一份蓝莓松饼和一杯特级拿铁咖啡吗?」转化成 JSON 格式,TypeChat 响应结果如下:
微软表示,他们一直在提示符中使用 TypeScript 类型,可以说,给定一个提示和 TS 类型,聊天机器人就会使用这些类型构造一个新提示:
以下是将 TypeChat 连接到 LLM 并确定句子是否定、中性还是肯定的基本代码。
TypeChat 可以以多种不同的方式使用。目前微软讨论的方式主要是使用数据模式将用户意图转换为结构化响应;然而,TypeChat 还可以使用 API 模式来构建基本程序。
想要体验的小伙伴,可以上手试试了。
最近更新教育平台
- 河南出台28个重点产业链行动方案
- 玉林工务段聚力抗击台风“三巴”保障安全
- 2023下半年广西英语四级考试时间具体安排
- 【邀请函】11月29日,北京物资学院2024届毕业生秋招校园双选会(第三场)
- “超级稻”亩产809公斤!江苏省第一家水韵苏米“三品一标”示范基地诞生
- 北京市第八中学京西附属小学 院士开讲“太阳风暴”向学生发出科研“邀请”
- 多地高考报名时间提前 专家:考生把握好自己的学习节奏
- 光谷一街道就业超市开17家“连锁店”,专为60、70后待岗居民“供货”
- 思政有深度,育人有温度——郑州市第四十七中学管城三中校区开展中小学“思政一体化”
- 创新风潮迭起,2023深圳国际金融科技大赛——西丽湖金融科技大学生挑战赛正式启动
- 一图读懂丨上海松江新城“十四五” 规划出炉
- 美国众议院选举第二轮投票依旧无果 众议院仍处混乱状态
- [浦东]竹园小学:长岛|弘扬科学精神,X沪东“科堂”公益科普活动激发科学梦想
- 导读:郑州妇科医院排名公布
- 第六届进博会期间,上海部分道路和区域采取临时交通管制措施
- 热搜第一,王楚钦深夜发声!
- 成人自考本科通过率高吗?
- 打造雄安家门口的名校名院 “三校一院”平稳运行
- 弘一法师李叔同的《送别》:城南草堂结下天涯五友,挚友阔别留下传世之曲
- 早参|神舟十七号瞄准今日11时14分发射;2024年广州中考报名准备工作开启
- 人社部回应身份证和档案年龄不同退休依据哪个算
- 新银发族“求知若渴” 老年大学如何满足?
- 女子结婚要求前同事还礼400引热议,当事人:发了两次请帖,对方一直不理,后来还说
- 教师批学生对日不当称谓:怒拍桌子给学生们上了一课
- 英伟达将与鸿海共建AI工厂,涉及智能电动汽车、自主移动机器人等项目