微软开源TypeChat库，给狂语言模子换种揭示，一行代码装置-Barlow Edison网

当前位置：首页 > 百科 > 微软开源TypeChat库，给狂语言模子换种揭示，一行代码装置正文

微软开源TypeChat库，给狂语言模子换种揭示，一行代码装置

时间：2024-11-19 13:28:07 来源：Barlow Edison网作者：知识阅读：604次

借助 TypeChat ，微软可能很简略地取患上规范精采的开源库给狂语妄想化数据。

在以前的言模多少个月里，咱们已经见证了环抱最新一波狂语言模子掀起的换种品评辩说热潮。良多人以对于话的揭示方式与大模子妨碍交流，这也是行代最直接的方式。

但这一方式面临一个下场：若何将这些模子最佳地集成到现有的码装运用挨次界面中依然存在很大的下场。

换句话说，微软咱们若何运用家养智能将用户的开源库给狂语恳求转化为运用挨次可能处置的内容？以及咱们若何确保咱们的运用挨次是清静的，而且妨碍的言模使命可能闪开拓者以及用户都信托？

为了处置上述下场，微软开源了一个名为 TypeChat 的换种试验性库，它可能很简略地取患上规范精采的揭示妄想化数据，其在做作语言与运用挨次方式（application schema）以及 API 之间建树起了一座桥梁。行代

名目地址：https://github.com/Microsoft/TypeChat

当初，码装TypeChat 已经与 OpenAI API 以及 Azure OpenAI 效率妨碍了一些颇为根基的微软集成。

网友展现：「借助 TypeChat，AI 能输入精确的 JSON 以与人类研发的零星集成。」

「TypeChat 将 prompt 工程交流为 schema 工程：无需编写非妄想化的做作语言 prompt 来形貌所需输入的格式，而是编写 TS 规范界说。」

尚有网友展现 TypeChat 是迈向未来的一大步。

TypeChat 介绍

惟独一行代码就能启动并运行 TypeChat：

至于为甚么构建 TypeChat 库，微软展现，争祖先们可能与 LLM 妨碍对于话交流，在这之中，需要剖析语言，可是，人类输入的语言以及 LLM 清晰的语言在妄想上差距很大，典型的软件很难从原始文本中重修语言。

TypeChat 可能辅助 LLM 以 JSON 的方式照应，而且照应服从颇为公平：好比用户要求将这句话「我可能要一份蓝莓松饼以及一杯特级拿铁咖啡吗？」转化成 JSON 格式，TypeChat 照应服从如下：

微软展现，他们不断在揭示符中运用 TypeScript 规范，可能说，给定一个揭示以及 TS 规范，谈天机械人就会运用这些规范计划一个新揭示：

如下是将 TypeChat 衔接到 LLM 并判断句子能招供、中性仍是确定的根基代码。

//./src/sentimentSchema.ts// The following is a schema definition for determining the sentiment of a some user input.export interface SentimentResponse { /** The sentiment of the text. */sentiment: "negative" | "neutral" | "positive";}

//./src/main.tsimport * as fs from "fs";import * as path from "path";import dotenv from "dotenv";import * as typechat from "typechat";import { SentimentResponse} from "./sentimentSchema";// Load environment variables.dotenv.config ({  path: path.join (__dirname, "../.env") });// Create a language model based on the environment variables.const model = typechat.createLanguageModel (process.env);// Load up the contents of our "Response" schema.const schema = fs.readFileSync (path.join (__dirname, "sentimentSchema.ts"), "utf8");const translator = typechat.createJsonTranslator(model, schema, "SentimentResponse");// Process requests interactively.typechat.processRequests ("😀>", /*inputFile*/undefined, async (request) => { const response = await translator.translate (request);if (!response.success) { console.log (response.message);return;}console.log (`The sentiment is ${ response.data.sentiment}`);});