前言
LlamaAI本地部署实战专栏第1篇
从云端API到私人AI时代,了解为什么本地大模型正在成为开发者的新选择。
一、从ChatGPT API到本地AI:大模型开发正在发生变化
2023年以来,大语言模型(Large Language Model,LLM)快速进入开发领域。
很多开发者第一次接触AI应用时,路线基本都是:
用户 | 你的应用 | OpenAI API / 云端大模型 | 返回结果这种方式简单、高效。
只需要调用一个接口:
from openai import OpenAI client = OpenAI( api_key="your_api_key" ) response = client.chat.completions.create( model="gpt-4", messages=[ { "role":"user", "content":"你好" } ] ) print(response.choices[0].message.content)几行代码,就拥有了一个强大的AI助手。
但是随着AI应用深入落地,越来越多问题开始暴露。