Groq API 免费使用教程

fatiery

+ ?2 b3 O, U" F; ~: A* r下面的内容是转载的

1. ## 第一步：获取 API
   
2. 1. 访问 https://console.groq.com/
   
3. 2. 完成注册并申请 API
   
4. 3. 保存获得的 API 密钥
   9 h- s* Q8 l' u6 V' l" ?* u6 V4 K
5. 
   . ~+ V( U4 j1 t& w0 |; i
6. ## 第二步：配置 NextChat
   5 h0 L  b9 m; B0 q
7. 1. 打开 https://app.nextchat.dev/
   " k  m1 ?- V: n% q' Y8 K% J% j7 l
8. 2. 在左侧设置中填入：
   
9.    - 接口地址：`https://api.groq.com/openai/`
   7 e& r1 k. L# o. r. e( U
10.    - API Key：填入之前获取的密钥
    5 b, _$ f8 C6 m0 @" f, A5 _
11.    - 自定义模型：`llama-3.3-70b-versatile`
    
12. 
    
13. ## 主要优势
      w4 `; U& `4 ^- j8 o- K
14. - 响应速度：200 Token/秒
    
15. - 性能表现：接近 GPT-4.0 水平
    5 B: S- f8 b9 I: K! S1 I" `0 \" t
16. - 完全免费使用
    
17. 
    + a# l$ J* w* Q, \& o8 ^2 X$ v
18. ## 使用限制
    5 l7 y. r! Q8 W
19. - 每分钟限额：6000 Token
    / U; i. Q% U9 J7 X- Y: a' e. E
20. - 每日 API 调用：14000 次
    , Q4 V5 X' }1 N! A$ M, y3 r' ~
21. - 足够普通用户日常使用

复制代码

$ H3 y- l, w  ]; M7 v9 X根据实际操作，NextChat这样还不行，下面是我自己的操作步骤详细化，仅供参考：
$ m0 T6 u8 M# }  i) D1. 点击左下角设置
2. 勾选自定义接口
3. 接口地址输入：https://api.groq.com/openai/
4. API Key输入：gsk_XXXX(你的API密钥)
0 f- s# n8 S: `7 g5 C5. 自定义模型输入：llama-3.3-70b-versatile
7 Y% b- e2 \: Y. H+ a7 {6. 模型 下拉 选择我们输入的 llama-3.3-70b-versatile
8 u! Z7 S' m! V2 o, b7 w3 f# f+ K
: Z- R  T  W6 g* o3 |这样就可以对话使用了，其实不止NextChat，其实有其他类似NextChat的程序，搭建网站供他人使用的，可以在Github找下。
2 O& d2 n: [8 `$ {! x% [% T9 Z2 E# D
) v0 P  Q% {- T9 w& C' Z# }! J当然这对直接能用ChatGPT的人来说，没啥用，重点就是它的免费API调用次数，对我们编程的人而言，结合自动化的程序，比如翻译、总结、改写等等，绝对量大管饱。
; u& c( m+ C- q9 t% m" M+ @" |& A
2 F9 Y4 K" `) [0 y官方教程
5 D" @7 B0 S1 v

1. export GROQ_API_KEY=<your-api-key-here>

复制代码

1. pip install groq

复制代码

1. import os
   
2. 
   
3. from groq import Groq
   * Y/ E$ a' x2 M, s/ L
4. 
   / ^$ \; H* b0 [' M
5. client = Groq(
     N$ k! S" v" G4 O8 d! c/ f) ^
6.     api_key=os.environ.get("GROQ_API_KEY"),
   2 v0 L: O) j8 t7 {: @3 K4 @) l
7. )
   
8. 
   # a9 D8 }6 X+ i' `1 z1 L
9. chat_completion = client.chat.completions.create(
   ( w& {. @1 l9 t2 K/ a. f
10.     messages=[
    + Z0 {' B' [! N; g' i
11.         {
    9 Z9 Y3 u  h6 ^. s+ w- J" J
12.             "role": "user",
    . |8 y" }# H. E( [7 H
13.             "content": "Explain the importance of fast language models",
    6 B: a# Z" N) Y- c- L, c! A
14.         }
    + y& p$ V2 A: P* `$ o9 y1 `) g
15.     ],
    9 e& o. e( H& i* N0 j0 L
16.     model="llama3-8b-8192",
    % O* A, U6 t8 w# N6 K6 A
17. )
    , @6 k7 @& N8 Y9 h% j1 l
18. 
    * D9 q8 m% ^/ {
19. print(chat_completion.choices[0].message.content)

复制代码

2 ~( v* y( Q" b8 `9 z* H. O实际使用：
+ \1 ]6 z: u% w" c  L0 W记得把模型 llama3-8b-8192 换为 llama-3.3-70b-versatile
5 ]8 k/ A' h( O
下面是我用过API提问，“llama-3.3-70b-versatile与llama3-8b-8192的区别，用中文回复” 的结果

1. LLaMA 是一种大语言模型，由 Meta AI 开发。LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 是 LLaMA 的两个不同版本，它们之间的区别主要体现在以下几方面：
   
2. 
   
3. 1. **模型大小**：LLaMA-3.3-70b-versatile 的参数量大约为 70 亿，而 LLaMA-3-8b-8192 的参数量大约为 8 亿。这意味着 LLaMA-3.3-70b-versatile 的模型规模比 LLaMA-3-8b-8192 大得多，通常来说，更大的模型对应着更强的表达能力和更好的性能。
   
4. 2. **计算资源**：由于 LLaMA-3-8b-8192 的模型大小相对较小，所需的计算资源也相对较少。这使得它可以在较低端的硬件上运行，包括一些个人电脑或较早的 GPU，而 LLaMA-3.3-70b-versatile 则需要更强大的计算资源来处理。
   : ^7 A6 D1 P' ?3 O6 ?2 {: N8 n, }- ~
5. 3. **性能差异**：一般来说，参数量更大的模型如 LLaMA-3.3-70b-versatile 在语言理解和生成任务上会表现更好，因为它能够捕捉到语言中更复杂和细致的模式。然而，性能的差异也取决于具体的应用场景和任务。
   1 u* y9 t) B' d. H7 v1 e- z
6. 4. **训练数据**：两个模型可能使用的训练数据集不同，尽管它们都是基于大规模语料库训练的，但数据的范围、深度和覆盖面可能有所不同，这也会影响它们的性能和适用范围。
   
7. 
   ! I. ]6 P) e; Q* Q- R1 C  \$ C" X
8. 总而言之，LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 之间的选择，主要取决于你的应用场景、可用的计算资源以及对模型性能的需求。如果需要更强大的语言处理能力且计算资源充足，较大的模型可能是一个更好的选择；如果计算资源有限或需要一个更轻量级的解决方案，较小的模型可能更合适。
   7 O  X  U( ^& Z9 {' G

复制代码

8 ?& g$ h- a9 e' c
* k: `( I- h- x# S7 r* ^% R+ W$ r) W因为比较急，即使简单的贴子也难免有错误的地方，大家请多担待，姑妄言之姑看之。

keepmoving

谢谢版主分享