Groq API 免费使用教程

fatiery

. G$ |! b' t" _4 O" c, P- w
$ p% J3 ?6 k5 x$ y下面的内容是转载的
2 O- {6 q/ L' Y) c8 H' Y
9 Q9 {# Q1 `; s6 b0 ], ]0 A! i0 U

1. ## 第一步：获取 API
   
2. 1. 访问 https://console.groq.com/
   / C% P" C# X4 u) I$ v
3. 2. 完成注册并申请 API
   * j6 r2 x! |% @. d! A- C! B6 x. S
4. 3. 保存获得的 API 密钥
   ! l+ I& X# O6 t5 ]9 v0 c0 X
5. 
   8 N4 a" M, M" e7 k2 b5 O
6. ## 第二步：配置 NextChat
   
7. 1. 打开 https://app.nextchat.dev/
   
8. 2. 在左侧设置中填入：
   % G! W0 w2 q' k/ J1 W8 x
9.    - 接口地址：`https://api.groq.com/openai/`
   7 @, t+ O# \3 x7 X9 }8 h
10.    - API Key：填入之前获取的密钥
    
11.    - 自定义模型：`llama-3.3-70b-versatile`
    9 q3 \2 q" \' o8 B5 R5 e
12. 
    1 y$ _( W, \  ?* t) w  z
13. ## 主要优势
    0 P/ O- h# L. y2 L0 Y
14. - 响应速度：200 Token/秒
    ! v& G1 F- E" c
15. - 性能表现：接近 GPT-4.0 水平
    + w' n9 C7 l; ]3 r
16. - 完全免费使用
    
17. 
    
18. ## 使用限制
      t# ^' A' z! J) \
19. - 每分钟限额：6000 Token
    
20. - 每日 API 调用：14000 次
    
21. - 足够普通用户日常使用

复制代码

7 H7 e8 y4 G' [4 H7 `# G5 T& y根据实际操作，NextChat这样还不行，下面是我自己的操作步骤详细化，仅供参考：
1. 点击左下角设置
2. 勾选自定义接口
3. 接口地址输入：https://api.groq.com/openai/
4. API Key输入：gsk_XXXX(你的API密钥)
5. 自定义模型输入：llama-3.3-70b-versatile
: u: Q4 X0 w- F9 S. L) E" h3 x6. 模型 下拉 选择我们输入的 llama-3.3-70b-versatile

这样就可以对话使用了，其实不止NextChat，其实有其他类似NextChat的程序，搭建网站供他人使用的，可以在Github找下。

% V5 V" k) B/ q* v2 K/ I/ o" @( ?$ J当然这对直接能用ChatGPT的人来说，没啥用，重点就是它的免费API调用次数，对我们编程的人而言，结合自动化的程序，比如翻译、总结、改写等等，绝对量大管饱。
: C9 R6 j' ?8 e( ~, Y- O. D( @5 _
) I0 q1 ?  D: o( ~* u' {8 X官方教程
5 p. L. U7 h. Z8 y0 ], V

1. export GROQ_API_KEY=<your-api-key-here>

复制代码

1. pip install groq

复制代码

1. import os
   
2. 
     g( K# V3 C7 S6 N3 y# F$ @
3. from groq import Groq
   ( b# I  N0 X4 {# E# Z7 T
4. 
   9 O& R  Q* i# Y/ c* F8 ~$ \3 Y
5. client = Groq(
   : Y) N! o9 q( N; y5 A* {% ?, h
6.     api_key=os.environ.get("GROQ_API_KEY"),
   
7. )
   
8. 
   
9. chat_completion = client.chat.completions.create(
   / H9 _  ]7 V+ q- u  h9 J! w/ Q8 ?
10.     messages=[
      W2 z% X0 a2 N) `. \( x
11.         {
    
12.             "role": "user",
    & |1 O9 O- D, `: M) n; M. j" y
13.             "content": "Explain the importance of fast language models",
    
14.         }
    0 q) I# h5 p8 @! U& G
15.     ],
    ) H4 s& ?! B4 [% S$ [! q3 e6 H
16.     model="llama3-8b-8192",
    
17. )
    
18. 
    ) }2 Z+ v: s. P* w, F  s! H
19. print(chat_completion.choices[0].message.content)

复制代码

实际使用：
记得把模型 llama3-8b-8192 换为 llama-3.3-70b-versatile

/ u* {% F3 a2 H5 f& m. F1 y& G. L下面是我用过API提问，“llama-3.3-70b-versatile与llama3-8b-8192的区别，用中文回复” 的结果

1. LLaMA 是一种大语言模型，由 Meta AI 开发。LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 是 LLaMA 的两个不同版本，它们之间的区别主要体现在以下几方面：
   $ I! x6 M: ?# ~- R! V# T7 E( ^
2. 
   
3. 1. **模型大小**：LLaMA-3.3-70b-versatile 的参数量大约为 70 亿，而 LLaMA-3-8b-8192 的参数量大约为 8 亿。这意味着 LLaMA-3.3-70b-versatile 的模型规模比 LLaMA-3-8b-8192 大得多，通常来说，更大的模型对应着更强的表达能力和更好的性能。
   
4. 2. **计算资源**：由于 LLaMA-3-8b-8192 的模型大小相对较小，所需的计算资源也相对较少。这使得它可以在较低端的硬件上运行，包括一些个人电脑或较早的 GPU，而 LLaMA-3.3-70b-versatile 则需要更强大的计算资源来处理。
   4 q3 b) d) m: B
5. 3. **性能差异**：一般来说，参数量更大的模型如 LLaMA-3.3-70b-versatile 在语言理解和生成任务上会表现更好，因为它能够捕捉到语言中更复杂和细致的模式。然而，性能的差异也取决于具体的应用场景和任务。
   5 j8 o9 q/ |7 h1 r+ [1 d& U3 f# h
6. 4. **训练数据**：两个模型可能使用的训练数据集不同，尽管它们都是基于大规模语料库训练的，但数据的范围、深度和覆盖面可能有所不同，这也会影响它们的性能和适用范围。
   % j( N4 L) N8 R& D' R. `: \! A
7. 
   
8. 总而言之，LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 之间的选择，主要取决于你的应用场景、可用的计算资源以及对模型性能的需求。如果需要更强大的语言处理能力且计算资源充足，较大的模型可能是一个更好的选择；如果计算资源有限或需要一个更轻量级的解决方案，较小的模型可能更合适。
   

复制代码

3 {' Y/ w4 v3 {8 m/ g0 F2 r+ s3 c因为比较急，即使简单的贴子也难免有错误的地方，大家请多担待，姑妄言之姑看之。

keepmoving

谢谢版主分享