Groq API 免费使用教程

fatiery

下面的内容是转载的
6 K! x/ a; d6 I+ P7 }/ f0 S
0 S8 e) b$ Y& b! a% O6 u; b

1. ## 第一步：获取 API
   
2. 1. 访问 https://console.groq.com/
   
3. 2. 完成注册并申请 API
   4 Y5 J) O; e3 {5 R6 h* ?
4. 3. 保存获得的 API 密钥
   + N* Y- l1 r" t% Z9 e% |
5. 
   ' N6 b0 |# t1 B. |' \- |) q
6. ## 第二步：配置 NextChat
   
7. 1. 打开 https://app.nextchat.dev/
   + X7 \% l& j; ^1 Y! `+ R  K
8. 2. 在左侧设置中填入：
   
9.    - 接口地址：`https://api.groq.com/openai/`
   ) }* W4 n0 H5 q8 N" W$ C* J
10.    - API Key：填入之前获取的密钥
    
11.    - 自定义模型：`llama-3.3-70b-versatile`
    
12. 
    ) N, {. u( s& v! w
13. ## 主要优势
    
14. - 响应速度：200 Token/秒
    6 W# K6 G3 o& a) B0 Z
15. - 性能表现：接近 GPT-4.0 水平
    , o3 L) Q7 W: D+ W; Z* G
16. - 完全免费使用
    ' O7 T* x- ]# i3 t8 Z& w( E+ {5 e
17. 
    
18. ## 使用限制
    
19. - 每分钟限额：6000 Token
    . f2 p( V' p0 `6 K" s( G# g
20. - 每日 API 调用：14000 次
    
21. - 足够普通用户日常使用

复制代码

根据实际操作，NextChat这样还不行，下面是我自己的操作步骤详细化，仅供参考：
1. 点击左下角设置
  P3 U$ i: V& g5 D* V2. 勾选自定义接口
9 J' v5 q/ b) n2 p% G! @3. 接口地址输入：https://api.groq.com/openai/
/ T3 `" a( q6 c& v0 Z; S$ f/ t6 z4. API Key输入：gsk_XXXX(你的API密钥)
& m  }2 \' L$ f: a- Q5. 自定义模型输入：llama-3.3-70b-versatile
6. 模型 下拉 选择我们输入的 llama-3.3-70b-versatile

这样就可以对话使用了，其实不止NextChat，其实有其他类似NextChat的程序，搭建网站供他人使用的，可以在Github找下。
& m; k& ]3 t( r! z& n7 S
/ p; X& l/ C6 |当然这对直接能用ChatGPT的人来说，没啥用，重点就是它的免费API调用次数，对我们编程的人而言，结合自动化的程序，比如翻译、总结、改写等等，绝对量大管饱。
. `, y" d, ~0 n' r- A
: b# N1 Y$ T# K: A; Q官方教程
+ m0 R1 H/ ]% U3 ^

1. export GROQ_API_KEY=<your-api-key-here>

复制代码

1. pip install groq

复制代码

1. import os
   5 Q% u7 N" R  k( m
2. 
   * r9 F8 N" v% a% a% a& d$ @$ V( D* O
3. from groq import Groq
   7 h. t; s) n  Q. I2 }( z4 Y) n
4. 
   
5. client = Groq(
   
6.     api_key=os.environ.get("GROQ_API_KEY"),
   ' D( [. k3 i2 y0 ?
7. )
   % y( j2 O, B+ x, H  t
8. 
   
9. chat_completion = client.chat.completions.create(
   " P2 \* V7 A' `" A  l4 k: X6 O+ ^% G
10.     messages=[
    ! t: G0 T" h+ |0 a2 h5 j
11.         {
    
12.             "role": "user",
    $ o" b& M' k0 H' f' E7 N* [
13.             "content": "Explain the importance of fast language models",
    6 R; K  ?! }4 {! L, a: W
14.         }
    
15.     ],
    , U) F: d" s* \1 [
16.     model="llama3-8b-8192",
    % Q& m6 Q: ~+ W( l0 b
17. )
    1 S9 @7 m  e0 W
18. 
    
19. print(chat_completion.choices[0].message.content)

复制代码

实际使用：
. w) o8 W6 w* B. s6 l6 E记得把模型 llama3-8b-8192 换为 llama-3.3-70b-versatile

下面是我用过API提问，“llama-3.3-70b-versatile与llama3-8b-8192的区别，用中文回复” 的结果
! Y) T& Q6 O0 L2 F: }$ E6 W4 T# F

1. LLaMA 是一种大语言模型，由 Meta AI 开发。LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 是 LLaMA 的两个不同版本，它们之间的区别主要体现在以下几方面：
   - M: z( I* R: q; F
2. 
   
3. 1. **模型大小**：LLaMA-3.3-70b-versatile 的参数量大约为 70 亿，而 LLaMA-3-8b-8192 的参数量大约为 8 亿。这意味着 LLaMA-3.3-70b-versatile 的模型规模比 LLaMA-3-8b-8192 大得多，通常来说，更大的模型对应着更强的表达能力和更好的性能。
   5 H7 B+ a' \1 S# `% j0 {) w* c
4. 2. **计算资源**：由于 LLaMA-3-8b-8192 的模型大小相对较小，所需的计算资源也相对较少。这使得它可以在较低端的硬件上运行，包括一些个人电脑或较早的 GPU，而 LLaMA-3.3-70b-versatile 则需要更强大的计算资源来处理。
   
5. 3. **性能差异**：一般来说，参数量更大的模型如 LLaMA-3.3-70b-versatile 在语言理解和生成任务上会表现更好，因为它能够捕捉到语言中更复杂和细致的模式。然而，性能的差异也取决于具体的应用场景和任务。
   
6. 4. **训练数据**：两个模型可能使用的训练数据集不同，尽管它们都是基于大规模语料库训练的，但数据的范围、深度和覆盖面可能有所不同，这也会影响它们的性能和适用范围。
     [1 X% c) w, A. G3 x  }& N
7. 
   3 \2 _7 @+ r2 U- \4 e: R1 P
8. 总而言之，LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 之间的选择，主要取决于你的应用场景、可用的计算资源以及对模型性能的需求。如果需要更强大的语言处理能力且计算资源充足，较大的模型可能是一个更好的选择；如果计算资源有限或需要一个更轻量级的解决方案，较小的模型可能更合适。
   

复制代码

# W( r% o2 p0 j2 v  A3 x4 y- _因为比较急，即使简单的贴子也难免有错误的地方，大家请多担待，姑妄言之姑看之。

  |$ ~7 Y* v0 h0 x1 z

keepmoving

谢谢版主分享