Groq API 免费使用教程

fatiery

, ^# u8 V4 M- d9 Y
! z) r( R2 L+ u' `1 O. ]下面的内容是转载的
( `! D- @6 E( D0 W/ J. _3 {5 ^
$ w) `6 \9 A5 D" k7 |+ {

1. ## 第一步：获取 API
   3 X0 d3 @* R6 I0 F; ?! P! Z# P9 p
2. 1. 访问 https://console.groq.com/
   
3. 2. 完成注册并申请 API
   * M  H# n6 {7 p' _
4. 3. 保存获得的 API 密钥
   : \: R$ [/ r  i2 S7 U& C
5. 
   
6. ## 第二步：配置 NextChat
   " m2 k& ^6 t3 h( G  i3 o0 d$ `
7. 1. 打开 https://app.nextchat.dev/
   ' F  s& g0 X+ n7 F( O1 |
8. 2. 在左侧设置中填入：
   . ?7 u' m, y! e7 c
9.    - 接口地址：`https://api.groq.com/openai/`
   7 e/ T, }" s) s( G: o; d3 Y: ]
10.    - API Key：填入之前获取的密钥
    
11.    - 自定义模型：`llama-3.3-70b-versatile`
    
12. 
    
13. ## 主要优势
    / S2 T  y+ U, K! S8 n% M
14. - 响应速度：200 Token/秒
    ; @# x" _  A% C
15. - 性能表现：接近 GPT-4.0 水平
    7 N0 P1 h$ S) F& N0 n# i
16. - 完全免费使用
    
17. 
    
18. ## 使用限制
    
19. - 每分钟限额：6000 Token
    1 h) \+ g# J5 F
20. - 每日 API 调用：14000 次
    
21. - 足够普通用户日常使用

复制代码

8 N( K- M+ u9 s! a- `6 G. B1 \
, m  I- _. h4 N9 ^: z0 ]根据实际操作，NextChat这样还不行，下面是我自己的操作步骤详细化，仅供参考：
& [+ q4 ?) {6 F0 t& V0 B1. 点击左下角设置
2. 勾选自定义接口
0 `) U" }3 [9 W5 C3. 接口地址输入：https://api.groq.com/openai/
/ J# E  y% ]+ }+ ?4. API Key输入：gsk_XXXX(你的API密钥)
5. 自定义模型输入：llama-3.3-70b-versatile
6. 模型 下拉 选择我们输入的 llama-3.3-70b-versatile
- ~9 O" A. H- @" [
这样就可以对话使用了，其实不止NextChat，其实有其他类似NextChat的程序，搭建网站供他人使用的，可以在Github找下。
4 i( [  t, h5 C5 m' E4 p
当然这对直接能用ChatGPT的人来说，没啥用，重点就是它的免费API调用次数，对我们编程的人而言，结合自动化的程序，比如翻译、总结、改写等等，绝对量大管饱。
' C8 k# M) b5 k' l
# ]# W3 M' Y9 ^1 E6 l2 x% n5 t( i官方教程

1. export GROQ_API_KEY=<your-api-key-here>

复制代码

1. pip install groq

复制代码

1. import os
   8 z( Q% [, z6 G" b) F# ^7 b
2. 
   
3. from groq import Groq
   
4. 
   
5. client = Groq(
   
6.     api_key=os.environ.get("GROQ_API_KEY"),
   
7. )
   ' C- Y0 a; X% T2 L' C8 V/ V
8. 
   ' p9 W* o' \. D# k: o) _+ V
9. chat_completion = client.chat.completions.create(
   ! f. C4 i4 t; P3 L7 B/ d5 j9 a
10.     messages=[
    
11.         {
    
12.             "role": "user",
    / B! _2 N& e4 q$ N$ m1 n
13.             "content": "Explain the importance of fast language models",
    ' k' Y# }0 H$ k, k0 g! D. t+ d
14.         }
    
15.     ],
    
16.     model="llama3-8b-8192",
    , E: _1 K! P4 G0 d1 r- {
17. )
    % f, d* R9 y5 n( l( e4 r$ @
18. 
    1 S  ~& V7 Y. T+ \- I& o
19. print(chat_completion.choices[0].message.content)

复制代码

* n2 A7 I- r* q; T
. k0 B- {& m3 Y5 C7 f' |实际使用：
, _2 U" \1 _' x4 G记得把模型 llama3-8b-8192 换为 llama-3.3-70b-versatile
( Q3 V& ?. h. l7 [9 Q
( a/ l- D# q! N9 T/ u7 w2 o下面是我用过API提问，“llama-3.3-70b-versatile与llama3-8b-8192的区别，用中文回复” 的结果
: B5 z7 w5 B! X- ^

1. LLaMA 是一种大语言模型，由 Meta AI 开发。LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 是 LLaMA 的两个不同版本，它们之间的区别主要体现在以下几方面：
   
2. 
   ) }: b1 u* R: Q# x& F- L. f5 g+ R
3. 1. **模型大小**：LLaMA-3.3-70b-versatile 的参数量大约为 70 亿，而 LLaMA-3-8b-8192 的参数量大约为 8 亿。这意味着 LLaMA-3.3-70b-versatile 的模型规模比 LLaMA-3-8b-8192 大得多，通常来说，更大的模型对应着更强的表达能力和更好的性能。
   
4. 2. **计算资源**：由于 LLaMA-3-8b-8192 的模型大小相对较小，所需的计算资源也相对较少。这使得它可以在较低端的硬件上运行，包括一些个人电脑或较早的 GPU，而 LLaMA-3.3-70b-versatile 则需要更强大的计算资源来处理。
   : D* p$ r4 i0 Q
5. 3. **性能差异**：一般来说，参数量更大的模型如 LLaMA-3.3-70b-versatile 在语言理解和生成任务上会表现更好，因为它能够捕捉到语言中更复杂和细致的模式。然而，性能的差异也取决于具体的应用场景和任务。
   7 X9 j! a! M2 c
6. 4. **训练数据**：两个模型可能使用的训练数据集不同，尽管它们都是基于大规模语料库训练的，但数据的范围、深度和覆盖面可能有所不同，这也会影响它们的性能和适用范围。
   
7. 
   
8. 总而言之，LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 之间的选择，主要取决于你的应用场景、可用的计算资源以及对模型性能的需求。如果需要更强大的语言处理能力且计算资源充足，较大的模型可能是一个更好的选择；如果计算资源有限或需要一个更轻量级的解决方案，较小的模型可能更合适。
   

复制代码

8 P+ i6 G& k3 N, x" k3 i
$ a' r3 m1 O* }3 C  i因为比较急，即使简单的贴子也难免有错误的地方，大家请多担待，姑妄言之姑看之。
0 j) v8 G/ y  |/ y# C! [

keepmoving

谢谢版主分享