Groq API 免费使用教程

fatiery

0 F$ K" Z+ N- W/ S9 O% B7 w; w
# g' {4 d0 Q( R# F) u下面的内容是转载的

1 x# C3 t/ k# |, E8 p( F/ p

1. ## 第一步：获取 API
   + }3 E3 [) ^1 U# o# n0 {
2. 1. 访问 https://console.groq.com/
   
3. 2. 完成注册并申请 API
   $ ~0 H1 F5 Y/ x
4. 3. 保存获得的 API 密钥
   " X' V% i$ W* ?- P
5. 
   9 H5 I: n  w. `( v
6. ## 第二步：配置 NextChat
   3 A" w7 E% |3 `, }+ e
7. 1. 打开 https://app.nextchat.dev/
   2 }( K3 a4 Y4 v) K1 f0 S1 A  O1 U' U* ^
8. 2. 在左侧设置中填入：
   
9.    - 接口地址：`https://api.groq.com/openai/`
   2 ?6 ~% k' m& b  t( y6 x1 Q9 O
10.    - API Key：填入之前获取的密钥
    0 l4 |- w# n% t. w' R6 @- U- G
11.    - 自定义模型：`llama-3.3-70b-versatile`
    
12. 
    # r! X6 \  o6 F1 v4 o4 l
13. ## 主要优势
    
14. - 响应速度：200 Token/秒
    + X+ E# t& M6 F) R6 S+ V$ g
15. - 性能表现：接近 GPT-4.0 水平
    - ~4 C7 p1 N5 F6 u" D1 [
16. - 完全免费使用
    
17. 
    / m6 h! c# k  I/ u# ^
18. ## 使用限制
    2 R) B. U" }1 D8 L+ x, D5 A; x
19. - 每分钟限额：6000 Token
    6 @* f# W% s) A! b0 K! \% C6 `" G4 d6 v
20. - 每日 API 调用：14000 次
    
21. - 足够普通用户日常使用

复制代码

2 N6 a! B# g+ t* ~0 ~根据实际操作，NextChat这样还不行，下面是我自己的操作步骤详细化，仅供参考：
0 L0 A( s( Q1 m! P, g7 ^% C7 N1. 点击左下角设置
) J( r3 ~2 [8 P4 J- V( O2. 勾选自定义接口
* j' o' D; b4 b3. 接口地址输入：https://api.groq.com/openai/
% b- ~7 u0 t! h8 Y$ h: v4. API Key输入：gsk_XXXX(你的API密钥)
) c2 q7 J; ^, D* A' U5. 自定义模型输入：llama-3.3-70b-versatile
- y5 V8 m9 `# m6. 模型 下拉 选择我们输入的 llama-3.3-70b-versatile

这样就可以对话使用了，其实不止NextChat，其实有其他类似NextChat的程序，搭建网站供他人使用的，可以在Github找下。

( U* g! r9 D' w2 L. A当然这对直接能用ChatGPT的人来说，没啥用，重点就是它的免费API调用次数，对我们编程的人而言，结合自动化的程序，比如翻译、总结、改写等等，绝对量大管饱。
0 H+ c1 l" r" [% K& q' R: k- A
/ [8 ~; Q- \& l; ^8 c1 }1 \官方教程

1. export GROQ_API_KEY=<your-api-key-here>

复制代码

1. pip install groq

复制代码

1. import os
   
2. 
   
3. from groq import Groq
   0 i8 [: s5 Q" `( n
4. 
   / L- \. `! q+ B- {6 n3 a
5. client = Groq(
   % q* r4 ?2 j! z
6.     api_key=os.environ.get("GROQ_API_KEY"),
   
7. )
   . [+ ?! _) b% p/ |5 ]* Z
8. 
   
9. chat_completion = client.chat.completions.create(
   
10.     messages=[
      \, q2 E$ w6 Y' o
11.         {
    ! Y! W1 t2 W5 e, @3 m, u
12.             "role": "user",
    + L" I3 x8 s6 q8 _  v' ?7 u8 p5 s
13.             "content": "Explain the importance of fast language models",
    ! D3 z6 H( Q+ I7 s$ p" J
14.         }
    
15.     ],
    & s' L# }8 h) I3 r" f# A
16.     model="llama3-8b-8192",
    
17. )
    
18. 
    : V7 U8 q" T- {* \1 h; o
19. print(chat_completion.choices[0].message.content)

复制代码

& {8 [6 `* k7 [
实际使用：
3 S  r4 Q; e; J) B6 _记得把模型 llama3-8b-8192 换为 llama-3.3-70b-versatile

2 t3 N( d# S7 ]7 T下面是我用过API提问，“llama-3.3-70b-versatile与llama3-8b-8192的区别，用中文回复” 的结果

1. LLaMA 是一种大语言模型，由 Meta AI 开发。LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 是 LLaMA 的两个不同版本，它们之间的区别主要体现在以下几方面：
   
2. 
   * H; u. a- X# r" e7 W, B; ?2 A+ Q
3. 1. **模型大小**：LLaMA-3.3-70b-versatile 的参数量大约为 70 亿，而 LLaMA-3-8b-8192 的参数量大约为 8 亿。这意味着 LLaMA-3.3-70b-versatile 的模型规模比 LLaMA-3-8b-8192 大得多，通常来说，更大的模型对应着更强的表达能力和更好的性能。
   : J. g. A/ x# p1 v6 T2 Q
4. 2. **计算资源**：由于 LLaMA-3-8b-8192 的模型大小相对较小，所需的计算资源也相对较少。这使得它可以在较低端的硬件上运行，包括一些个人电脑或较早的 GPU，而 LLaMA-3.3-70b-versatile 则需要更强大的计算资源来处理。
   
5. 3. **性能差异**：一般来说，参数量更大的模型如 LLaMA-3.3-70b-versatile 在语言理解和生成任务上会表现更好，因为它能够捕捉到语言中更复杂和细致的模式。然而，性能的差异也取决于具体的应用场景和任务。
   
6. 4. **训练数据**：两个模型可能使用的训练数据集不同，尽管它们都是基于大规模语料库训练的，但数据的范围、深度和覆盖面可能有所不同，这也会影响它们的性能和适用范围。
   & f- W2 y: F& ]4 W0 O9 @1 d4 F: p
7. 
   $ _' k# T' D0 i8 W6 }
8. 总而言之，LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 之间的选择，主要取决于你的应用场景、可用的计算资源以及对模型性能的需求。如果需要更强大的语言处理能力且计算资源充足，较大的模型可能是一个更好的选择；如果计算资源有限或需要一个更轻量级的解决方案，较小的模型可能更合适。
   - d8 p6 a: y- w/ o

复制代码

因为比较急，即使简单的贴子也难免有错误的地方，大家请多担待，姑妄言之姑看之。
; ]$ G8 ]" N* E0 f3 v/ k5 p6 v

keepmoving

谢谢版主分享