Groq API 免费使用教程

fatiery

: [& |0 s# s1 U; P1 N2 t9 N下面的内容是转载的

( b7 l( a9 Y# m' q

1. ## 第一步：获取 API
   
2. 1. 访问 https://console.groq.com/
     [# {' U% M, s' Z
3. 2. 完成注册并申请 API
   4 I( K" Q6 q. ^) b5 V
4. 3. 保存获得的 API 密钥
   3 p* N! W6 O' k- v' J& q
5. 
   
6. ## 第二步：配置 NextChat
   8 F3 H3 Z& p5 g' R& n2 J. z
7. 1. 打开 https://app.nextchat.dev/
   
8. 2. 在左侧设置中填入：
   
9.    - 接口地址：`https://api.groq.com/openai/`
   : ^2 I4 M! S! D' ~) T9 O
10.    - API Key：填入之前获取的密钥
    5 M0 x) b( C' I4 }: L( K6 w! n) V
11.    - 自定义模型：`llama-3.3-70b-versatile`
    
12. 
    7 R5 @) N2 Y2 Q: m, ~( e
13. ## 主要优势
    * N* c* r5 N9 O( q$ G0 O5 d4 {3 w9 O( M
14. - 响应速度：200 Token/秒
    ( ?3 ?7 }9 N' R+ N
15. - 性能表现：接近 GPT-4.0 水平
    / F* x" F3 m1 h+ O( {  m
16. - 完全免费使用
    " g7 F' V8 W" X4 G) g% y2 X
17. 
    " B5 l, K# ]. ~+ g- V, h. e3 z
18. ## 使用限制
    " r+ h/ F' |0 _6 ~5 b
19. - 每分钟限额：6000 Token
    
20. - 每日 API 调用：14000 次
    
21. - 足够普通用户日常使用

复制代码

# r; M7 H  V6 ?  m
根据实际操作，NextChat这样还不行，下面是我自己的操作步骤详细化，仅供参考：
) O4 ^2 q8 P, k* {1. 点击左下角设置
2. 勾选自定义接口
% @: R: v. J- z9 u7 {$ h+ R3. 接口地址输入：https://api.groq.com/openai/
4. API Key输入：gsk_XXXX(你的API密钥)
% y1 l1 P1 t* t# n2 T: P6 ]# }/ Y5. 自定义模型输入：llama-3.3-70b-versatile
6. 模型 下拉 选择我们输入的 llama-3.3-70b-versatile
/ h3 [; n* B( r5 R' c1 i" F. N% C2 a
这样就可以对话使用了，其实不止NextChat，其实有其他类似NextChat的程序，搭建网站供他人使用的，可以在Github找下。
) N1 C( u1 T# ?: i
1 ^. C0 o, H" u: C当然这对直接能用ChatGPT的人来说，没啥用，重点就是它的免费API调用次数，对我们编程的人而言，结合自动化的程序，比如翻译、总结、改写等等，绝对量大管饱。

官方教程

1. export GROQ_API_KEY=<your-api-key-here>

复制代码

1. pip install groq

复制代码

1. import os
   4 w$ H% ^: f) R# T
2. 
   1 s5 a  N; }" N$ G1 |+ n
3. from groq import Groq
   : M% h2 N  g$ @! X4 h0 M' [5 J
4. 
   , N9 m3 Z; }1 [% C- d  y
5. client = Groq(
   
6.     api_key=os.environ.get("GROQ_API_KEY"),
   . p5 U" h6 J" T8 L* U
7. )
   
8. 
   
9. chat_completion = client.chat.completions.create(
   6 q4 \% ?  p1 S
10.     messages=[
    ( S, K& D6 Z: j  `$ h
11.         {
    
12.             "role": "user",
    
13.             "content": "Explain the importance of fast language models",
    + i1 t0 `* g; J, ]1 `( @8 j
14.         }
    
15.     ],
    : m: W; Q1 p+ M
16.     model="llama3-8b-8192",
    
17. )
    / m' M5 N6 g% D0 K3 K* ^
18. 
    
19. print(chat_completion.choices[0].message.content)

复制代码

3 @$ V4 T; _: b9 L/ t
# x9 ]+ a1 i6 V: _; z实际使用：
7 h+ r" {5 u) D  p3 E记得把模型 llama3-8b-8192 换为 llama-3.3-70b-versatile
, `+ N. K* A3 Y. F" j% z
9 U& a  b( Q2 k& f" d下面是我用过API提问，“llama-3.3-70b-versatile与llama3-8b-8192的区别，用中文回复” 的结果
9 U( N8 B& H! i0 Y/ E

1. LLaMA 是一种大语言模型，由 Meta AI 开发。LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 是 LLaMA 的两个不同版本，它们之间的区别主要体现在以下几方面：
   # O# E0 A- y  w, c+ b) K& t* U
2. 
   
3. 1. **模型大小**：LLaMA-3.3-70b-versatile 的参数量大约为 70 亿，而 LLaMA-3-8b-8192 的参数量大约为 8 亿。这意味着 LLaMA-3.3-70b-versatile 的模型规模比 LLaMA-3-8b-8192 大得多，通常来说，更大的模型对应着更强的表达能力和更好的性能。
   
4. 2. **计算资源**：由于 LLaMA-3-8b-8192 的模型大小相对较小，所需的计算资源也相对较少。这使得它可以在较低端的硬件上运行，包括一些个人电脑或较早的 GPU，而 LLaMA-3.3-70b-versatile 则需要更强大的计算资源来处理。
   
5. 3. **性能差异**：一般来说，参数量更大的模型如 LLaMA-3.3-70b-versatile 在语言理解和生成任务上会表现更好，因为它能够捕捉到语言中更复杂和细致的模式。然而，性能的差异也取决于具体的应用场景和任务。
   
6. 4. **训练数据**：两个模型可能使用的训练数据集不同，尽管它们都是基于大规模语料库训练的，但数据的范围、深度和覆盖面可能有所不同，这也会影响它们的性能和适用范围。
   5 V! X" h0 j( t1 i
7. 
   & g5 x1 |- z; x* T, a% L- n
8. 总而言之，LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 之间的选择，主要取决于你的应用场景、可用的计算资源以及对模型性能的需求。如果需要更强大的语言处理能力且计算资源充足，较大的模型可能是一个更好的选择；如果计算资源有限或需要一个更轻量级的解决方案，较小的模型可能更合适。
   ( h" v8 M" Z. W$ \6 b

复制代码

. l. v2 C5 \4 m5 v" V因为比较急，即使简单的贴子也难免有错误的地方，大家请多担待，姑妄言之姑看之。

8 J% m+ P7 c+ ^  V

keepmoving

谢谢版主分享