Не работают модели с Groq локально с ошибкой 404

Question

я только что создал api и попробовал использовать groq,вот мой код и как примерно выглядит ключ(нерабочий)

from groq import Groq
import traceback

    # API ключ из вашего кода
    api_key = "gsk_dHMss1xSzhjHwZtAoHTWGdyb3FYRPHXmqWcLbfyjXViSDjPCp"
    # Явно указываем базовый URL, чтобы исключить проблемы с его определением
    groq_base_url = "https://api.groq.com/openai/v1

"

try:
    print("Попытка инициализации клиента Groq...")
    client = Groq(
        api_key=api_key,
        base_url=groq_base_url
    )
    print(f"Клиент Groq инициализирован с базовым URL: {groq_base_url}")

print("\nПопытка получить список доступных моделей...")
model_list = client.models.list()
print("Список моделей успешно получен:")
if model_list.data:
    for model in model_list.data:
        print(f"- {model.id}")
else:
    print("Модели не найдены или не возвращены.")

print("\nПопытка создать чат...")
chat_completion = client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "Explain the importance of fast language models",
        }
    ],
    model="llama3-8b-8192", # Используем указанную вами модель
)
print("\nЧат успешно создан:")
print(chat_completion.choices[0].message.content)

except Exception as e: print(f"\nПроизошла ошибка: {e}") print("Полная трассировка ошибки:") traceback.print_exc(),а вот вывод из терминала PS C:\Users\Дш мышь и хозяин\Downloads\chat>

python chat.py
Попытка инициализации клиента Groq...
Клиент Groq инициализирован с базовым URL: https://api.groq.com/openai/v1

Попытка получить список доступных моделей..

.

Произошла ошибка: Error code: 404 - {'error': {'message': 'Not Found'}}
Полная трассировка ошибки:
Traceback (most recent call last):
  File "C:\Users\Дш мышь и хозяин\Downloads\chat\chat.py", line 18, in <module>
    model_list = client.models.list()
  File "C:\Users\Дш мышь и хозяин\AppData\Local\Programs\Python\Python310\lib\site-packages\groq\resources\models.py", line 88, in list
    return self._get(
  File "C:\Users\Дш мышь и хозяин\AppData\Local\Programs\Python\Python310\lib\site-packages\groq\_base_client.py", line 1168, in get
    return cast(ResponseT, self.request(cast_to, opts, stream=stream, stream_cls=stream_cls))
  File "C:\Users\Дш мышь и хозяин\AppData\Local\Programs\Python\Python310\lib\site-packages\groq\_base_client.py", line 1031, in request
    raise self._make_status_error_from_response(err.response) from None
groq.NotFoundError: Error code: 404 - {'error': {'message': 'Not Found'}}
PS C:\Users\Дш мышь и хозяин\Downloads\chat>

простой вариант из документации также не работает,возможно там просто нету бесплатного тарифа?

БЛОГ НА HUSL

Не работают модели с Groq локально с ошибкой 404

Ответы (0 шт):