my_test_bot / bot.py
Makaria's picture
blyablya
b62a0f3
raw
history blame
963 Bytes
from huggingface_hub import HfApi, InferenceApi
# Получаем токен из secrets
token = os.getenv("HUGGINGFACE_TOKEN")
# Проверяем наличие токена
if not token:
raise ValueError("HUGGINGFACE_TOKEN is not set in secrets.")
# Инициализируем Inference API
api = InferenceApi(repo_id="sambanovasystems/SambaLingo-Russian-Chat", token=token)
def respond(user_message):
try:
response = api(inputs=user_message)
return response
except Exception as e:
print(f"Error: {str(e)}")
return "Произошла ошибка при обращении к модели."
# Пример использования
user_message = "Завершите параграф: Родион Раскольников - главный персонаж романа 'Преступление и наказание' Федора Достоевского."
result = respond(user_message)
print(result)