Update README.md
Browse files
README.md
CHANGED
@@ -1,3 +1,78 @@
|
|
1 |
---
|
2 |
license: mit
|
3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
---
|
2 |
license: mit
|
3 |
---
|
4 |
+
|
5 |
+
Модель обучена на миксе инструкционных датасетов, и способна отвечать на вопросы, выполнять несложные инструкции<br>
|
6 |
+
Из обучающей выборки были исключены арифметические задачи, поэтому считать модель не умеет
|
7 |
+
|
8 |
+
Для запуска можно использовать следующий код:
|
9 |
+
|
10 |
+
```python:
|
11 |
+
import torch
|
12 |
+
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
|
13 |
+
from transformers import GenerationConfig
|
14 |
+
|
15 |
+
tokenizer = AutoTokenizer.from_pretrained("bestfred4")
|
16 |
+
model = AutoModelForSeq2SeqLM.from_pretrained("bestfred4")
|
17 |
+
model.eval()
|
18 |
+
|
19 |
+
def generate(prompt):
|
20 |
+
data = tokenizer('<SC6>' + prompt + '\nОтвет: <extra_id_0>', return_tensors="pt")
|
21 |
+
data = {k: v.to(model.device) for k, v in data.items()}
|
22 |
+
output_ids = model.generate(
|
23 |
+
**data, do_sample=True, temperature=0.2, max_new_tokens=512, top_p=0.95, top_k=5, repetition_penalty=1.03, no_repeat_ngram_size=2
|
24 |
+
)[0]
|
25 |
+
out = tokenizer.decode(output_ids.tolist())
|
26 |
+
out = out.replace("<s>","").replace("</s>","")
|
27 |
+
return out
|
28 |
+
|
29 |
+
while 1:
|
30 |
+
print(generate(input("Введите промт и фразу: ")))
|
31 |
+
print("====================")
|
32 |
+
```
|
33 |
+
|
34 |
+
<b>Можно просто задавать ей разные вопросы:</b><br>
|
35 |
+
<i>Что такое циновка?<br>
|
36 |
+
Как сделать десерт из клубники?</i>
|
37 |
+
|
38 |
+
<b>Промт, который выделяет из фразы ключевые слова и сразу ставит их в нормальную форму:</b><br>
|
39 |
+
<i>Выдели ключевые слова: Мы праздновали день рождения друга и подарили ему подарок</i>
|
40 |
+
|
41 |
+
<b>Промт для выделения главной мысли в предложении (суммаризация предложения):</b><br>
|
42 |
+
<i>Выдели главные мысли в предложении: Чтение книг важно не только для развития нашего интеллекта, но и для расширения кругозора и понимания различных культур и мировоззрений.</i>
|
43 |
+
|
44 |
+
<b>Промт для определения тематики предложения:</b><br>
|
45 |
+
<i>Определи тематику: В наше время все больше и больше людей занимаются йогой.</i>
|
46 |
+
|
47 |
+
<b>Промты для придумывания вопросов:</b><br>
|
48 |
+
<i>Придумай вопросы на тему Политика<br>
|
49 |
+
Придумай 5 вопросов к собеседнику на тему детство<br>
|
50 |
+
Придумай другие варианты вопроса: Кем ты работаешь?<br>
|
51 |
+
Придумай вопросы к этому тексту: "К особым префектурам можно отнести Токио, Киото, Осаку и Хоккайдо. В период Эдо (1603—1867), сёгунат установил 9 городских районов, которыми управляли чиновники из центра (奉行支配地), и 302 районных города, которыми управляли городские чиновники (郡代支配地). С наступлением эпохи Мэйдзи 9 городских центров были превращены в округа фу, а 302 районных города — в префектуры кэн. В 1871 г., после административной реформы, в Японии было установлено 3 городских префектур фу — Токио, Киото и Осака. В 1943 г. городская префектура Токио была переименована в столицу то (хотя закона о столице утверждено не было).",<br></i>
|
52 |
+
|
53 |
+
<b>Промт для предсказания последствий действия:</b><br>
|
54 |
+
<i>Что произойдет дальше: Я выиграл в лотерею</i>
|
55 |
+
|
56 |
+
<b>Промт для объяснения чего-то простыми словами:</b><br>
|
57 |
+
<i>Объясни ребенку тему виды отдыха.</i>
|
58 |
+
|
59 |
+
<b>Промт для решения проблем:</b><br>
|
60 |
+
<i>Реши проблему: Борьба с низкой самооценкой.</i>
|
61 |
+
|
62 |
+
<b>Промт для раскрытия анафоры по предыдущей фразе</b><br>
|
63 |
+
<i>Раскрой анафору последней фразы в диалоге: "футбол ты любишь?" , "нет",</i>
|
64 |
+
|
65 |
+
<b>Промт для ответа на вопрос по тексту:</b><br>
|
66 |
+
<i>Текст:\nПервые благотворительные фонды возникли в начале XX в. в США, благодаря усилиям известного промышленника и филантропа Джона Рокфеллера. Именно Дж. Рокфеллер выдвинул идею поставить благотворительность на регулярную основу, предложив создать трест благотворительности [6]. Первой организацией такого типа стал Совет по всеобщему образованию (1902 г.), позднее вошедший в состав фонда Рокфеллера. Примеру Рокфеллера последовали и другие крупные предприниматели США: Эндрю Карнеги, Билл Гейтс и другие.\n\nИсходя из текста выше, 'где возникли благотворительные фонды'\n</i>
|
67 |
+
|
68 |
+
<b>Промт для продолжения диалога с контекстом:</b><br>
|
69 |
+
<i>Я парень, программист. Увлекаюсь эзотерикой и конспирологией. Пишу фантастику. Люблю природу. Недавно, у меня был следующий диалог:\nТы: Ты знаешь, фантастика меня всегда привлекала. Что-нибудь интересное можешь порекомендовать?\nЯ: Если тебе нравится научная фантастика, то обязательно прочитай Война миров Герберта Уэллса. Очень увлекательная история о захвате Земли инопланетными существами.\nТы: А ты не считаешь, что на самом деле существует возможность контакта с другими цивилизациями во Вселенной?\nЯ: Мы точно не знаем, что на самом деле находится в космосе и какие существа могут обитать где-то далеко от нашей планеты. Многие теории конспирологов и эзотериков говорят о существовании инопланетян и их влиянии на нашу жизнь.\nТы: А есть ли у тебя какие-то любимые книги или фильмы в жанре фантастики?\nЯ:</i>
|
70 |
+
|
71 |
+
|
72 |
+
|
73 |
+
|
74 |
+
|
75 |
+
|
76 |
+
|
77 |
+
|
78 |
+
|