yusufcakmak
commited on
Commit
•
7c3a08f
1
Parent(s):
c64c805
Updated code snippet
Browse files
README.md
CHANGED
@@ -35,24 +35,20 @@ terminators = [
|
|
35 |
sampling_params = dict(do_sample=True, temperature=0.3, top_k=50, top_p=0.9, repetition_penalty=1.1)
|
36 |
DEFAULT_SYSTEM_PROMPT = "Sen yardımsever bir asistansın ve sana verilen talimatlar doğrultusunda en iyi cevabı üretmeye çalışacaksın."
|
37 |
|
38 |
-
|
39 |
-
|
40 |
-
|
41 |
-
|
42 |
-
]
|
43 |
-
|
44 |
-
outputs = pipe(
|
45 |
-
messages,
|
46 |
-
max_new_tokens=1024,
|
47 |
-
eos_token_id=terminators,
|
48 |
-
return_full_text=False,
|
49 |
-
**sampling_params
|
50 |
-
)
|
51 |
|
52 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
53 |
|
54 |
-
|
55 |
-
print(response)
|
56 |
```
|
57 |
|
58 |
## Limitations, Risks, Bias, and Ethical Considerations
|
|
|
35 |
sampling_params = dict(do_sample=True, temperature=0.3, top_k=50, top_p=0.9, repetition_penalty=1.1)
|
36 |
DEFAULT_SYSTEM_PROMPT = "Sen yardımsever bir asistansın ve sana verilen talimatlar doğrultusunda en iyi cevabı üretmeye çalışacaksın."
|
37 |
|
38 |
+
messages = [
|
39 |
+
{"role": "system", "content": DEFAULT_SYSTEM_PROMPT},
|
40 |
+
{"role": "user", "content": "Türkiye'de kaç il var?"}
|
41 |
+
]
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
42 |
|
43 |
+
outputs = pipe(
|
44 |
+
messages,
|
45 |
+
max_new_tokens=1024,
|
46 |
+
eos_token_id=terminators,
|
47 |
+
return_full_text=False,
|
48 |
+
**sampling_params
|
49 |
+
)
|
50 |
|
51 |
+
print(outputs[0]["generated_text"])
|
|
|
52 |
```
|
53 |
|
54 |
## Limitations, Risks, Bias, and Ethical Considerations
|