timpal0l commited on
Commit
38b2409
1 Parent(s): e708098

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +24 -0
README.md CHANGED
@@ -14,6 +14,30 @@ base_model:
14
  - cognitivecomputations/dolphin-2.9-llama3-8b
15
  ---
16
  ![](https://huggingface.co/timpal0l/dolphin-2.9-llama3-8b-flashback/resolve/main/water_cat.png?download=true)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
17
  ## config.yaml
18
  ```yaml
19
  models:
 
14
  - cognitivecomputations/dolphin-2.9-llama3-8b
15
  ---
16
  ![](https://huggingface.co/timpal0l/dolphin-2.9-llama3-8b-flashback/resolve/main/water_cat.png?download=true)
17
+ ## How to use:
18
+ ```python
19
+ from transformers import pipeline
20
+ pipe = pipeline(task="text-generation", model="dolphin-2.9-llama3-8b-flashback", device_map="auto")
21
+
22
+ text = "Vad är meningen med livet?"
23
+
24
+ prompt = f"""
25
+ <|im_start|>system
26
+ Du är en smart AI assistant som svarar på frågor.<|im_end|>
27
+ <|im_start|>user
28
+ {text}<|im_end|>
29
+ <|im_start|>assistant
30
+ """
31
+
32
+ pipe(prompt, max_length=512, do_sample=False)
33
+ ```
34
+ ```python
35
+ >>> "Meningen med livet är subjektiv och varierar från person till person.
36
+ Vissa ser det som att uppnå sina mål,
37
+ medan andra fokuserar på att hjälpa andra och göra världen ett bättre ställe.
38
+ Det är viktigt att hitta en mening som passar just dig och ditt liv"
39
+ ```
40
+
41
  ## config.yaml
42
  ```yaml
43
  models: