| license: apache-2.0 | |
| ``` | |
| optimum-cli export neuron --model 01-ai/Yi-1.5-6B-Chat --batch_size 1 --sequence_length 1024 --num_cores 2 --auto_cast_type fp16 ./models/01-ai/Yi-1.5-6B-Chat | |
| ``` |
| license: apache-2.0 | |
| ``` | |
| optimum-cli export neuron --model 01-ai/Yi-1.5-6B-Chat --batch_size 1 --sequence_length 1024 --num_cores 2 --auto_cast_type fp16 ./models/01-ai/Yi-1.5-6B-Chat | |
| ``` |