Add files using large-upload tool
Browse files- model_config.yaml +96 -0
- model_weights/metadata.json +1 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/.zarray +16 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/0.0 +1 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/15.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/20.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/22.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/29.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/33.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/35.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/38.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/44.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/48.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/52.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/53.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/63.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/69.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/70.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/75.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/79.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/8.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/87.0 +2 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/88.0 +0 -0
- model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/89.0 +0 -0
model_config.yaml
ADDED
@@ -0,0 +1,96 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
mcore_gpt: true
|
2 |
+
micro_batch_size: 1
|
3 |
+
global_batch_size: 2308
|
4 |
+
tensor_model_parallel_size: 8
|
5 |
+
pipeline_model_parallel_size: 2
|
6 |
+
virtual_pipeline_model_parallel_size: null
|
7 |
+
encoder_seq_length: 4096
|
8 |
+
max_position_embeddings: 4096
|
9 |
+
num_layers: 96
|
10 |
+
hidden_size: 18432
|
11 |
+
ffn_hidden_size: 73728
|
12 |
+
num_attention_heads: 96
|
13 |
+
init_method_std: 0.0063
|
14 |
+
use_scaled_init_method: true
|
15 |
+
hidden_dropout: 0.0
|
16 |
+
attention_dropout: 0.0
|
17 |
+
ffn_dropout: 0.0
|
18 |
+
kv_channels: null
|
19 |
+
apply_query_key_layer_scaling: true
|
20 |
+
normalization: layernorm1p
|
21 |
+
layernorm_epsilon: 1.0e-05
|
22 |
+
do_layer_norm_weight_decay: false
|
23 |
+
make_vocab_size_divisible_by: 128
|
24 |
+
pre_process: true
|
25 |
+
post_process: true
|
26 |
+
persist_layer_norm: true
|
27 |
+
bias: false
|
28 |
+
activation: squared-relu
|
29 |
+
headscale: false
|
30 |
+
transformer_block_type: pre_ln
|
31 |
+
openai_gelu: false
|
32 |
+
normalize_attention_scores: true
|
33 |
+
position_embedding_type: rope
|
34 |
+
rotary_percentage: 0.5
|
35 |
+
attention_type: multihead
|
36 |
+
share_embeddings_and_output_weights: false
|
37 |
+
num_query_groups: 8
|
38 |
+
tokenizer:
|
39 |
+
library: sentencepiece
|
40 |
+
type: null
|
41 |
+
model: nemo:d6b0ba93e9734b138f5fc61f5652efbd_nemotron_2_256k.model
|
42 |
+
delimiter: null
|
43 |
+
vocab_file: null
|
44 |
+
merge_file: null
|
45 |
+
sentencepiece_legacy: false
|
46 |
+
tokenizer_model: nemo:29e0db5f7dd14bcf9f32727ff482502b_nemotron_2_256k.model
|
47 |
+
native_amp_init_scale: 4294967296
|
48 |
+
native_amp_growth_interval: 1000
|
49 |
+
hysteresis: 2
|
50 |
+
fp32_residual_connection: false
|
51 |
+
fp16_lm_cross_entropy: false
|
52 |
+
megatron_amp_O2: true
|
53 |
+
grad_allreduce_chunk_size_mb: 125
|
54 |
+
grad_div_ar_fusion: true
|
55 |
+
gradient_accumulation_fusion: false
|
56 |
+
bias_activation_fusion: false
|
57 |
+
bias_dropout_add_fusion: false
|
58 |
+
masked_softmax_fusion: true
|
59 |
+
seed: 1234
|
60 |
+
resume_from_checkpoint: null
|
61 |
+
use_cpu_initialization: false
|
62 |
+
onnx_safe: false
|
63 |
+
apex_transformer_log_level: 30
|
64 |
+
gradient_as_bucket_view: true
|
65 |
+
sync_batch_comm: false
|
66 |
+
activations_checkpoint_granularity: null
|
67 |
+
activations_checkpoint_method: null
|
68 |
+
activations_checkpoint_num_layers: null
|
69 |
+
num_micro_batches_with_partial_activation_checkpoints: null
|
70 |
+
activations_checkpoint_layers_per_pipeline: null
|
71 |
+
sequence_parallel: true
|
72 |
+
transformer_engine: false
|
73 |
+
fp8: false
|
74 |
+
fp8_e4m3: false
|
75 |
+
fp8_hybrid: false
|
76 |
+
fp8_margin: 0
|
77 |
+
fp8_interval: 1
|
78 |
+
fp8_amax_history_len: 1
|
79 |
+
fp8_amax_compute_algo: most_recent
|
80 |
+
reduce_amax: true
|
81 |
+
use_emha: false
|
82 |
+
optim:
|
83 |
+
name: distributed_fused_adam
|
84 |
+
lr: '1.0e-4'
|
85 |
+
weight_decay: 0.1
|
86 |
+
betas:
|
87 |
+
- 0.9
|
88 |
+
- 0.95
|
89 |
+
sched:
|
90 |
+
name: CosineAnnealing
|
91 |
+
warmup_steps: 500
|
92 |
+
constant_steps: 50000
|
93 |
+
min_lr: '1.0e-7'
|
94 |
+
precision: bf16
|
95 |
+
target: nemo.collections.nlp.models.language_modeling.megatron_gpt_model.MegatronGPTModel
|
96 |
+
nemo_version: 1.15.0rc0
|
model_weights/metadata.json
ADDED
@@ -0,0 +1 @@
|
|
|
|
|
1 |
+
{"sharded_backend": "zarr", "sharded_backend_version": 1, "common_backend": "torch", "common_backend_version": 1}
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/.zarray
ADDED
@@ -0,0 +1,16 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
{
|
2 |
+
"chunks": [
|
3 |
+
1,
|
4 |
+
18432
|
5 |
+
],
|
6 |
+
"compressor": null,
|
7 |
+
"dtype": "bfloat16",
|
8 |
+
"fill_value": null,
|
9 |
+
"filters": null,
|
10 |
+
"order": "C",
|
11 |
+
"shape": [
|
12 |
+
96,
|
13 |
+
18432
|
14 |
+
],
|
15 |
+
"zarr_format": 2
|
16 |
+
}
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/0.0
ADDED
@@ -0,0 +1 @@
|
|
|
|
|
1 |
+
��������������������|�����z�~��������~��\�|��������p�����~�������������������~���s��y�z�����r���~���������������|�����������~��r���u�����������~�w����������`�������~�������s�������������q������������������}�����������}�~�������b�����������������}���~����~���{���~�L�~��|�������������������}�����������������}������������������w�����������~�S��u�~�������x�x��p��������������r��q�����|�~����n��������������~����}�~�|�~���y�}��~�����~�{���������y���������i�y�x�����������m�k��������������u�������s�������������v�u�U�������{�{������s�h��������l��������~�����������~�����x�}�~�����������|��������w�{�������������g����|�����������������������l��w�~��n�����������������������������|�����������������������������}�b�������������������}���������������w�����|���o������������v������|���~�������p���x���r�����������~���������������������������������o����w�}���u�����r�}�����������������������s������������������������������������������������������������i���u�����|�k������������~���}�����������s�����t�����~���������y�����~��������������{�~���������v�������������e�y������������������~�o�������z�����k�����������������s������~���������������������|��������������������������~���������������t�k����������������{�����|�������t�����|�|���r�����}�k�����������������������|������o����~����}���������|�y������y��o���x��}�������������~�����������y������x����������}����������m�y������z�{������~���s�����y��������������������������v�o�����������������������������|���~���~��������������������������^���r�������������f�������������~�|�����}��������}���������������������{����������{�������������������������������������r������������������t�l��������������t��������}�����������}���������{����������������j����x���}�~�|�w�|�z���������|������v����p�~������r���������~�q�����������}���}�{���r��~����~���������������p����|����������������y�n�����o�����w���������k�s��������{��������������~��b���q������������������������u�����~������������������q���w��������|�s�����x�����n�������������������������������t����������v����x�����~��z��y����������t������������������x���}�x�p�����~�m����������~���~��������������~������������������������������������������������|�����������������������������������������~����~�������|���r������~������������~�����y�}�������������������y����m���~�|�������������������~�{�z�������y�������������������������������������������������~������z������k�����~������������}������������}�������������n�p���������������{�~��~��������|�����w���h�~���������������������|����~��{��������w�l��������x�{�������s�~�����~����~���������}����������������������������������������}���������~���������|�����|�������}�������q�l�~���s�}��������p������v�x�n�m��������������E����������Q���~�����l�k�i��������z���������g�����~�u����������~�����{����}�|���~���������������������������y���������|�m�����������u������k��t���y����|����{�������������������������r��������|�t�~��z������������x�������������~�������������������������������������������~�j������������������z�q��������������~������|����������s�������������������������:���q��~��r�����}�����������x���y����������������q��������������}�~������������t��������v�~�����������d���w��t������{�~������t�y���}�v����y���v�y�y��~�����q���������������n������������p�����o�����������n�x�r���������������������`�v��������������|�������������f����������������������������������~�������������s���z�����}����������������~�����x�����������j�v�z��}�~�������l��������~�������������������������������~���v����n��������������������������~���������w���y��~������~����������������{�����w����������������������}����~�������������������{���p�|��|���u����T�{���������p����������������������u�}���������������t���������p�~�~�������y������k��������p�����q������~�����~�y�������z��������x������r���~�y��n�o�~�����~�����~�����������}���������������������~���r�y���w��������������~�~���������a������������~���������������z�r�����������}�t�����~���}������n���~����~���r�����6�l������������}�����������S������������������x������������~��~�������l����}����������~�~������������}�s������������}���v��������������{������{���������������~�|�������������}���������L������~����������������~�������������������������������r�������}���������{������~��������������|��~���������~�~��������������������������������v������������{�������~���k����������������p�������x������x�������������|�j��������~�x���������������������������������~������������}��������x�������������������~�������~��������������{�����������|��s���{���������������������������o�������n�Y������������������������r�������~���������~�d����l����������������}�k��������~�|�����~�������������������������������������~������������}������y�x������}�������}���h�����������~������y�r�����o���������~�~����|�x��������{���~��������}��������������~���w�q�y�������~������w����������������R���n�h�����������������������������������r���x���~�����~�������r�������Z����������������������~��~�������������������������������z���s�~�~��w�����r���������v�v�~�t���q����������m�������w��������������������������������������������}�}���������o�}�������z���}�������������r��#�����z�����p��~�l�����}�t�~�����}�i���������������q������������[����������������������s������x���}��������~��{���~����j���g�~����~������������������������|���������}���������}��������������}�������������������~�����q�~����������}�������������{�^���}�������������p���|�x������}������������~������������������x����{����������������r���s���������}�����������������s��p�@������~�����~����������{����������~���w��������~����z��������������p���������q��������������y�������������u�������}����������h�v���������~�~���s����������������v��~��������������o�y������{��������������������u������|������������������j�������������x�����z���������������}���������������}�������{�~���������������o�������~���t�������������������������������������t���{���v�}����������������������t�����}����������m���������~��}��}���������������������q���������h�����~�x����h���}�|������t���q��������������~���g�}���y���o�~���������}��������������o���������������v���}�|�����������~�j������������������������������y���n�A���������q�~������r��~������x��������������v�����S�Q���|���~��}������������}�{�����������������{���~�~���������i�����r������}�}�������~������~�}����������9�����������~������s���u�������������������g�����k�����������u���~����~��������o��������������~������r���~�����������r�������k�����������������{����������������������}�������j���������������{����������������������y�����������������}�~��������}���������l���������������������������j������������}���������z�x��������}�}������������}��������������}�������|������r�����������������������x����j���|��x��������������~�P���{�����~���������}������������������y���������s���������������{���������������������j�������������{��������������}����������������������~����������~������������������������������������{���b��|�����������������n���|����������y�m������|��������������x������������p�����}���������w��������������������{�������{��������s���j������������|�������x�|��~�����~�z���j���������|�w��������y�����v�������x������������e�������~������x�����}���~������������r�����{������������}����������������}����������������������w������t�}��������������������|��������������������������t�~������y�����������p�u�������������w�����������������z������������������~�����������������������q�l�u�����~����~�������o�����������o����o�|���������y��������n�{�����������������������|�����|�|�r����������t��|�����t���}��������~������~�q���k�������|���������{�J�������������������~������}�����y����~�|�\�|��}�y�����������w��������v�~���������������{����������������}�����x��o�}������x��������������~����������������������������~�v����������������������~�����q���q�����~��������������{�����~����������y��������f����������y�������������������~�����y�~�������~�����������~������x��������������������~���}�����s�}������������|���~��x�~������������������t�����������������r�B�����������p����~��������������]�������������������������������������������u�����w���������������������������~���������r���~�����������y���}���������������|�����������������������i�s���~�����~��������������������������������������X�}����������_�}�������o�{�����~��������������������I������������~������s����������������}�����z����~������������h�����x������{�������������������j����������������������������~��������~��l���s�������u�~�����~�}�}�y�������������������t����������~���������������v�������w�����������������}���������v�������������{�������x�����������������|������������~���z����������������z��������w���������}�m�����~�}���������w���n����������}���h�����d�t������}��������������}������F����������o�����}�����w������������h�w�p�y�������[�{����������}�q����������{�����}���~������������������������v���n������������z�����������~���z���z�~���������}���s������s���~��V��������}�|�������~����n�t�����~�}���x�~����������������{���|����y���{�����u��������������������~�~�����~����z�����w���������������p�}�y���������v�~�����������������n����j����s������~������������~���������n������������������~������������y�����y�����z�x�������������������|�����~���������������������������q�����������t�~�������~������������v���������������������������������~�������������������������������t�����m���i����������k������������q������~���r������}�}�q���~�������������z��������������v���~�~���������z���|�j�����~�x����z�����l���|�i�{���������������}������~�~���}�o�����������v����n�����r���������3����y��~�~�����k�����w����������o���������u������v�����|���������������������������z����������~�������q������������������q�~�������~���m������_����}��~���R�������~�{����g�������������~�����������m�������������f����������l�����~����������������}�����~�|����������~���������������t�������r�����y�z�}���~�������������������������q�������������������������������*����{�������������u�v�����������������������w������Z�r���j�����w������}�����p����������p�~�~�~�~�����������������k�����������y���������}��z���������n���{�����n�u���V�U���o����������������o�~�����������������������}����~�|�������������������~����������~���~�����������w�����}���~�������������������n�v������s��������g�~�������|�������~�~���i���|���������v���|���������������y����������~�����m���~�x����������������w����������������������������x�}����~���������u����|��������{��������������t���p�������������~�����������s���~�~�{�����������������������q�~����������}�����������}��������r�|�q��������c���������~�������y����������w������������������������r�w��������g������j��������������������~����������������������������~�������~����~�~���u���S������������o�~���������������o���{�p��b�������}����������~�t����}�����~�����������z�����������������a�j���~����������t���O���������~���������~����������~�������������c���������{�}���������������y���������q����������������o��������������������s���~�����i�}���t�}�|������������������u�������������m��������������r����}�������w�n�������u���y��������}����������|�����������h���y�����r��������~�}���r�����u���������w��������������p������������������~���}������������������������|���r�u����g�r������~���}����x����������}�~�x���������~�v�s���}���s����������������~��������������������~������z��p�~�����������}������������~�~��}������������t���g��������Q���������������y����������b��������������y����������������v�{�������u���h�}��z���������������������|�������������p���v��t���~���z���|���������s���������m�����|��������������������~���������~�����g��������~���v�{�~�z����~�}�����~�~����������t�~������������~�s���~���������l�������}�}����y�����������|���������������������������s���������������������~�����y����������������������������������}��u�����~������~��u������������������t��c�������������������n�{��������G������������t���������������v������p����~�����������������q�|�����}�|�|����������|��r�����������������������~�����������������~�������u����|������������~�����u���������|����������������z���������������k������}����w���~����������}��������������t��������������������������o�~������������������~����������������w����������������������������������������|��������p������������~�~���}�����|�����}����������������������������y�������������e���{����������r�z���~����������������������~�������������~���������z��������������|�v���������q����������������~���������������}�����n���������|���~������{������������������������~�������������������������������o�{���u����������������������~������~���~���������������������w�������������i�y����������}�������t��������������~��������������������~���w������������}����X�{�v���t���~��������������������|�������}�������������n�������~�~������u�������������o�s���{�|���^��o�������v�x�~������������������t������x������~�������������}���z���������������������������p����|���������y�����~�z����}���l��{��~�z�����������������������u�������q���~�~�������o�~�������v�q�������~��l���w����}�r��z��������u����T�����q������������z������~�������~���l���|���p�����~�w���������t��������\�l��������r��~�r���p�����{����������������������������������o�b�����������j�~�����~���������������������w�����t��������������������}������r�k�~�o�����}�����p�������{���������{���~�����~���������������~�����}���}�p���|��}�������������u���s�����v���q��R����������������~�����~������~���������������}�~�������������w�������~���|�J��������������������������������������n�z����������}������w������������}�����x���������~�f�x�}��������}������l����������������������h���{�����~�������w��������������c�����|��������n���w���������m����r����������������~������~�z������������v���������������������~�9��������y���|�����z������u���{�������}�v�������v����}�������������������~�����~�������}��}���|���y�����������s������k���������~��������������{�����c����~�^��������q�������q�l�������q�~�}�r���������~������������l�������������z����r��������p�����}������t����������������������������������}������w��������{�w�{���m�~�s�|����{������p���������}��������������������z�x��~�~������������{������������~�����~���r����s���q�������{����������������~�������^�����k���|���������y���w�������}�~�����{���������������������q�������p��������~���u�����s���n�����������������������o���p�����x���������x���������{�������������������z������������}��g���s�������t�������m��������������u������������r�����������������������n��������t����������������&��������������~����������w������������z���������i����{�m�v���q�������~�����~�}�~������x������s�����~���}����������������������������|������}���}�����~����������}�}�~���{���}��������w�����������z��������������~�������������������~��������t����|������m��������r�y��m�u�������}�����|�������������������}�����~���m�����������������������q����������s�����������|��t�}�~�p��������q������������������������~����s���m������~�{���n��������|��������l����t��������������}������������x�����������������������z�}�����p�x��������������l����~�����q�����t����������������������������������������u���������}��������|���}������P�����n���������y��������}������Y�m�s����p���x�������������z��������l����������|�����������~�������|��������������~��������~�������i�����~�k��w����������������������������u��{���g������������~������y���w���n���f�������������z�������{����u�����x������~���~�~�~���������~���v�u���}������~�������������������p�������r������������y�x�p�o�����r�r���������{�~�~���~���������������}����������{��}������q������}�p���~��������}�����������t������{��������������|���}�{������~�~��������n�p�������w���������u��~�s���������}�g��}�����������v�������������������{�x��������}�}������X�������a���������������������������z���r������������~����z�}���{���~�j���������}���������������������������g������������������������~���~��s����������n����p���������������|����������|�������������n������~���w���������|������������}�y������m������u�������u�r���������x�����������m�|��������t��������V���n�~����~���������{��������m�����������������~������������������H���w���y�����~�{�����������������������������������������f������p���~�����������v��������~�{����r��j���n���������������}�������������~�r�����~���~�����}�������������|�����u��~�|���������~�v����������������������������l��������p����t������������������|�������z�����}�~�u�����������l�������~�����������\���~�}���������������������~�i�������������������~�����n�������������|�~���������������y�������������������������������������R��}�~�����������������~�������������k�����}���������������{�����{���������������������|�����v���{�~�}�������~���}�����o����~���X�r����������������������~�������s�r����y�~����������m������������������������������~��������j�����{������������������������x�������������|����}�}���������~���m���m�������������������������y�~���{�����n��p�������}����~��������������������������r��������������y�r�~����x��u�����������^����������k����������~�v�|���������o�x����������������q������������s�����{�~��~�������r���������q��������������~�����f�������������p������z���{���}���}����������������������������s������~���{������q�|�y�����z�����~����������������z��������������������������r������������������������r��������������~�~���e��������j���������}���������������������������~���}�������o�����~�j�x�����������������������k���o���A�z�������������������~�����|�q�����~����������|�����~�{�����|�q������n�����{������r��������{���v����z�~�|�������}�{���������������������������������������~�����������������������������z���������������x�������t�r�������t��������|������������}����������������������t������o����������������n����������������}������������������������y�~�����~�}�~���������x�������������������������~����������|������������}�����~��c����������m�����y���{�������������u��������~��������c���~���������|�������}��}�l�����{�~���~�~������~������{�}����������r�������������������������y����������������������e�������~�v������������������������������x����g���y�u�k������������x���~������{�n����������~����|������������������|�����������������������������������������~���������������������n���}���x����������������i���������g����{���������s���{�|����q���q�z����������~���������s�������|�����o��������������v�y�����q������~�����������}���������u�������w��������������������������m������~�~�������������v������������|����������~���������p��z������������~����������������z�k���}�������d������u�q�������|��������|��~����u���~�����������[�����~�y�������q�����v�����������y����|������z����������u�����������������{�����~���v�������q������������������������������������|�~�������~�x���u�������w�r��������������v������}�}�~�������u���i�������������������~�r���}���������������y�����������������{������������������\������������{�������q���~�~�z�c�����~���������������������������{���p�����������t������q�������~�����t����w��������}�������y�~�������n�������������������������������|�~�������������{�y���v�~�������������}�����������}������������|���|������{�|�����[�x������s�����x���������|�����~������������z������������������������~�����~�r�]����������w������������������b�������m����������������~�~�������l�����z�������������������x��w���~����h��������y��������~���������������z�������t�~�����������������w���������������}����������x���z�����}�����������������������R�~���������z��}����~�}����������������}�u���~�������������������������������|����������������������p���������w���~���s���n��x���o�h�����������|����u��|��s�������������������������p���|�������p���������������������������e���q�}�k�������o�������������������������������v����������w�w���������}�����������������o��������}�|��������X������}��������~����������������~�u��������������u���������r�������^�����~���}�[��t�����~������������R����������~���}��������������x���x�v���������������~���~���}�����n����x�����}���q��������W��������~�����p���|�������������}���~��������}�����l��}����y��������m�w�������I����~�|���������������f���|��������������w�����������k�}���F���w���{�������������������v����������~���������������������|���}�������������~������������������������q�������n�z��������������~���~��������}�������y����������m�v������}�}�����������i������������������������~������V�}�����~�������������|���k������������~��q����������z�~������e���~������������������}�������a�������w�x�|�m�����|������~�����������m��~����������������������������j������u���������i�j�������������u����������������~����������y�������~�����|��������������������W�����������������v������{�i����}��������������������j������������������~���j���z�������~���������������������|����z�x�����������m��������������v��������|���n���~�������x���z�����������~��������u��������������V�u������������������������}����������|�z�������������{���������������q��������s�x�����������������������{�k�����o�����������}���������n����|���}�~������������������~�������z����~�������������l�l����r���\���t��~�~��i��k���~������{������������^���������d���������{�������������|�n�����������q���k�������������������y���7�{���}�{�������~�|�}������������s�����������������|�������������}������������n���������p������������|������~�������q����������������{������~�{�����������~���r�������������~��������������~�������������������������������~�����~���t������g�~����}�x�k�~�����}�}������������|�����H������������������{��������{���q���������|����z����������������������}�����������������������������~��������y�t���~����v�t���������s�}����������y����������������������������}����������s�t���������������|�q����������~�~�t�������v��������p������`����x��~���|�y���}�l�}���������z�����}�����������}��}�����L�����������|�������������~�p�~�������������f�������������z�����|����O�����������������������~�o������������{�l����������������������������������������l���k���s�y����������w�}�����������p������������������g���x�����{������q��}���y�������|����������X���������~�~��~�������w����������������~���������t���~�����~���}���������{�����������~������~����������p��������������������z�|������������p�����}�������������������������|������������}�~�������~������~�~����������������z������{�������������{������w����������~�~�i���s����������}�������������}�������q����t��������}����������������h������o�~���{��������������|���~����������������l����������������������������m�����������y�������p�����x���������~�����~��������{�s��}��������{����������~�����~�~������r������������������~�������~�����u����������~����������z���������~���n�����~�������������������������������}��������u�����}�~������~��������u���������\����������i��������������������z�����������������u���������p����~���q��������������������������{���}���������������������}�����n�������������������o�����~�������������y����}��~�x�~����������|��������������q�t���������������������s��������������r��~����������|�����u�������~��s�~���p����������y����������}���w����}�f�q���������������v������������r���~�����������s�����}�������|�}��������t����������o�z�����������}��}������������s�y������k�����y�����~�������s���x����������y�������}�v�������z����������������������������~�v������|�����������}����������������o��w�}������w���������y��������������������������������s����������������~���������������������������a�����}���t�������{�����n���������������a�~��������������l����������~�����~�l������{���}����������������~���������v�������������y��������z�x���������{�������~���������������������������O������������o�u�������b�|���������������������������������|�����������}���}���w����|���������~�����������������������x�~���������������������~�������|���������~�������~���s�z��v���~�����������~���~������������}�f��������y��������������z�~���������������������������������u�r�o�}���~���~���y���w��|�����������������x�z�������������y��������������������x���������������������������������|�������,�u���������~�������~���������������~�������}����������~����2��~�o�������s��������w�}���������������y�����������~�u�����������x����~��������}������������������|��������|���~�������f�{���~��������u�v���������������������}�����~�������z����|��}��s�������~���{��}�z������������������������~��~�z���������}��������������������������������}����������������������e���������������������|���q�����������������x����������z����������i���}�~�������q����������~����������l�����~�~����������y��~���{���}�������������������������s���w���������������������y�����}��������~�z���o���u�~���\�{����m���o�������������������������������f�z�Y�����~���~���������~��z�w�����w��������������q������������z�������z������������r�����|��t�����������������l���������������������������|�n������}�������������n�������������u�������������������~���y���������������������������b������p�������~����{�~����������~����h����������������������s��������������������s���������b�u����������{�����~���u�������r��������������~�����������}���~�����������������������������~���������������~�n���������m���������n���}�z��������������}��������~������t������������������~����}����������z��m��������p�����������������������������x��������������������|�k����������s�������������������������������|�������`�����}���~�����~���~���v�v����������q�������������������������j����������~�����x���w�����p�������y���}�����{����������]���s�|����~�~��������������������������������������������w��k�������r�����������������������������������x��������~�q����x�m���o������s����|�������������x����������������j�|�������������t�����������������������o���|����~������u�~������������o�j������~���~�u�z�}�������z��������~�����������{�y����}�����~��������������������x�������w���~������������q��������v�}���n�������������������������}��������������������������������������������������~���o�����}���}���������������p�����{�u�������������������������~�o�o�������������r�v�������~��v�������������������������s���z��������u�����j�~�����~����~�����������}�u���������������������x�������������t������~�|�w����������������������������~����������������������t�����s�w��������}���~���~�����������������������w����������������������S������������������������~�r���~���}�~�~�x������|��������������t�}�����������~�{������~�������������������}����������������������o�r������������m������������������~���v���~�~���������}�o�����~��i�����~��������������������m�q���~�����~��������������������}������������}�������|������������t�������������~��~����������}�q������x�������������s�������������|���}����������}����p����~���������������������������������w�����������������y���������q�������x�����������~���������p������������~�m����������z���~����������}���������}�������������������w����r�������m������}����������m�~����������������z��}����r��}�o���������l������o������j�����������������������a�����������������������������x��������~����������v������v�t�������q�������y�����������������q���������s��������������������������������������������h�]����������L�v��������~������������������w�����������������������������������������}�������}����������}�z�s�����x�������z���^���t������������~����g�������}�}�����������������������������������������������������������������~�������o�����������������y������w�������~����}���~����~��l�������������y��������������l������������������z������t�w�����������~����������������~�������w�l�����}����|������}��������i��x�|�������������c���������r����������n�����}���������}���������}�~�������p�������{����y�����~�}����������q�}�����~������~�p�w�����}���������������������z��o��~���x����x������y�j�y��������~���������������s�k�v�~�r�����}�~��������}�����������u�~�y��m����������������v���x�����������~�{�����f�����i���~���z���u�������������}�����������������[��������������������|����s�����}�~����v�����������~������������@������~����o������������}�����������������������|��z�~��}����w�~��������������������w�����m���~���������|�����~�������l�d��������������{���������������v���|�������y���z�������w������~��������|����j����t�����������~�}�����������]�}�������|���~������f�����������������������������������������������|�i�����������������~������������~������������������������{�|�������~���~��������t�q������������u�y����������w���������������������M���u�z�}�x���������������~�~����������o����|����z��������������������������s���������z����n�����������y���~��������:������|�������~��������������~���������|��y������p�������������������z�\���~�����}�}�����p�~�����~�}�������~������������������s������������������v�~�~�����������~���������l�����������u���t��������������v�o�w���~���{����������������x�������~���z�����������������n���~�r�q������~����~����z����������~��������y�������������~�y������������������~����^������������~�������v����|���������������}�}�������z�w���w�����������������~�����������z���������������������������~���������o�����|�~���������~��~����������������}���p�����~��������~����k����������}��������o�y���������z����������4�}��������~�r�������|������~�����w����������[���}��������d����������n�����������}�������������~�����{������������t�s�z������t��������~�~���������}����k�����������x��������w�z�����������������i���q������}��z�w���������������}���������������������������������z�~����t����~�p����p���������x������������r����}�������������������~����������������������}��~������}����v�����������������������������������s���}������m�w�q��~����������w�|�������������������������|�����������~���~�����r�z����~�����������}�������{������������|�y����������~������������|���|������������}�������y�|��}�����������������������������f���~���������z���o�t�����������������������v�����������������{��|��������������������������~�n����n���������~�{�n�������y��������������q���������������v���}����������������������z��{���~��}��������y���x��m���|�n�����������������r�q�����������������~�������������p��������������������z����~�������������q�|�������������������y���������~�w���������������{����F�r���~���}�����n�s������m�������������~���w��������������t���������������~�k�����r�����������������������o���������l�~����������������x�������|����r�����~����������~���u���y��x����������������r����}������������������s���~�����|�������z��}����h������q���w�����q�������r������w��������l���t�������������m��������������������������l��~����r�������������|����������o�������~�}���o������������������}�������c�����w�~���������������������������u���~�w���R����}�����y������g��{������������~���~���x���}�����������~��������������������������{���n�����������������������������~������g��������������������������^�����������w��o�����|����u�m�������������������}���������v�����|���������w��������������������������}������g�����b�����x���x���������y�������������q����~��{���|�}������{���������~��{������~����~�������������~��������r�������������o����{���x�����������~�����������z�������e�������~���~��������������������������������m��s���s�v��|�~���������k�u��������r���������z���}����������y�~����������~������m�n���t�x�����{�����t�w�{�|������������l������������������p�}���������x�����������m������}���������v������~�����������l�������������}���~��������������������k������t�q���m�y������������}�s����������������~�~�S�������������������}�����������������������~��������������~�������������w���q�����~������~���}�������w���������������{�������u�������������������������|�������|�{�������������������~����������l����v���������������������z�����y�������������w���������w�������|�����������������������������������������r�����������u�v�l����������}�|�����������������������~�|��������������������������q�����������z������~�������������������������������������������y�}�������������������������|������������~�}�|�w�~�����~������������|�����}���������������������������q������x�}��������������������|�������������o�w���������������~���~������~�����v�p�����������|�����������������������������{������������������w�����������~�����s�}����������~���s�}���o���q�����~�~�~��������������������������y�����l���������������������z����~��������������r�b���~��������~����������i�z����~��������y�3��~�m������������������������������������������������j�w����������t��������~�����w����������~���n���������~�~���{�������~����������q�������������������q�~�����o���|���|�������v���z�~�������}�������}�Q�����s���Y�������s�����}�{����������|����i�~�y��~�x�~�z�������~�����|�z�������{�}�����z�����}�����~����~�Y�k�s���������m�{���m���o����p�����������������~�~�������������p�}����������s�����������|�{�����������������������������o������������}�������������z�o�����������~�������z������������������������|�}��������~��������~�����~�����������s�������������������s������}�����y��������l������~�����|�q�����~�~������������r����������}���������������g�������n�������|������}�o��|���������������~���������l����������~�������r�������������q���������}����r�w�g��������k�|��������������x����~�~����m�����U�~����������{��|�����������u�v�����������������}����������_���}����������������������|��{�������{�|����������}�������~�����������{�m�y��������o��������}��{���y�z�r�}������u����������}�r��������z�����������q�r������������~���z����������~�����������������q�}�j�w����~���������}������~����������������~�������}�~����������r���s���z�����m�}����������������}���{�t�v���~�������m��y�~���������������������������z�~���o������y���p�����W�o���������������|�����������������}���������w����������q�n�����Q���������������~�����{����������������������������������y���k�p����~�t�����u�����~����������}���������y������~�����v��������������������{������������������w������n������}�~���z�����}���w�{����s�����|���u�z���������|���������������q�����y���{���������|���v��������}�e�����h��������}�l�������m����u�~�w�������~�������|�}���r���~���������������|������������n������������m�x�o�����p��}��x���j����������n����}����������������}�������������������������������~��������������������������������������~����}����������~��q���������R���
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/15.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/20.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/22.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/29.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/33.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/35.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/38.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/44.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/48.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/52.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/53.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/63.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/69.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/70.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/75.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/79.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/8.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/87.0
ADDED
@@ -0,0 +1,2 @@
|
|
|
|
|
|
|
1 |
+
V�_�������{�����������:���n�K�^���z�^�������;�A���z���m�������i�����u���k�����������Y�������z�����{���W�n�N�=���n���������~�}�h�n��������L�]�����q���s�m�������~�~���k�P���������������R���n�����������p�����i���������}�I�u�����������6���]���L�������W�v�����������������o�����r�j�����������l���d���������������������z�������������^�������r�F�����i���I�s�������b�������������f�����e���������u���X���s�������w�����|���y�����������|�p���)���������������Z���������@�H�����Z�������b�����e�ž����s�������_���t�������y�������������f���o�����������*�Q�������I���_�����+���u�{���o�l���j�n�����������~�������{�������k�����P�������h���G�����}�������c���q�n�������g��t��������������M�=���������R�!�������u�����d�y�������x�����������������v�������D��=^������$�<�y���H�����m�c���_��������������������y�q���b�������c�������������s���p���������v���Y�y�p���n������{���c���r�m���{�O�o�`�������s���������J�z�^���x���������������������'���������&���i�d�z�����v���v�����o�I���������w�r���վ������������������\�����N�����������[���]�|�������w�u�����|�f���W�����������j�����u���r�|���}�����������¾o���������������t�����������H�����d���������z�����:�v�R��������������f�����e���l�����w�T�����y�n�����p�������������L��l�����������������_���t���������v���H�Z���d�|�p�����b�w���t���������������Y�����R�f��a���������[���������X���]���������������o���������������r����������������_���t���������������z�i�o�������������|���w�����z�����f�����x�k�������|���������~���������K�����������������l�^���w�t�����E�S�e�����i�s�������w�V���x����������w�l���:���}�e�t���������������������U���M�{�_���������n���|�����������q�������k�������o���a�����������������d�������n�������e���ľ��a���Q�z�G�������A�~���m�˾�T�������l�����������U�������l���������������������w�������q�������7�������W���s���o��x���������N������������z�Q����ؾ}���?�j���$�~���q�����p�W�������������k�|�������{�ܾ����������@���C���r�l�w�k�����������q���x�[���r���������������6�������������w���y�����4�������_�������}�����c�~�����r���������x���������i���_�����j�b�����澘�~�]���F�����n���������������������S�Z���������������?P�h���������������������������a�����������������.�������q�����������E���d�������Y�������p�{�|�s��������w�p����������������R�s�Q�����p�������F�m�j�}�����h�������[�����m�{�s�����g�]�����y���y�d�������������|�����m���������v�����[�K�����h�����o�������Y���u�=�@���������~���j�m�o������������������:���������u�i�����������y�Ǿ����������x�S�g�s���j�\�������u�����������q�����{���u�a����������s���w�����Ѿ������%�~�������~�������������g���x�q���������}�r�u���y���_�����������0���Z���p���������o�X�o�������h�������������������������u���_�^�����f�������A�������m���������v�k���|�}���M���a������ľ��������]��]���j���n�����������{�7�������G�s�����n�����3���������=�������������k�[�j�������R�z�G�������M���������������B�G�v����>d�����x�����K�[����w�e���W�����t�o�����e�g�������A�[�������q���������[�`�R�����������j�n�|�����[�����V�p�������Y�l�g���������~�n���b�������a�������p�p���v�n�������u�^�t��������������o�������������:�v�r���������m�����}�z�������h�f�������~�����������J���v�����������V�s���k�������u�d�}���s�����r���x���������u���p�����������ݾ����s�����C�����q�����s�������ʾ�����������������������f����������k�����`�y�����`�����������z���h�����|�f�p�������~���x���������}�q�����k�����}�����k�������������T�����~���������c�l�����������������~�����{�����J�G��������_�j�����������w�J�k�����������G�����m���Y�����i�n�h�d�������������e�p���m�=�e�����������g�y�]�������\�i�i���������s�����`�������}�r�������r�X�?���������j�������������k���������r�����������h�������������������i�����������z���}�s�}�������������0���������`�p�����t��~���������������6�����{�;�����������m���澆���p�����������z�����������y���V�������r�t�n���i���w�����c�Y�����j�����o�}�T�O�������������}���m�������.���������U���������g���u�Z���������������o�������������l���������������~�r��������������N�k���־����g�������s�澞���q�����K�����L�������^�����������{���W�0�r�������S�����w�x���y�|�������������m�Q���|�����[�n�J�����j�����x�X���y�����f���Ӿw�}���F���_�h���������羒�������x�������b�W�������b�����������������y�C�w�����s�������m���d�������^���J�����O�d�����������y�_�������p�������n�����C�V���M�u�����������~�������������������E�-���������s�u���M���������]���w���������v��������j�z���t�H���s���q�]�����Y���q�j���������������j�f���}�G���=�\�������r�e�������K���e���������x�v���k�z���e���g�������w���7���������������������������������!���x���������������˾}�����ľ����C�������8�����{�D�|�����k���o����h�����g�S�����\�O�����f�j�����v�^���������\�J�����i�����������������������^�����������M�������x�����o�i���w���{�`�G�������N���������d���������������d�����������b���l�������m���~�����X���E�|���n�u�����~�����������I�����5�����_�������������y�����u�}�����[���������x�a�����������c�������~���w�������V�B�����J�y�W�����j������o�����t�`���������������w�����������`���@���f�������t�������{�����W�������j�p���x���]�����-���L�����������������w���k�����M�����1���j���p�j���r�w�Ǿ����t�����]�����������|�����)�����k���u���������S�������u�����@�������}���l���R���v�������������������_��d���i�`����������b�W�����N�j����l�r�����c�������������������l�]���h�f�����������������`�8��������b���-�p�������c�k�������e���Y�v���������y���a�������z�s�Y�������O���M������������m�~�����w�����i���m����>�����������c�w��g���j�*���������⾋�`�徛�������n����������������������k�����}�����>l�������u���h�{���������g�����t�q�������v�¾��������ݾ_�����h�m�'�Q�t���Z���p���M�r�����ƾk�������������o���}�������������s����������X���k��������E����>v���Z�����������d�����G���w���a�>�������������^�s�e���b���������������j�����������|�����z�����a�����B�����^���������������w�d�a������������������������l��������������4�N�����p�����w�k�������U�O���������|���r�����x���������������������E�U���~�~�{�{���a���z�������������e���Z�j�����h���}���U�X�w���9�l�U�����<���h�����������S�l�����U�T�c�������w�c�������q�����V�����Y���������������������y�����{���|���4���d�������y�e�s���������������������b���`���������i�����a���|�����Q�R���������������{�R�m���x�n�V�T���L�p�����r���������V���������������v�P���M�����j�a������m�����������������p���p�������q�U�_���Z�������h�u�����u�������s��[�,�������{���q�����������m�����������������������y���������|�������������o�������-���h���������������d�v�о����g���v���I�^�b�a�����T�����y�����������z�w���m����[�u�������g���J�����y�������������{�m���Q�t���^�������=�����������������m�����`�g���������i���E�j���������Z�������~�����r�w�l�v�d�����h�l���������8�˾~�������������������Q���.�p�������������^���~���������l�������5���������������������������������k���������f�����������A�w�_���������5�������r�N�w���}�����w�q�������������ž������u��������������p�N�����������������������o���f�������c�����*�R�w�n�����|�������������g�{�b���s�����������������y�������Y���E�Z�������v�-���������r���b�������~�i�3�����K�^�U���������*�y���O�����w�i�|�m���h�o�����~�����������b�����n���X�����������z�����������E�����������������]�o�{�m�������}�`�����J�������������y�e�}�w�������3�g�v�L���K�������d���������������������������|�m������e���u���r������������������I�����i���侜�������m�����v�m�r���������`�o�q�����|�����q�����h�����X�����پ������y�=�����l�������u�������D�����n�����e�����������������v�r�;�������r���t�������N�����������p�l�>�c�����K�������L���Q�����]�����X�;�������y�����{�����b���������D�������������Ǿ��b�����R�������������\�\�t�t�g�������V���{���g�����o�:���`�������l���{���n��_�\���������������������������n�������������y�m�|�������j�����������������������u�{�����Z�h�������������F���������������������P���������f�]���������`�������������ݾ������=�8���}���������������~�����[���������C�������e���������_���������������������w�u���R�����V���������p�o�����~�����y�����;�����z���V���������u�����������������j���u���G�h�\�����s�����y�K���þ����c�����v�����������`�����f�K�������������������A�����|���������>�����a�g�}�k�����~�g�D�k�z�����o�����ʾ��?�y�����t���������y�����V���^�n���������b���������������Z���J���S���{���h�����u�����J���������[�N��������������~�����r�m�Q�������c�V������V�o�l�����t�r�������k�������������s�������C���D�����J�}�w���l���o���k�������l�������y�h���s�M���X�o�������W���������������W��������������������3�����w�������y���������|�d�����p����������H�����^���������e���s������������i���b�:�x�����������q�h�������c���n�_�z�����^�������|�s�����~���_�^�������C�~�����^�������Y�e�Z�������������b���d���������c���������������^�����D���x�e�������������x�o�����������������}�����v�\���X�����������9>T���[���u�r�|���_���������B�������C���(�{�y���o�����Q�V�t�������v���U�������B�����E�������������z���}���c�������u���v���������r���$������������������\�������Z�B�����X�L�������������o�˾H�L��������������������O�����@������������������,�����q�����������g���������s�������$�l�������Q�_�����{�����;�o�Z�_�������p�����b�������l���`�`�����I���x���h�a�����u�������z���x�=�����������������i�������q���p�������y�����������c���������������z�|�������G�̾~���������������K�i�o�������S�{�����c�q�����e�`���r�����,�����n�������]���o�̾{���������Y�������]�o�m���X�����R�k�i�����o���[�������������������j�n�����������������r�/�������������h�����G�H�]�?���������b���������k�p�������q�s�O�����������q�q���~���f���\���g�o�����a���O���R���?��d�/�O�j�������Z���������~���A�z�h�����վa���V�������������P�����������u������������X��������q�������������u���<�������������������0�������������0�������������þ������h�.�������w�������2�����\�������r�����������������`���l�n���������c�Ⱦ��g�������b������������������=��O�k�~�������������n���y�}����������p�������p���Y�����������A�s���v�������Z�{�����}�������v���`���������J�������T�����j�z���z�J�����~�������r�%���r���}�������p�[�{�������q���������������p�u�����|�r���Z�������;���z�������������������K�������Z� �b�����D�y�����z���ľ����W�����������������=�����������w���e�����i���������|�i�����h�������������l���������Y�����j�������w�������m���V�������������f���f�m��������}�����r�����r���Y�������z�w�����������������{���@�s�k���x�]���d�������������x�r�m�������q�~�����^�z���������i�����[�����������������M�[�_�d�����e�����������~�s���y�x�x�n���>?��|���b�C���m�����g�����������������b�����g�������]�������[�}�����������}���[�������������{�|�v�������[�y���������������|���]�r���l�������J�����������������8�w���������M�������g�;�}�j���������r�l����A�i���l���v�n�u���R���m�h���f�k���������������X�U�����r���������h���x�����e���������q���x�������}���Q���#�����������������q�������d�h�����|�i�������}���U���������t���������������O�����`�m�p�w�����U�L�����c����^�S���澁����������������u���������f�������������b�{���1���������9�}��}���������������������s�[�����������q�i����������������d�����������������~�u���������������w�����������|�������w�����m�����������|�x���w���s���n�����������x�\�������v�y�s���Q�����n�����p�������u�����Z�����c�����q���5���������������������x�������W�w�����b�a�����{���������R�������������m�����]����������s���k�c�v���g���o���������z�^�������t�����e���g�������t���r�s�r���|�{�w�������l�������������������S�s�����������P���L�����������r�������(������l���r��������������������������r�n�����Z�z�������x���������U�������a�����}�������������s���������������\���W�����W�����~�������j�I���y�����������i�`���q���L�������g���V�p�������������A���V�������}�����q�����������Ⱦ����>���������������y���������f���������h�����������������������O�q���T�k�������n�˽������������g���s�����u�����������a�������`���Y�r�������@���������{�����t�m���e���������������}���e�����������j�����������f�m�|���n�^�������n�������T�����}�l�����������w������e�����M�W�������R�������f�"�������������������^�T�����v�����������o�Z�i�����������������������Y�������|�T�����Q�����������S�����������n���������������u�������M�U���������f�h�����k���������^���j�x���F�����������y�����a�����e�����x�U����������������9�~�������C�������]�k�b�z�������f������������������������t�����U�Z�������V�M�������������a�����`�y�x�������I�9�o�z�������������c�w�����������ξ~�U�i�������������������y�������x�7���K�������U���s���������������<�t�x���t�����o�i���������y�d�z�����^�}�����s�w�����������������k�h�����r���������������t�����������E���]�������T�l�l�����������������������\���������������l���������Y�����C�������C�c�������������}�����>�S���n�������l�����}�}�����������)���������������u�����f�n���K���{���T���>�r��������C�p�r�������������z�$���y�y���R�4�a�����s���r���[���V�t�������i�������i���9?��t�j���7�c�����o�����Y�������������k�����}���x�l���f�����A���\���w�����|�M�|��������s�������������������N�����J�j�w�X�����h�m�h���t�\���y���n�`�f�w���������ʾy���������v���{���f�������������^����w�i���������2�������z�������������������d�M�����v�������w�x�x�������������y���r�����������i�����������n���v�����������v���������������p�������d���P���o�������K���r�����j���������{���m�J�����z�d���u�x����������������������{�������{���������}�����R�r�����h�����\�����U�����I���ľ���m���[�������d���������g�����u�������k�����u�������n�������`�������v�����������l�������������������z�������M�������~�����������������Q�r�������M���r���������`�w�����]���{���{���y�w���`���������[���R�V���Y���t�|�����������~���:���g�t�������W�3���������O�I�����f���p���x���,��������������9�����;�������[�j���b�����i�s�������������~�r���x�c�b���`���m���D�������g�������f�������������;���}�����s�������u�5�F�����������r�������j�x�����a�����l�t�t���1�����]���������{���[���V�����~�{�������q�v���������Y���q�e�c�����������������i���I�H�������u���f�`�~���X�����������������k�<�\�[�����`�����:���h�����l�����q���[�q�y�m�����}�����0�������y���P���}�������x���(�~�c��>q�Z���������F�U�n���w�����������b�����V���������w�������{�����q���h��������V�_�y���r�������������|���������C�Z�����佤�}���Ѿ����������}���������������y���d�^�����ž�����~���������s�����r�����^�_�������i�������|�s�s���k�~�����>���$�v�x�������������������k�������h���^�Z�~�m�����k�������x�����v�s�����������z�����w���u�i�����p�����t���������[�������������������p�z�����s�z�������L���P�L�����Z�������h�����{�q���������b�������W����������i�u�\���������b�����w�������������c����������������|���������������x�������x�����l���y���a�f�_���������[�r�����M�����i�{�����k�������D���v�w�h���d�����������i���z�������y�f�����������k�����l�g���c�����z�����j�S���~���������ǾA���s�y����������W���^���k����L�����L���������������V�f�����������������������k���h���_���x���������x�/�������n�1>������t�v�M�u���v�q�~���x�q�`���0�w���������������y�������]�����������y�����t�[�����_�����a�Z���r�f�������}�{�����|�����������a���x�����w���i�h�����^�������K���������s���p�������k�Y�����4�~���d�c�����������X���L���r�������x�����l�����������������������c�|�������������~���z�����q�c���������*�|�ľ{�w���������˾S���������A�h�7���r���f���D�}�����f����N�a�d�w�[�n���q���������_�������l�����������������z���������������t�������z���a��������~���R�}�������^�t�������K�������{�������f���������y�s���������~���9�c���~�����������N�G�c���f�I�����������������u�����A�������v�j�����X�����u�\�ξf�o���U�������i�p���������r�|�a�������\���t���������������Y�����{�5���V�������V�O����{�����������������|�������b���������z���h���a���q�����M�������������y���O�X�����A�[���p�������X���������������|�����������|�������������������u�A�_�`�����z���}�z�g���S�����b���6�b���������L�����������e�c�N�������j�Q�s�P�����a�=���a�z�>����s���d�m�r�d�������F�~���A�����(�|���������������������_�����������������c�������]�a���]�[�������{�����g�����j�z�e�o�|�������n�����g���������a���������T�����P���������u�s���������i�����m���v���p�������e�����������������n���v���S���������m�������������P���������������q���������a���I�����v���N�����T���������u�m�����������t���[�������u���l�������������U�������[�����{�j���{�r�Y���x�����p���������i���h��������S�~�������I�������������U��������H���T�����h�����<�d���������w���T�����`�����q�u���������p�d�`�u�T�������}�,���v�z�����v�������;�����h�����U�����������l�r�U�����������t���x���t���n��������������i���{�l�������A�����x�������������p���������������k���{�w�����������x���d���������������������p�������:�����}���r�w�����x�������a�q�����������V�����w�������v�R�������p�����������r���������������_���v���f���i�����~�m���o�{�����p�����Ӿ����������d�2�b�������l�r�j�~�����������������|�e�����о������������������f�x���p�����������e�~�����t���C���Z���c���V���������x�}�������������������b���`�����s�����P�����v�J���I�����������s���h���z�0�������|�����������P�����s�^���j�>�c�Q�m�����������q�~���m���C��������\���������{������x�����a���p���i�f�������������|����=��}�i�}�@�����[��������C���~�����c���������������v�����|�����x�o�������e���������������r�������~���y���{�p�������z�G���P�{�����/�����������p�\���z�S�������|�����{���������������������x���m�����v�d�������������������������������o�������l��������T�o�������o���n���n���Z�z������������u�������k�_�s�������|�����`�:>}�d���;�����u�����W���i���r�������x����������j�K���������8�������z���������@������q�����u�������������������^���l�v�u�i�����������������������������\��������=��t�z�u���������������=�����������v�������|���q�r���i�L�������|���۾����a�����p�N�����~�������e�����������O���|���k�x���V��������g�n�����t�_�e���[�K>������w�Y�������G�r�l�������Z���i���(�{�������_�I�����w���������x�����a�����a�������k�������U���S�O���T�f�y���������������w�����v�����u�����]�j�����������������c�������l�����������m�{�����������w�t�������d���������h�����������\�����������b���������R�`�����������C�K�~�l�D���������E���u�������������V�~�j�A�e�������������^�y�^�������y�g�t�������_�����g�����������X���{�T�����������������]�1�S���y�h���G���o���6�����^�O�����������������J�����������v�����a���9�z�����v���������������������������������������h���}���u�Y���q���������������������������A�������v�s�u�~�}�c���9���U�_�?�������g���%�n�����c�u�����������o���ξ��A�i���������������U�y�����o���������������v�K�������i���M�`�������������g������x�������v���������>�m���J�~�v�]�������c���q���O�������d�������}���v���������x�v�d�c���������������}�a���s�`�����r����������������L�@�����j�[���������������\���������7�¾w�������V�������������|���������L���s��������r������E�����������������x�\�������r�n���������x�x���{�c���\�T�G�������������V�t���y�����k���������B���X�����������l�����u�h���y���������O����������G�����^���������~�����.�������{�q����������Z���������}�X���o�������������������������~�������w�.�����F���z�o���������l���������������龅���������������g�����Y�x���������������s���u�j�H�T���������=�����~�q���~�`�����s�b���e�������������������s�}�����b�����������w�����w�������������������G�����;��_�������q�Q�{�����������b���{����o���k�����P�����������������{�����{�c��������������D�{�j���������������u�������ž����V�����[���������y���F��������S�6�����������u���������������^���=���x�������Z�~�}���������q�������\���i���]�_���~�������������C���������y�������q���|���������`���C� ���W���k���n�s�������f�e�����������q�~���p�������������}�z�������z�������Y�����������������.�����������q�U�����������[�����]���������������������k�����r���q�p���������4�ȾW�r���������w�u���������{�^���N�����������u�����������a���b�O�������x�����k���a�j���n�n�d������n�}�����������d�����������r�����c��?��X�i�����������{�������a�x���������7�������y���������l���4��������������q�����f��X���n�������������s�����y�g�����v���e�������y���������������������>���q���j�n�x�����@�������E�h�����}�����j�����������������������?���H�U�O�n��������������X�������i�B�p�����G�I�����������������:�������F���K���t�����~�O�����h�p���������������F�����h�k�D���������r�p�����o���������~�����������}�_���[�w�����'�L�����6���P���5�L�������������������~�x�C���ݾk�����~���k�h���Q�������L���}�����t�{���g�t�Y�c�����������������������y�������Y�w�g�������h�����Q�m�o�����d���������������������������z������v�d�����������_�|�����Y���U���r���i�������������]���������������}�Z�������x�����o�I���������{�������������y�����������h���������A�������t���l�����w�[�����������������������U�W���������������������p���O�V���������L���������D�����������-�T����~�����S�������������~���r�M�������l���}�8�����q���������������}�����{���e���������i�����e�n�������������Y���������������\�=���p�s�����x�}�w�O�������C�����B�p�������|�M�������y�d���}���������~�����U�f���s�����������w���{���U�Y�������?�������������t�����������k�����������w�����C�������e�o�����s����������|�������T�z�����y�������y�����v���`�]���������6�����������v�������Y���������|���������T����������������Q�����o�_����a�������������_�������h�i�������\�k���v�}���o�x�������������������c�l�c���������j���k�������3�����y�����r�������y�i���������L���|�����q�������s�����p���������������z�����M�����q�����q���`�������l���q���}���������.�������p���x���������������������s�����y���m���z�������}�e���v�F�a�%�������������������W���i�������s���}�����w�n�^�����a�~���s�h���������ؾ��f�g�]��q���o���o���g�����������������D���������������7������u���^�����������m�������P�������{���|���������U���k�����^�����������}���Z���{�����������)�y�����g���������ɾ��h�����y�����������������l���y�n�\�b�_���E���������������h���P���������}���j���X���[��������������}�@�r�����T�����|���མ���p�����������������������6���������x����������Q������z�������g�����������������������v�����������r�����j�����_�x�l�������������������|�x�����f����u�;���a�~���������������k�L�������+�������c���������������a�W���������������d�������������z���������D���K�������������b�������h���w�������r���������F�������?���|�i�;>�����\�������g�H�������U���������}�h�+�r�������������������������Z�������|���]�����о}���������k�̾�������O���K�>���g�������������������~�������w�������������������`�|�������7�������{�`���i���������z���O�����f�������~�������������������e�����������E�������������������@�����[���z���������]���|�����p�����������O���V�������������������������p���w�k�c���������}�������s���������������w���������}������������u���������|���������j�{�j�������3�H���7���R�������R���d����������������������������x���L�i�{���{�k���������������������p���l�������_���b���g�����v�����������t�u���v���_�����������}�Y���?�j�����������������I�h�w���h������������S�����������������V���f�����������t�y��~�����e�+���|�����w���������?�z�o�����c���������e�������s����p�[�ʾ������������b�����������h���^�f�e�r�����e���������������w���b�~�E�S���}�K�����������e�Z�������n�~���.�V����"�y�����~�y������������{�@�i�O���������������>�l�X�������k���������z�Q�^���������{�������������k�z�����]���j�������v���������������������A���������y���w�����m���V�6�r���t�z���j���]������������X�����e�^�����������z�����}�����������W�&�����o�(�������u�y���������������z���J�����z���S�e�뾌���������n�����住�����=�{���������������������i�����;���������[���i������������s�R�I���W�����S�ؾ��a�>���r���b�������W�|��}�w�ƾ��������:�������~�E���P�������d�R�����������p�Z�����Z�����n�X�g���u�������b�������������a�����������������p�h���������������r�������j�r���ž�����l�������n�r���N�w�������z�����b�j�����p���g�������������P�K���������P���������|�����l���߾��d���c���������������v�����}�Y���������f���������������Q���������������Y�������}�����]�j���T���k�v�i���\�����k�����������t�������q�d�_���������������~���q���h�����f�������������������J����������������q�b���~���M���P���Z�������(�\���~�p�����������V���]�j�������������_�y�j���u���������8�����w���������X���������(�������������������P�{���m�����u�|�������r�}�X�y�����q�����������e���������z�����b�������������;�����������Z�����J���������������Y�����l�r�������R���Z�������������N�u������������������������������|�����������������c�������������������������ݾ��P�Y���������k�~���������������g�������Y�c���r��i�L�o�����l�������4���������v�c��q�����o�����������������t���k�����������������������{���s�����Z��������h�����U���������������s�\�t�������o�y�����������p���[���5���~���p���a�����������u�p������������������J�����U���|�����o�����c�Z�����b�����s�����������M�����T���������������w�����g�z���v�����T�������x���k��t�����P���������������R�g���n�u���t���������������s���G��������i���������i�������{�D�����������u�����������t�������s�������e���`���������������i�>�������������l�a���[�B�������e���|���������������U����������>��}�b�U���z�������������~�����v�������T�ʾ������z�����f���{���X���������3�����}�W�P���O�������~�����x�s�����E�������N�����x�������������]�S�������b�����k�������h�������i���������������~�Q�����t�������@�����t�x���l�������y���������o�����~���������~���W�p���������������W�������.�����^�~�����e�&���w���������������s���~���x���r���������l���Z���������|�h���n���N�b���t�<�������{�㾅�����������s�����������������t���W�����q���������l�(�\�����m�K�����}�������v�h�����������o����>ɾ��������]���[���l�`���o�������v���g���|�������;�o�ž��|�������U���������q�|���l���������Z���������������n�j���]�����w��������������y���������������{�������������������~�����������\�������d�����v���u�X�(���f���t�����������d�����j�����|�N���������1�����������M����������������d���{���������������������}�������������������u�M���|���u�_�Z�����r���k���q���p�����>���x���`���y�����������������������������w�u�y���d�w���~�v�����b���[�����������J�u�~���J�������}�����������v���u�����������S�������t�s�������y�����e�������������X���o�����I������������������������]���������Y�{�s�����f���P�X�f���o�W���i���Z�������������������������f�d���w���������N�����x������������;�����������f�����e������������p�����������������p�����������n���o�����������������r�{�������k�����������������z���Ⱦ��������������~�|�������������t���������������������;�W���z�������O�������������s���p�P���y���m�����������}���f�]���������e�k���k���8�t���������������������j�g�����������������s������t�Y�����o�������r�l�P�������������������������s�����������~��������������A���D�j���������P�����\�o�J�����������w��;�~���V���u�����������j�������k���[���������L���E�]�o�����i�����p�m�������������X�|�������x�f�y�����\�q�W�������b�������������������w��������������>��������}���q�a���a�������������i�n�|�\���������U�������1�P�۽x���}�����K�����������Y�����پ��|�z�����y�������������a�}�������B�������e�~���^�]���y�o�F�����{�V�����������R�����B�l�������^�������������,�������D�����\���G�{�������m�����i�����������s�l�������z�������K�}�����4���������������v���������������s���������o���������g�������������]�������������������������r���������f�������f�����l�����������������������~�W�����������V��������z�~���������������^�����������������k�������u�����z�~�������������w�c���r���J�������������o�h���c�y�a�a�u���������������������|�������t�����l���������`���������}�����o���������s���T�v��������=��`���l������������������w���������������m�^�������������x�}�������������V�s�������k�v�������������{���T�C�������2�������r����������j�c���������������������u���e�o�`�m�g�x�g�{���s�����<�����������������������;����z�T�����������x��������������� ��������������;�����S�������g���������������M�������O�������w�����������x���^���N�f���������u�����~�������o���n�������N�c�J���{���D���J���������W���p�����|�|�z�>�;>��r���M�J���������T���������q�b���W����������j���j�����{���������^���������������t�~�������������������r�����m�������������������������Ѿ��������Z�g�n�������n�������9���������p�������z���������z�����i�������v�������k�����O�����~���u�����������]���������9�������������e���~���m����S�{�����t�|���o�����U�������h���������z����p���b�_�r�x���w�����c�t���w��]�����U���������J�q���d�����c����������������������g���ɾ����x�x�p���`�����e�B�Ǿ��F���e���x�b���Z�������]�}�����������w�r�x�������������������>�z�Z�x���������������������������������l���d�����t���������������������{���������j�������������^���������������v�X�������b���d�����������g���������������O���������������X�����������������¾��������d�����Z�{���o�u���G��������������������p���d�y�����t�������>�C�D���`�������������i�A�����s���d�������k�k���H�o�����������������v���l���p�����c��|�������{�j�7�����}���������������f���������x���������������������}�M�@�����{���������h�����t���{���������g�����w�����u�����������c�y�\�m�!�������t�������q����������������������v�����{�����K���G�������g�����z�w�q�p�����b�������`�������[�b�b�t����������{�Y�Y���������R�����t���������������W�������x�����t�����w�}�u�*�h�����]�����P���������M���s�������c������N�����v�������^�������������q�����L�W���������������t���7�������������|�����l�о��^�L���u���_�l�t�����M���W���q�������v�����������h���������g���a���i�������n���L���������������~�t���g�����f���z�v���}���r���������p�����W��i���S�{����������������U�������������b�������}���{�u�������I�c���������������z�����t�{���l���������|���}���k�r�{�������l���`���~�[�|���i�|�����������f���~��������������}�h�x�������[�m�i���q�m���c�t�����`�����T����L�j�ƾ����z�k�����P�����|�f�����z�������������������]�����n�w���P���x�]�����h�������:�����;�~�o�z�ƾ������\�������u�����E���X����� �������[�����������p���l���A�G�����������Q���������m�n�����L�{�����p�������{�w���������������v�;�����Q�����~���g����������m�������x�ܾ����������������{���������6�v���������~���w�^�������l�����������c�s�������������t��������������@�_���n���c�������������������d������������������������]����>������{�g�q���������������������h�R���A�������������Z>����������h�����������;���}���������Q�k�������x�������e���������v�p�������Z�h�������{���s���������������w�������z�~�������>�a�����������{���������������T�|���������������c�b�����X�n���T�x���t���������{�S�y���|�g�[�����F�~�m�����_�����a�����������M�����������F���R�����v�����v�������B�����V�����������y�a���y���]�����x�������������������i�����������g�����������I�[�m�����i�����������������S������������̾��v�V�����ľm�w���������������z�o��������������������������{�������������e�{���*�����Z�������J�}�~�r���~�L�����������e���[�}���q�����j�����V�������]�u�������:�������Y�Q���2�f�������z�b�����������p�������i�����������������������Y�`���|���Q�������i�R���_�O���������j�w�������������������g���s�����v�����{���K�������������z�����v�m�<�������������e���f�i�m�W�~���������M�����?�������|�����i�y�q�������������k���������N���w���k�\�������i�������q�����������������r����������k�������������r�����������������������������������������������������p>����������x�L�������W�p���m�^�s�����r���Y�s�~�^���n���V�����y�����������y�����������r�O���;�����?��|���X�������w�����������I���t�^���������W���v���g�����������e�w���������c�����>���b�y�����\�y�����������m���������������x�������{�������n���q���F�e�������������]���������d�~���������s�����������E�����<�z���������������}�����������|���s��������k�������B�����$�t�������l���������O�u�}�Q���������������S�����P�|�����������f����� �%�������w�����E�����w���������������l�������t�[�����A�O�����������������������뾆�����������������������t�����e�����X���¾����t�W�����A���]�������o���v�����o�s�a�����|�����������_�������\�Y�����Q�����x���c���y���`�������D���]����d���������k���������j���v���������������[�I���n�y�����������������������������x�q�h�{�������{���i���h�����������u���d���������|���Y�R�������}�߾��������v�����r�h�����T�����\���h���~�����������s�����d�����Y�]���f�\�U���������p���r�������������������۾��������������a�h�r�w�������������b�������������z���O�J�����\�����������������{�����������������{���i���K�y���|�������Z�������������������������������r�g�����Z�L�������N�k�����K�x����Y���������������-�r�����~���]�������������X���c�������~���'�����������b�8�j�����w�p�_�������������[�����辖�����������������F�~�t�����v�|�C���S���������\�������l�����������S�z�������y�d�}���������}�����y�������i��������Ž����������������_�f�I�X�����}���������������������Ǿm�|���������������s�������X�������������V�m�p�g�f�������������s�ž����^�¾��>�r�;�q���l���}���}�I�����@�4�����[���M�c�U�a�����f�X�e�����o�����q�\�����������������}�����`���k�y�����~�����l�����d���k�}���i�����q���s�}��������>6�~�P�������h���������~�����f���^�������������b���������������p��������r�{���������������������|�����~�t�d�����_���������:�c�����������������i�������t�m�c���������������������N���i�x���������]���������������X�g�Q�������t�����d���m�b�����D�����z�d�����������X�~�{�e�������j�o�n���~����������������������������������k�����������������W���������k�����V�����b���r�������������{���J���������������x�Y�{�ヒ�n���������G���������~���p�����������������z�l�`�a�y�����J�������E�����l���F���������y���h���^�w�������������������������������\�N���������������r�Z� ���6�n���k�����}�����Q�����g�e�����a���������i���`���{���w���v�}���������|�z�o�a���^�����������������y���J���[�p�����e�������b���C���u�����������k���K���u�t�]�\�������������O���X�����d���T�\���m�g�����������h�w�����v�q�������u�{�����w�}�O�r�W�J��������S���������������h�S�`�����K�f���}���T���O�h�r�������S�������������O�w�k�b�������h�]���?�������������������������������g�v����=������t���s�{�c�q�������������������|�����m��������X�������v�m���������I�o�~�l���������������������������g�����������}�����W���
|
2 |
+
�������������R�����������������������������s�������/���o���T���|���}���^�������m���f���������T���B�����N�����������g�������p�����������y���R���������k�~���0�|�����o���������{�����������L�����5�9�u���o�����p���������-���p���]�t�����^���h�p�����s�������|�����_�t�������]�����������`���X�w�y�p����\���c�������x���d�����x�m�������b�k�{�����y���r���p�M�������������o���������g���~�������~�����c���K�����z�w�������������q�k�����J�������|�������������������y���������g���R�����M���������������c�������������}���~�r���u���¾��k���������������z�z�D���F�����������w�������������X�������`�Y�����������t�����t�Z�������~�����������������������������~�n�4�j�s�u���������o�>�_�\���I�W���������X�����W�����������l���������p�h�������}�x�����U���z�����q�����%�'�������¾������_���[�������������뼊�p�~�������5�s�S�z�������e�������������������|�g�f���x�������_�����}�h�����������m���������h�����w�����s�������i����i�����q�����t�m�������������Y���Q���6���x���m�����������������s�+�������Q���o�������B���������h�������������{�y�a�����p���j���,���s�d�����R���u�������{�Ⱦ��������x�^�����_�l�������{�k���Y�����������d�n�������~�u�Z���z�s�������������Z����������������������������P�o���~�־>�o�������W���f�����h�����������t���p���w���{�}���g�g���q�������{�������i��������q�����������Ծ��ƾ������p���������v�����y�����|�z�l�����5����������������~�������|���>�����v�����h���j�������ž��B���������������~���������m�p�v���V�������E���y�������>�V�q�6�����N�|�����d���{�����v�~���F���v�������;�������x�������V�������s�q���t�����������:�U���~�������d�P���s�I���r�r�u���������M���������������������������{��y�T�u�����_���~�������,���������u�o���������t���i���u�}�����������>���*=y�������������`�����m�|<��n���u���z�s���������s���������������p���k�8���T�������j���w�|�w���������o�v�a���h���b���m���p��������>��t���V���@���9����������������������������S���`�����6�o�������{���r�������z�W���T���������}�]�G�G�����������y���X���������o�����������%���������������o���}�v���i�b�~�������b���������������������������X�h��������~�����s���Z�R�����I�����|�������x�~���s�j�����|�������������������T�[�����]���Ӿ��|�W�������@���������W�������|�����������U�o���������������S���{���y���������������������S�v�����x�����n�����<���������7���Z���������r�������u�������;���W���������r�n���P�����{�������m���h�|�|�~�����k���z���������}�y�����>�����w���u�������������������\���V�����b���v�z�p���j�������y�����y�������\�������R���������r�����������o�j�Ͼ������������������f�\�����d���������}��������������������S���Q�x�?�o���h���������c�����y�������������W�I���D�����������E�������������������������������������������˾6�{�������������[�h�q���{�������k�n���������X�v���u�����Z�¾y�������x�����]�h�Q�������������������������w���q�v�f�w�����������i���������h�����/�����j���V�u�9�����������������q�a�������������x�z�p���������������a�y�����L�[�h���X�e�������\�v�������|���]�~�X�������f�������~�������������s�v���e�g���j�����\���o���s���m�����=�����������{���r������~���������r�H�v�����3�]���a���������>�������T�L�������_���d��^���M�������\���������|�����������������N�X�g�������������������[�q�����\���������*���J�b�(�|�^���������������s�N�������������������]���������e�H�Q�����e�r�����������z�����x���~�����������n�5�A���������x�����v���S�����������������������������X�����t��������j������<��y���[�������������X���N���������^�������s�f�����������}�������`���C���������\�����X������������z���h�N�羊�������h�s���b���`���;���������S���q���������e�������q�������������M�����w�������t���W���8���n���l�������k�������~��������f�辔��������o�����b�����|���K�l���M���������U�������e���������H�����{���u�5���}�R�s�v���q�u�o�������|���e���v�y�������u�W�����������������������h�����J�������l�������}�u������������������u���������h�F�������������������������������,���T�������|�z�������]�����g���W�����E���`�_�������Ծ����w���v�������a���^�������S���l�~�w�K�������x�����������������x���}�����������������b�}�e���e���e�V������z�k���U���������S�������������L���x�w�������������y�����������t���K���o�m����������X���������2���Y�r�����j�l���|���u�����d�����l�x�����e�V�����y�����Y���}�����������������l���/�y�����y���������t���\�������P�m���侥�}���;���������������l�ཱྀ�{�=���G�����������{�P������m�������������e���~�����Z���������������o�k�l���X�j���������������i�����L�����N�z�n���v�����{���z�U�����\���k���w�����y�����n���G�����q�n�P�������z�W���}�����}������������}�v�}�y�~�����N����������������y�����j�����h���t�����`�a���@�������P�^�������������������p�n�������������վ������y�����ɾ������¾��f�������z���`�_�O���t�����������������L�y���z�����������'�����O���^�����p���X�����-�������2>����{�������j���������c�����v�|���������w�����I���H�������y����>q���������������������������i�y�����������[�`�y�����Y�������t�������n�����\�������s�������������Z�z���o�u�{�w�w�Y�G�����g�����������������h���������0�������J�{���
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/88.0
ADDED
Binary file (36.9 kB). View file
|
|
model_weights/model.decoder.layers.self_attention.linear_qkv.layer_norm_weight/89.0
ADDED
Binary file (36.9 kB). View file
|
|