{ "best_metric": NaN, "best_model_checkpoint": "miner_id_24/checkpoint-100", "epoch": 1.0416666666666667, "eval_steps": 100, "global_step": 300, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.003472222222222222, "grad_norm": NaN, "learning_rate": 2e-05, "loss": 0.0, "step": 1 }, { "epoch": 0.003472222222222222, "eval_loss": NaN, "eval_runtime": 2.1466, "eval_samples_per_second": 225.936, "eval_steps_per_second": 56.833, "step": 1 }, { "epoch": 0.006944444444444444, "grad_norm": NaN, "learning_rate": 4e-05, "loss": 0.0, "step": 2 }, { "epoch": 0.010416666666666666, "grad_norm": NaN, "learning_rate": 6e-05, "loss": 0.0, "step": 3 }, { "epoch": 0.013888888888888888, "grad_norm": NaN, "learning_rate": 8e-05, "loss": 0.0, "step": 4 }, { "epoch": 0.017361111111111112, "grad_norm": NaN, "learning_rate": 0.0001, "loss": 0.0, "step": 5 }, { "epoch": 0.020833333333333332, "grad_norm": NaN, "learning_rate": 0.00012, "loss": 0.0, "step": 6 }, { "epoch": 0.024305555555555556, "grad_norm": NaN, "learning_rate": 0.00014, "loss": 0.0, "step": 7 }, { "epoch": 0.027777777777777776, "grad_norm": NaN, "learning_rate": 0.00016, "loss": 0.0, "step": 8 }, { "epoch": 0.03125, "grad_norm": NaN, "learning_rate": 0.00018, "loss": 0.0, "step": 9 }, { "epoch": 0.034722222222222224, "grad_norm": NaN, "learning_rate": 0.0002, "loss": 0.0, "step": 10 }, { "epoch": 0.03819444444444445, "grad_norm": NaN, "learning_rate": 0.00019999845959197546, "loss": 0.0, "step": 11 }, { "epoch": 0.041666666666666664, "grad_norm": NaN, "learning_rate": 0.00019999383841535888, "loss": 0.0, "step": 12 }, { "epoch": 0.04513888888888889, "grad_norm": NaN, "learning_rate": 0.0001999861366125203, "loss": 0.0, "step": 13 }, { "epoch": 0.04861111111111111, "grad_norm": NaN, "learning_rate": 0.00019997535442073803, "loss": 0.0, "step": 14 }, { "epoch": 0.052083333333333336, "grad_norm": NaN, "learning_rate": 0.00019996149217219158, "loss": 0.0, "step": 15 }, { "epoch": 0.05555555555555555, "grad_norm": NaN, "learning_rate": 0.00019994455029395135, "loss": 0.0, "step": 16 }, { "epoch": 0.059027777777777776, "grad_norm": NaN, "learning_rate": 0.00019992452930796544, "loss": 0.0, "step": 17 }, { "epoch": 0.0625, "grad_norm": NaN, "learning_rate": 0.00019990142983104358, "loss": 0.0, "step": 18 }, { "epoch": 0.06597222222222222, "grad_norm": NaN, "learning_rate": 0.00019987525257483818, "loss": 0.0, "step": 19 }, { "epoch": 0.06944444444444445, "grad_norm": NaN, "learning_rate": 0.00019984599834582233, "loss": 0.0, "step": 20 }, { "epoch": 0.07291666666666667, "grad_norm": NaN, "learning_rate": 0.00019981366804526507, "loss": 0.0, "step": 21 }, { "epoch": 0.0763888888888889, "grad_norm": NaN, "learning_rate": 0.0001997782626692034, "loss": 0.0, "step": 22 }, { "epoch": 0.0798611111111111, "grad_norm": NaN, "learning_rate": 0.0001997397833084119, "loss": 0.0, "step": 23 }, { "epoch": 0.08333333333333333, "grad_norm": NaN, "learning_rate": 0.00019969823114836886, "loss": 0.0, "step": 24 }, { "epoch": 0.08680555555555555, "grad_norm": NaN, "learning_rate": 0.0001996536074692199, "loss": 0.0, "step": 25 }, { "epoch": 0.09027777777777778, "grad_norm": NaN, "learning_rate": 0.0001996059136457385, "loss": 0.0, "step": 26 }, { "epoch": 0.09375, "grad_norm": NaN, "learning_rate": 0.0001995551511472836, "loss": 0.0, "step": 27 }, { "epoch": 0.09722222222222222, "grad_norm": NaN, "learning_rate": 0.00019950132153775442, "loss": 0.0, "step": 28 }, { "epoch": 0.10069444444444445, "grad_norm": NaN, "learning_rate": 0.0001994444264755422, "loss": 0.0, "step": 29 }, { "epoch": 0.10416666666666667, "grad_norm": NaN, "learning_rate": 0.00019938446771347915, "loss": 0.0, "step": 30 }, { "epoch": 0.1076388888888889, "grad_norm": NaN, "learning_rate": 0.00019932144709878448, "loss": 0.0, "step": 31 }, { "epoch": 0.1111111111111111, "grad_norm": NaN, "learning_rate": 0.00019925536657300734, "loss": 0.0, "step": 32 }, { "epoch": 0.11458333333333333, "grad_norm": NaN, "learning_rate": 0.0001991862281719672, "loss": 0.0, "step": 33 }, { "epoch": 0.11805555555555555, "grad_norm": NaN, "learning_rate": 0.000199114034025691, "loss": 0.0, "step": 34 }, { "epoch": 0.12152777777777778, "grad_norm": NaN, "learning_rate": 0.00019903878635834762, "loss": 0.0, "step": 35 }, { "epoch": 0.125, "grad_norm": NaN, "learning_rate": 0.0001989604874881792, "loss": 0.0, "step": 36 }, { "epoch": 0.1284722222222222, "grad_norm": NaN, "learning_rate": 0.00019887913982743, "loss": 0.0, "step": 37 }, { "epoch": 0.13194444444444445, "grad_norm": NaN, "learning_rate": 0.00019879474588227169, "loss": 0.0, "step": 38 }, { "epoch": 0.13541666666666666, "grad_norm": NaN, "learning_rate": 0.0001987073082527266, "loss": 0.0, "step": 39 }, { "epoch": 0.1388888888888889, "grad_norm": NaN, "learning_rate": 0.00019861682963258717, "loss": 0.0, "step": 40 }, { "epoch": 0.1423611111111111, "grad_norm": NaN, "learning_rate": 0.00019852331280933327, "loss": 0.0, "step": 41 }, { "epoch": 0.14583333333333334, "grad_norm": NaN, "learning_rate": 0.00019842676066404618, "loss": 0.0, "step": 42 }, { "epoch": 0.14930555555555555, "grad_norm": NaN, "learning_rate": 0.00019832717617131998, "loss": 0.0, "step": 43 }, { "epoch": 0.1527777777777778, "grad_norm": NaN, "learning_rate": 0.0001982245623991696, "loss": 0.0, "step": 44 }, { "epoch": 0.15625, "grad_norm": NaN, "learning_rate": 0.00019811892250893665, "loss": 0.0, "step": 45 }, { "epoch": 0.1597222222222222, "grad_norm": NaN, "learning_rate": 0.00019801025975519179, "loss": 0.0, "step": 46 }, { "epoch": 0.16319444444444445, "grad_norm": NaN, "learning_rate": 0.0001978985774856346, "loss": 0.0, "step": 47 }, { "epoch": 0.16666666666666666, "grad_norm": NaN, "learning_rate": 0.00019778387914099038, "loss": 0.0, "step": 48 }, { "epoch": 0.1701388888888889, "grad_norm": NaN, "learning_rate": 0.00019766616825490408, "loss": 0.0, "step": 49 }, { "epoch": 0.1736111111111111, "grad_norm": NaN, "learning_rate": 0.00019754544845383167, "loss": 0.0, "step": 50 }, { "epoch": 0.17708333333333334, "grad_norm": NaN, "learning_rate": 0.00019742172345692805, "loss": 0.0, "step": 51 }, { "epoch": 0.18055555555555555, "grad_norm": NaN, "learning_rate": 0.00019729499707593284, "loss": 0.0, "step": 52 }, { "epoch": 0.1840277777777778, "grad_norm": NaN, "learning_rate": 0.00019716527321505273, "loss": 0.0, "step": 53 }, { "epoch": 0.1875, "grad_norm": NaN, "learning_rate": 0.00019703255587084123, "loss": 0.0, "step": 54 }, { "epoch": 0.1909722222222222, "grad_norm": NaN, "learning_rate": 0.00019689684913207556, "loss": 0.0, "step": 55 }, { "epoch": 0.19444444444444445, "grad_norm": NaN, "learning_rate": 0.00019675815717963072, "loss": 0.0, "step": 56 }, { "epoch": 0.19791666666666666, "grad_norm": NaN, "learning_rate": 0.00019661648428635068, "loss": 0.0, "step": 57 }, { "epoch": 0.2013888888888889, "grad_norm": NaN, "learning_rate": 0.00019647183481691661, "loss": 0.0, "step": 58 }, { "epoch": 0.2048611111111111, "grad_norm": NaN, "learning_rate": 0.00019632421322771264, "loss": 0.0, "step": 59 }, { "epoch": 0.20833333333333334, "grad_norm": NaN, "learning_rate": 0.0001961736240666883, "loss": 0.0, "step": 60 }, { "epoch": 0.21180555555555555, "grad_norm": NaN, "learning_rate": 0.00019602007197321874, "loss": 0.0, "step": 61 }, { "epoch": 0.2152777777777778, "grad_norm": NaN, "learning_rate": 0.00019586356167796142, "loss": 0.0, "step": 62 }, { "epoch": 0.21875, "grad_norm": NaN, "learning_rate": 0.00019570409800271065, "loss": 0.0, "step": 63 }, { "epoch": 0.2222222222222222, "grad_norm": NaN, "learning_rate": 0.00019554168586024894, "loss": 0.0, "step": 64 }, { "epoch": 0.22569444444444445, "grad_norm": NaN, "learning_rate": 0.00019537633025419563, "loss": 0.0, "step": 65 }, { "epoch": 0.22916666666666666, "grad_norm": NaN, "learning_rate": 0.0001952080362788528, "loss": 0.0, "step": 66 }, { "epoch": 0.2326388888888889, "grad_norm": NaN, "learning_rate": 0.0001950368091190482, "loss": 0.0, "step": 67 }, { "epoch": 0.2361111111111111, "grad_norm": NaN, "learning_rate": 0.0001948626540499757, "loss": 0.0, "step": 68 }, { "epoch": 0.23958333333333334, "grad_norm": NaN, "learning_rate": 0.0001946855764370326, "loss": 0.0, "step": 69 }, { "epoch": 0.24305555555555555, "grad_norm": NaN, "learning_rate": 0.0001945055817356544, "loss": 0.0, "step": 70 }, { "epoch": 0.2465277777777778, "grad_norm": NaN, "learning_rate": 0.00019432267549114674, "loss": 0.0, "step": 71 }, { "epoch": 0.25, "grad_norm": NaN, "learning_rate": 0.00019413686333851464, "loss": 0.0, "step": 72 }, { "epoch": 0.2534722222222222, "grad_norm": NaN, "learning_rate": 0.0001939481510022886, "loss": 0.0, "step": 73 }, { "epoch": 0.2569444444444444, "grad_norm": NaN, "learning_rate": 0.00019375654429634867, "loss": 0.0, "step": 74 }, { "epoch": 0.2604166666666667, "grad_norm": NaN, "learning_rate": 0.0001935620491237449, "loss": 0.0, "step": 75 }, { "epoch": 0.2638888888888889, "grad_norm": NaN, "learning_rate": 0.00019336467147651587, "loss": 0.0, "step": 76 }, { "epoch": 0.2673611111111111, "grad_norm": NaN, "learning_rate": 0.00019316441743550376, "loss": 0.0, "step": 77 }, { "epoch": 0.2708333333333333, "grad_norm": NaN, "learning_rate": 0.0001929612931701672, "loss": 0.0, "step": 78 }, { "epoch": 0.2743055555555556, "grad_norm": NaN, "learning_rate": 0.00019275530493839118, "loss": 0.0, "step": 79 }, { "epoch": 0.2777777777777778, "grad_norm": NaN, "learning_rate": 0.00019254645908629422, "loss": 0.0, "step": 80 }, { "epoch": 0.28125, "grad_norm": NaN, "learning_rate": 0.0001923347620480328, "loss": 0.0, "step": 81 }, { "epoch": 0.2847222222222222, "grad_norm": NaN, "learning_rate": 0.0001921202203456033, "loss": 0.0, "step": 82 }, { "epoch": 0.2881944444444444, "grad_norm": NaN, "learning_rate": 0.00019190284058864088, "loss": 0.0, "step": 83 }, { "epoch": 0.2916666666666667, "grad_norm": NaN, "learning_rate": 0.000191682629474216, "loss": 0.0, "step": 84 }, { "epoch": 0.2951388888888889, "grad_norm": NaN, "learning_rate": 0.00019145959378662802, "loss": 0.0, "step": 85 }, { "epoch": 0.2986111111111111, "grad_norm": NaN, "learning_rate": 0.00019123374039719618, "loss": 0.0, "step": 86 }, { "epoch": 0.3020833333333333, "grad_norm": NaN, "learning_rate": 0.00019100507626404798, "loss": 0.0, "step": 87 }, { "epoch": 0.3055555555555556, "grad_norm": NaN, "learning_rate": 0.0001907736084319047, "loss": 0.0, "step": 88 }, { "epoch": 0.3090277777777778, "grad_norm": NaN, "learning_rate": 0.00019053934403186448, "loss": 0.0, "step": 89 }, { "epoch": 0.3125, "grad_norm": NaN, "learning_rate": 0.00019030229028118255, "loss": 0.0, "step": 90 }, { "epoch": 0.3159722222222222, "grad_norm": NaN, "learning_rate": 0.0001900624544830489, "loss": 0.0, "step": 91 }, { "epoch": 0.3194444444444444, "grad_norm": NaN, "learning_rate": 0.0001898198440263633, "loss": 0.0, "step": 92 }, { "epoch": 0.3229166666666667, "grad_norm": NaN, "learning_rate": 0.00018957446638550763, "loss": 0.0, "step": 93 }, { "epoch": 0.3263888888888889, "grad_norm": NaN, "learning_rate": 0.00018932632912011562, "loss": 0.0, "step": 94 }, { "epoch": 0.3298611111111111, "grad_norm": NaN, "learning_rate": 0.00018907543987484, "loss": 0.0, "step": 95 }, { "epoch": 0.3333333333333333, "grad_norm": NaN, "learning_rate": 0.00018882180637911687, "loss": 0.0, "step": 96 }, { "epoch": 0.3368055555555556, "grad_norm": NaN, "learning_rate": 0.0001885654364469277, "loss": 0.0, "step": 97 }, { "epoch": 0.3402777777777778, "grad_norm": NaN, "learning_rate": 0.00018830633797655842, "loss": 0.0, "step": 98 }, { "epoch": 0.34375, "grad_norm": NaN, "learning_rate": 0.00018804451895035643, "loss": 0.0, "step": 99 }, { "epoch": 0.3472222222222222, "grad_norm": NaN, "learning_rate": 0.00018777998743448423, "loss": 0.0, "step": 100 }, { "epoch": 0.3472222222222222, "eval_loss": NaN, "eval_runtime": 1.6866, "eval_samples_per_second": 287.566, "eval_steps_per_second": 72.336, "step": 100 }, { "epoch": 0.3506944444444444, "grad_norm": NaN, "learning_rate": 0.0001875127515786712, "loss": 0.0, "step": 101 }, { "epoch": 0.3541666666666667, "grad_norm": NaN, "learning_rate": 0.00018724281961596254, "loss": 0.0, "step": 102 }, { "epoch": 0.3576388888888889, "grad_norm": NaN, "learning_rate": 0.00018697019986246537, "loss": 0.0, "step": 103 }, { "epoch": 0.3611111111111111, "grad_norm": NaN, "learning_rate": 0.00018669490071709292, "loss": 0.0, "step": 104 }, { "epoch": 0.3645833333333333, "grad_norm": NaN, "learning_rate": 0.0001864169306613054, "loss": 0.0, "step": 105 }, { "epoch": 0.3680555555555556, "grad_norm": NaN, "learning_rate": 0.00018613629825884887, "loss": 0.0, "step": 106 }, { "epoch": 0.3715277777777778, "grad_norm": NaN, "learning_rate": 0.00018585301215549152, "loss": 0.0, "step": 107 }, { "epoch": 0.375, "grad_norm": NaN, "learning_rate": 0.00018556708107875694, "loss": 0.0, "step": 108 }, { "epoch": 0.3784722222222222, "grad_norm": NaN, "learning_rate": 0.00018527851383765578, "loss": 0.0, "step": 109 }, { "epoch": 0.3819444444444444, "grad_norm": NaN, "learning_rate": 0.00018498731932241382, "loss": 0.0, "step": 110 }, { "epoch": 0.3854166666666667, "grad_norm": NaN, "learning_rate": 0.00018469350650419846, "loss": 0.0, "step": 111 }, { "epoch": 0.3888888888888889, "grad_norm": NaN, "learning_rate": 0.0001843970844348421, "loss": 0.0, "step": 112 }, { "epoch": 0.3923611111111111, "grad_norm": NaN, "learning_rate": 0.0001840980622465635, "loss": 0.0, "step": 113 }, { "epoch": 0.3958333333333333, "grad_norm": NaN, "learning_rate": 0.00018379644915168623, "loss": 0.0, "step": 114 }, { "epoch": 0.3993055555555556, "grad_norm": NaN, "learning_rate": 0.00018349225444235488, "loss": 0.0, "step": 115 }, { "epoch": 0.4027777777777778, "grad_norm": NaN, "learning_rate": 0.00018318548749024887, "loss": 0.0, "step": 116 }, { "epoch": 0.40625, "grad_norm": NaN, "learning_rate": 0.00018287615774629373, "loss": 0.0, "step": 117 }, { "epoch": 0.4097222222222222, "grad_norm": NaN, "learning_rate": 0.00018256427474036983, "loss": 0.0, "step": 118 }, { "epoch": 0.4131944444444444, "grad_norm": NaN, "learning_rate": 0.00018224984808101887, "loss": 0.0, "step": 119 }, { "epoch": 0.4166666666666667, "grad_norm": NaN, "learning_rate": 0.00018193288745514788, "loss": 0.0, "step": 120 }, { "epoch": 0.4201388888888889, "grad_norm": NaN, "learning_rate": 0.00018161340262773062, "loss": 0.0, "step": 121 }, { "epoch": 0.4236111111111111, "grad_norm": NaN, "learning_rate": 0.00018129140344150696, "loss": 0.0, "step": 122 }, { "epoch": 0.4270833333333333, "grad_norm": NaN, "learning_rate": 0.00018096689981667954, "loss": 0.0, "step": 123 }, { "epoch": 0.4305555555555556, "grad_norm": NaN, "learning_rate": 0.00018063990175060807, "loss": 0.0, "step": 124 }, { "epoch": 0.4340277777777778, "grad_norm": NaN, "learning_rate": 0.00018031041931750144, "loss": 0.0, "step": 125 }, { "epoch": 0.4375, "grad_norm": NaN, "learning_rate": 0.0001799784626681074, "loss": 0.0, "step": 126 }, { "epoch": 0.4409722222222222, "grad_norm": NaN, "learning_rate": 0.00017964404202939962, "loss": 0.0, "step": 127 }, { "epoch": 0.4444444444444444, "grad_norm": NaN, "learning_rate": 0.0001793071677042628, "loss": 0.0, "step": 128 }, { "epoch": 0.4479166666666667, "grad_norm": NaN, "learning_rate": 0.00017896785007117524, "loss": 0.0, "step": 129 }, { "epoch": 0.4513888888888889, "grad_norm": NaN, "learning_rate": 0.00017862609958388902, "loss": 0.0, "step": 130 }, { "epoch": 0.4548611111111111, "grad_norm": NaN, "learning_rate": 0.00017828192677110804, "loss": 0.0, "step": 131 }, { "epoch": 0.4583333333333333, "grad_norm": NaN, "learning_rate": 0.00017793534223616353, "loss": 0.0, "step": 132 }, { "epoch": 0.4618055555555556, "grad_norm": NaN, "learning_rate": 0.00017758635665668745, "loss": 0.0, "step": 133 }, { "epoch": 0.4652777777777778, "grad_norm": NaN, "learning_rate": 0.00017723498078428356, "loss": 0.0, "step": 134 }, { "epoch": 0.46875, "grad_norm": NaN, "learning_rate": 0.00017688122544419612, "loss": 0.0, "step": 135 }, { "epoch": 0.4722222222222222, "grad_norm": NaN, "learning_rate": 0.00017652510153497644, "loss": 0.0, "step": 136 }, { "epoch": 0.4756944444444444, "grad_norm": NaN, "learning_rate": 0.00017616662002814702, "loss": 0.0, "step": 137 }, { "epoch": 0.4791666666666667, "grad_norm": NaN, "learning_rate": 0.00017580579196786373, "loss": 0.0, "step": 138 }, { "epoch": 0.4826388888888889, "grad_norm": NaN, "learning_rate": 0.00017544262847057532, "loss": 0.0, "step": 139 }, { "epoch": 0.4861111111111111, "grad_norm": NaN, "learning_rate": 0.00017507714072468109, "loss": 0.0, "step": 140 }, { "epoch": 0.4895833333333333, "grad_norm": NaN, "learning_rate": 0.0001747093399901862, "loss": 0.0, "step": 141 }, { "epoch": 0.4930555555555556, "grad_norm": NaN, "learning_rate": 0.00017433923759835467, "loss": 0.0, "step": 142 }, { "epoch": 0.4965277777777778, "grad_norm": NaN, "learning_rate": 0.0001739668449513604, "loss": 0.0, "step": 143 }, { "epoch": 0.5, "grad_norm": NaN, "learning_rate": 0.00017359217352193586, "loss": 0.0, "step": 144 }, { "epoch": 0.5034722222222222, "grad_norm": NaN, "learning_rate": 0.00017321523485301854, "loss": 0.0, "step": 145 }, { "epoch": 0.5069444444444444, "grad_norm": NaN, "learning_rate": 0.0001728360405573955, "loss": 0.0, "step": 146 }, { "epoch": 0.5104166666666666, "grad_norm": NaN, "learning_rate": 0.00017245460231734536, "loss": 0.0, "step": 147 }, { "epoch": 0.5138888888888888, "grad_norm": NaN, "learning_rate": 0.0001720709318842787, "loss": 0.0, "step": 148 }, { "epoch": 0.5173611111111112, "grad_norm": NaN, "learning_rate": 0.00017168504107837582, "loss": 0.0, "step": 149 }, { "epoch": 0.5208333333333334, "grad_norm": NaN, "learning_rate": 0.00017129694178822256, "loss": 0.0, "step": 150 }, { "epoch": 0.5243055555555556, "grad_norm": NaN, "learning_rate": 0.00017090664597044412, "loss": 0.0, "step": 151 }, { "epoch": 0.5277777777777778, "grad_norm": NaN, "learning_rate": 0.00017051416564933675, "loss": 0.0, "step": 152 }, { "epoch": 0.53125, "grad_norm": NaN, "learning_rate": 0.00017011951291649716, "loss": 0.0, "step": 153 }, { "epoch": 0.5347222222222222, "grad_norm": NaN, "learning_rate": 0.00016972269993045002, "loss": 0.0, "step": 154 }, { "epoch": 0.5381944444444444, "grad_norm": NaN, "learning_rate": 0.00016932373891627358, "loss": 0.0, "step": 155 }, { "epoch": 0.5416666666666666, "grad_norm": NaN, "learning_rate": 0.00016892264216522272, "loss": 0.0, "step": 156 }, { "epoch": 0.5451388888888888, "grad_norm": NaN, "learning_rate": 0.00016851942203435053, "loss": 0.0, "step": 157 }, { "epoch": 0.5486111111111112, "grad_norm": NaN, "learning_rate": 0.00016811409094612758, "loss": 0.0, "step": 158 }, { "epoch": 0.5520833333333334, "grad_norm": NaN, "learning_rate": 0.00016770666138805904, "loss": 0.0, "step": 159 }, { "epoch": 0.5555555555555556, "grad_norm": NaN, "learning_rate": 0.0001672971459123001, "loss": 0.0, "step": 160 }, { "epoch": 0.5590277777777778, "grad_norm": NaN, "learning_rate": 0.0001668855571352693, "loss": 0.0, "step": 161 }, { "epoch": 0.5625, "grad_norm": NaN, "learning_rate": 0.00016647190773725972, "loss": 0.0, "step": 162 }, { "epoch": 0.5659722222222222, "grad_norm": NaN, "learning_rate": 0.00016605621046204843, "loss": 0.0, "step": 163 }, { "epoch": 0.5694444444444444, "grad_norm": NaN, "learning_rate": 0.00016563847811650376, "loss": 0.0, "step": 164 }, { "epoch": 0.5729166666666666, "grad_norm": NaN, "learning_rate": 0.00016521872357019087, "loss": 0.0, "step": 165 }, { "epoch": 0.5763888888888888, "grad_norm": NaN, "learning_rate": 0.00016479695975497519, "loss": 0.0, "step": 166 }, { "epoch": 0.5798611111111112, "grad_norm": NaN, "learning_rate": 0.00016437319966462402, "loss": 0.0, "step": 167 }, { "epoch": 0.5833333333333334, "grad_norm": NaN, "learning_rate": 0.00016394745635440626, "loss": 0.0, "step": 168 }, { "epoch": 0.5868055555555556, "grad_norm": NaN, "learning_rate": 0.0001635197429406901, "loss": 0.0, "step": 169 }, { "epoch": 0.5902777777777778, "grad_norm": NaN, "learning_rate": 0.0001630900726005391, "loss": 0.0, "step": 170 }, { "epoch": 0.59375, "grad_norm": NaN, "learning_rate": 0.00016265845857130597, "loss": 0.0, "step": 171 }, { "epoch": 0.5972222222222222, "grad_norm": NaN, "learning_rate": 0.00016222491415022507, "loss": 0.0, "step": 172 }, { "epoch": 0.6006944444444444, "grad_norm": NaN, "learning_rate": 0.00016178945269400247, "loss": 0.0, "step": 173 }, { "epoch": 0.6041666666666666, "grad_norm": NaN, "learning_rate": 0.00016135208761840458, "loss": 0.0, "step": 174 }, { "epoch": 0.6076388888888888, "grad_norm": NaN, "learning_rate": 0.00016091283239784486, "loss": 0.0, "step": 175 }, { "epoch": 0.6111111111111112, "grad_norm": NaN, "learning_rate": 0.0001604717005649687, "loss": 0.0, "step": 176 }, { "epoch": 0.6145833333333334, "grad_norm": NaN, "learning_rate": 0.00016002870571023628, "loss": 0.0, "step": 177 }, { "epoch": 0.6180555555555556, "grad_norm": NaN, "learning_rate": 0.0001595838614815043, "loss": 0.0, "step": 178 }, { "epoch": 0.6215277777777778, "grad_norm": NaN, "learning_rate": 0.0001591371815836051, "loss": 0.0, "step": 179 }, { "epoch": 0.625, "grad_norm": NaN, "learning_rate": 0.00015868867977792466, "loss": 0.0, "step": 180 }, { "epoch": 0.6284722222222222, "grad_norm": NaN, "learning_rate": 0.0001582383698819786, "loss": 0.0, "step": 181 }, { "epoch": 0.6319444444444444, "grad_norm": NaN, "learning_rate": 0.00015778626576898645, "loss": 0.0, "step": 182 }, { "epoch": 0.6354166666666666, "grad_norm": NaN, "learning_rate": 0.00015733238136744432, "loss": 0.0, "step": 183 }, { "epoch": 0.6388888888888888, "grad_norm": NaN, "learning_rate": 0.00015687673066069565, "loss": 0.0, "step": 184 }, { "epoch": 0.6423611111111112, "grad_norm": NaN, "learning_rate": 0.0001564193276865006, "loss": 0.0, "step": 185 }, { "epoch": 0.6458333333333334, "grad_norm": NaN, "learning_rate": 0.00015596018653660335, "loss": 0.0, "step": 186 }, { "epoch": 0.6493055555555556, "grad_norm": NaN, "learning_rate": 0.00015549932135629812, "loss": 0.0, "step": 187 }, { "epoch": 0.6527777777777778, "grad_norm": NaN, "learning_rate": 0.00015503674634399347, "loss": 0.0, "step": 188 }, { "epoch": 0.65625, "grad_norm": NaN, "learning_rate": 0.00015457247575077445, "loss": 0.0, "step": 189 }, { "epoch": 0.6597222222222222, "grad_norm": NaN, "learning_rate": 0.00015410652387996414, "loss": 0.0, "step": 190 }, { "epoch": 0.6631944444444444, "grad_norm": NaN, "learning_rate": 0.00015363890508668252, "loss": 0.0, "step": 191 }, { "epoch": 0.6666666666666666, "grad_norm": NaN, "learning_rate": 0.00015316963377740437, "loss": 0.0, "step": 192 }, { "epoch": 0.6701388888888888, "grad_norm": NaN, "learning_rate": 0.00015269872440951555, "loss": 0.0, "step": 193 }, { "epoch": 0.6736111111111112, "grad_norm": NaN, "learning_rate": 0.00015222619149086745, "loss": 0.0, "step": 194 }, { "epoch": 0.6770833333333334, "grad_norm": NaN, "learning_rate": 0.00015175204957933004, "loss": 0.0, "step": 195 }, { "epoch": 0.6805555555555556, "grad_norm": NaN, "learning_rate": 0.00015127631328234347, "loss": 0.0, "step": 196 }, { "epoch": 0.6840277777777778, "grad_norm": NaN, "learning_rate": 0.00015079899725646784, "loss": 0.0, "step": 197 }, { "epoch": 0.6875, "grad_norm": NaN, "learning_rate": 0.00015032011620693197, "loss": 0.0, "step": 198 }, { "epoch": 0.6909722222222222, "grad_norm": NaN, "learning_rate": 0.00014983968488718006, "loss": 0.0, "step": 199 }, { "epoch": 0.6944444444444444, "grad_norm": NaN, "learning_rate": 0.00014935771809841726, "loss": 0.0, "step": 200 }, { "epoch": 0.6944444444444444, "eval_loss": NaN, "eval_runtime": 1.6849, "eval_samples_per_second": 287.843, "eval_steps_per_second": 72.406, "step": 200 }, { "epoch": 0.6979166666666666, "grad_norm": NaN, "learning_rate": 0.00014887423068915388, "loss": 0.0, "step": 201 }, { "epoch": 0.7013888888888888, "grad_norm": NaN, "learning_rate": 0.00014838923755474746, "loss": 0.0, "step": 202 }, { "epoch": 0.7048611111111112, "grad_norm": NaN, "learning_rate": 0.00014790275363694446, "loss": 0.0, "step": 203 }, { "epoch": 0.7083333333333334, "grad_norm": NaN, "learning_rate": 0.00014741479392341942, "loss": 0.0, "step": 204 }, { "epoch": 0.7118055555555556, "grad_norm": NaN, "learning_rate": 0.0001469253734473135, "loss": 0.0, "step": 205 }, { "epoch": 0.7152777777777778, "grad_norm": NaN, "learning_rate": 0.0001464345072867713, "loss": 0.0, "step": 206 }, { "epoch": 0.71875, "grad_norm": NaN, "learning_rate": 0.00014594221056447632, "loss": 0.0, "step": 207 }, { "epoch": 0.7222222222222222, "grad_norm": NaN, "learning_rate": 0.0001454484984471849, "loss": 0.0, "step": 208 }, { "epoch": 0.7256944444444444, "grad_norm": NaN, "learning_rate": 0.00014495338614525926, "loss": 0.0, "step": 209 }, { "epoch": 0.7291666666666666, "grad_norm": NaN, "learning_rate": 0.00014445688891219862, "loss": 0.0, "step": 210 }, { "epoch": 0.7326388888888888, "grad_norm": NaN, "learning_rate": 0.0001439590220441694, "loss": 0.0, "step": 211 }, { "epoch": 0.7361111111111112, "grad_norm": NaN, "learning_rate": 0.00014345980087953405, "loss": 0.0, "step": 212 }, { "epoch": 0.7395833333333334, "grad_norm": NaN, "learning_rate": 0.00014295924079837826, "loss": 0.0, "step": 213 }, { "epoch": 0.7430555555555556, "grad_norm": NaN, "learning_rate": 0.00014245735722203735, "loss": 0.0, "step": 214 }, { "epoch": 0.7465277777777778, "grad_norm": NaN, "learning_rate": 0.00014195416561262113, "loss": 0.0, "step": 215 }, { "epoch": 0.75, "grad_norm": NaN, "learning_rate": 0.00014144968147253742, "loss": 0.0, "step": 216 }, { "epoch": 0.7534722222222222, "grad_norm": NaN, "learning_rate": 0.00014094392034401463, "loss": 0.0, "step": 217 }, { "epoch": 0.7569444444444444, "grad_norm": NaN, "learning_rate": 0.00014043689780862272, "loss": 0.0, "step": 218 }, { "epoch": 0.7604166666666666, "grad_norm": NaN, "learning_rate": 0.00013992862948679333, "loss": 0.0, "step": 219 }, { "epoch": 0.7638888888888888, "grad_norm": NaN, "learning_rate": 0.0001394191310373385, "loss": 0.0, "step": 220 }, { "epoch": 0.7673611111111112, "grad_norm": NaN, "learning_rate": 0.00013890841815696829, "loss": 0.0, "step": 221 }, { "epoch": 0.7708333333333334, "grad_norm": NaN, "learning_rate": 0.00013839650657980704, "loss": 0.0, "step": 222 }, { "epoch": 0.7743055555555556, "grad_norm": NaN, "learning_rate": 0.00013788341207690872, "loss": 0.0, "step": 223 }, { "epoch": 0.7777777777777778, "grad_norm": NaN, "learning_rate": 0.00013736915045577122, "loss": 0.0, "step": 224 }, { "epoch": 0.78125, "grad_norm": NaN, "learning_rate": 0.00013685373755984904, "loss": 0.0, "step": 225 }, { "epoch": 0.7847222222222222, "grad_norm": NaN, "learning_rate": 0.0001363371892680654, "loss": 0.0, "step": 226 }, { "epoch": 0.7881944444444444, "grad_norm": NaN, "learning_rate": 0.00013581952149432303, "loss": 0.0, "step": 227 }, { "epoch": 0.7916666666666666, "grad_norm": NaN, "learning_rate": 0.0001353007501870137, "loss": 0.0, "step": 228 }, { "epoch": 0.7951388888888888, "grad_norm": NaN, "learning_rate": 0.00013478089132852716, "loss": 0.0, "step": 229 }, { "epoch": 0.7986111111111112, "grad_norm": NaN, "learning_rate": 0.0001342599609347585, "loss": 0.0, "step": 230 }, { "epoch": 0.8020833333333334, "grad_norm": NaN, "learning_rate": 0.000133737975054615, "loss": 0.0, "step": 231 }, { "epoch": 0.8055555555555556, "grad_norm": NaN, "learning_rate": 0.00013321494976952132, "loss": 0.0, "step": 232 }, { "epoch": 0.8090277777777778, "grad_norm": NaN, "learning_rate": 0.00013269090119292444, "loss": 0.0, "step": 233 }, { "epoch": 0.8125, "grad_norm": NaN, "learning_rate": 0.00013216584546979702, "loss": 0.0, "step": 234 }, { "epoch": 0.8159722222222222, "grad_norm": NaN, "learning_rate": 0.00013163979877614, "loss": 0.0, "step": 235 }, { "epoch": 0.8194444444444444, "grad_norm": NaN, "learning_rate": 0.00013111277731848442, "loss": 0.0, "step": 236 }, { "epoch": 0.8229166666666666, "grad_norm": NaN, "learning_rate": 0.00013058479733339185, "loss": 0.0, "step": 237 }, { "epoch": 0.8263888888888888, "grad_norm": NaN, "learning_rate": 0.00013005587508695444, "loss": 0.0, "step": 238 }, { "epoch": 0.8298611111111112, "grad_norm": NaN, "learning_rate": 0.00012952602687429362, "loss": 0.0, "step": 239 }, { "epoch": 0.8333333333333334, "grad_norm": NaN, "learning_rate": 0.00012899526901905822, "loss": 0.0, "step": 240 }, { "epoch": 0.8368055555555556, "grad_norm": NaN, "learning_rate": 0.00012846361787292136, "loss": 0.0, "step": 241 }, { "epoch": 0.8402777777777778, "grad_norm": NaN, "learning_rate": 0.00012793108981507694, "loss": 0.0, "step": 242 }, { "epoch": 0.84375, "grad_norm": NaN, "learning_rate": 0.0001273977012517348, "loss": 0.0, "step": 243 }, { "epoch": 0.8472222222222222, "grad_norm": NaN, "learning_rate": 0.00012686346861561537, "loss": 0.0, "step": 244 }, { "epoch": 0.8506944444444444, "grad_norm": NaN, "learning_rate": 0.0001263284083654435, "loss": 0.0, "step": 245 }, { "epoch": 0.8541666666666666, "grad_norm": NaN, "learning_rate": 0.00012579253698544125, "loss": 0.0, "step": 246 }, { "epoch": 0.8576388888888888, "grad_norm": NaN, "learning_rate": 0.00012525587098482005, "loss": 0.0, "step": 247 }, { "epoch": 0.8611111111111112, "grad_norm": NaN, "learning_rate": 0.0001247184268972722, "loss": 0.0, "step": 248 }, { "epoch": 0.8645833333333334, "grad_norm": NaN, "learning_rate": 0.00012418022128046142, "loss": 0.0, "step": 249 }, { "epoch": 0.8680555555555556, "grad_norm": NaN, "learning_rate": 0.0001236412707155127, "loss": 0.0, "step": 250 }, { "epoch": 0.8715277777777778, "grad_norm": NaN, "learning_rate": 0.0001231015918065016, "loss": 0.0, "step": 251 }, { "epoch": 0.875, "grad_norm": NaN, "learning_rate": 0.00012256120117994245, "loss": 0.0, "step": 252 }, { "epoch": 0.8784722222222222, "grad_norm": NaN, "learning_rate": 0.0001220201154842765, "loss": 0.0, "step": 253 }, { "epoch": 0.8819444444444444, "grad_norm": NaN, "learning_rate": 0.00012147835138935868, "loss": 0.0, "step": 254 }, { "epoch": 0.8854166666666666, "grad_norm": NaN, "learning_rate": 0.00012093592558594416, "loss": 0.0, "step": 255 }, { "epoch": 0.8888888888888888, "grad_norm": NaN, "learning_rate": 0.00012039285478517417, "loss": 0.0, "step": 256 }, { "epoch": 0.8923611111111112, "grad_norm": NaN, "learning_rate": 0.00011984915571806108, "loss": 0.0, "step": 257 }, { "epoch": 0.8958333333333334, "grad_norm": NaN, "learning_rate": 0.000119304845134973, "loss": 0.0, "step": 258 }, { "epoch": 0.8993055555555556, "grad_norm": NaN, "learning_rate": 0.00011875993980511773, "loss": 0.0, "step": 259 }, { "epoch": 0.9027777777777778, "grad_norm": NaN, "learning_rate": 0.00011821445651602616, "loss": 0.0, "step": 260 }, { "epoch": 0.90625, "grad_norm": NaN, "learning_rate": 0.00011766841207303498, "loss": 0.0, "step": 261 }, { "epoch": 0.9097222222222222, "grad_norm": NaN, "learning_rate": 0.00011712182329876902, "loss": 0.0, "step": 262 }, { "epoch": 0.9131944444444444, "grad_norm": NaN, "learning_rate": 0.00011657470703262296, "loss": 0.0, "step": 263 }, { "epoch": 0.9166666666666666, "grad_norm": NaN, "learning_rate": 0.00011602708013024255, "loss": 0.0, "step": 264 }, { "epoch": 0.9201388888888888, "grad_norm": NaN, "learning_rate": 0.00011547895946300528, "loss": 0.0, "step": 265 }, { "epoch": 0.9236111111111112, "grad_norm": NaN, "learning_rate": 0.00011493036191750066, "loss": 0.0, "step": 266 }, { "epoch": 0.9270833333333334, "grad_norm": NaN, "learning_rate": 0.00011438130439500986, "loss": 0.0, "step": 267 }, { "epoch": 0.9305555555555556, "grad_norm": NaN, "learning_rate": 0.00011383180381098517, "loss": 0.0, "step": 268 }, { "epoch": 0.9340277777777778, "grad_norm": NaN, "learning_rate": 0.00011328187709452884, "loss": 0.0, "step": 269 }, { "epoch": 0.9375, "grad_norm": NaN, "learning_rate": 0.00011273154118787132, "loss": 0.0, "step": 270 }, { "epoch": 0.9409722222222222, "grad_norm": NaN, "learning_rate": 0.00011218081304584957, "loss": 0.0, "step": 271 }, { "epoch": 0.9444444444444444, "grad_norm": NaN, "learning_rate": 0.00011162970963538462, "loss": 0.0, "step": 272 }, { "epoch": 0.9479166666666666, "grad_norm": NaN, "learning_rate": 0.00011107824793495876, "loss": 0.0, "step": 273 }, { "epoch": 0.9513888888888888, "grad_norm": NaN, "learning_rate": 0.00011052644493409255, "loss": 0.0, "step": 274 }, { "epoch": 0.9548611111111112, "grad_norm": NaN, "learning_rate": 0.00010997431763282137, "loss": 0.0, "step": 275 }, { "epoch": 0.9583333333333334, "grad_norm": NaN, "learning_rate": 0.00010942188304117182, "loss": 0.0, "step": 276 }, { "epoch": 0.9618055555555556, "grad_norm": NaN, "learning_rate": 0.00010886915817863736, "loss": 0.0, "step": 277 }, { "epoch": 0.9652777777777778, "grad_norm": NaN, "learning_rate": 0.00010831616007365435, "loss": 0.0, "step": 278 }, { "epoch": 0.96875, "grad_norm": NaN, "learning_rate": 0.0001077629057630771, "loss": 0.0, "step": 279 }, { "epoch": 0.9722222222222222, "grad_norm": NaN, "learning_rate": 0.00010720941229165322, "loss": 0.0, "step": 280 }, { "epoch": 0.9756944444444444, "grad_norm": NaN, "learning_rate": 0.0001066556967114984, "loss": 0.0, "step": 281 }, { "epoch": 0.9791666666666666, "grad_norm": NaN, "learning_rate": 0.00010610177608157117, "loss": 0.0, "step": 282 }, { "epoch": 0.9826388888888888, "grad_norm": NaN, "learning_rate": 0.00010554766746714706, "loss": 0.0, "step": 283 }, { "epoch": 0.9861111111111112, "grad_norm": NaN, "learning_rate": 0.0001049933879392933, "loss": 0.0, "step": 284 }, { "epoch": 0.9895833333333334, "grad_norm": NaN, "learning_rate": 0.00010443895457434252, "loss": 0.0, "step": 285 }, { "epoch": 0.9930555555555556, "grad_norm": NaN, "learning_rate": 0.00010388438445336676, "loss": 0.0, "step": 286 }, { "epoch": 0.9965277777777778, "grad_norm": NaN, "learning_rate": 0.00010332969466165143, "loss": 0.0, "step": 287 }, { "epoch": 1.0, "grad_norm": NaN, "learning_rate": 0.00010277490228816853, "loss": 0.0, "step": 288 }, { "epoch": 1.0034722222222223, "grad_norm": NaN, "learning_rate": 0.00010222002442505056, "loss": 0.0, "step": 289 }, { "epoch": 1.0069444444444444, "grad_norm": NaN, "learning_rate": 0.00010166507816706386, "loss": 0.0, "step": 290 }, { "epoch": 1.0104166666666667, "grad_norm": NaN, "learning_rate": 0.00010111008061108176, "loss": 0.0, "step": 291 }, { "epoch": 1.0138888888888888, "grad_norm": NaN, "learning_rate": 0.00010055504885555797, "loss": 0.0, "step": 292 }, { "epoch": 1.0173611111111112, "grad_norm": NaN, "learning_rate": 0.0001, "loss": 0.0, "step": 293 }, { "epoch": 1.0208333333333333, "grad_norm": NaN, "learning_rate": 9.944495114444205e-05, "loss": 0.0, "step": 294 }, { "epoch": 1.0243055555555556, "grad_norm": NaN, "learning_rate": 9.888991938891828e-05, "loss": 0.0, "step": 295 }, { "epoch": 1.0277777777777777, "grad_norm": NaN, "learning_rate": 9.833492183293615e-05, "loss": 0.0, "step": 296 }, { "epoch": 1.03125, "grad_norm": NaN, "learning_rate": 9.777997557494944e-05, "loss": 0.0, "step": 297 }, { "epoch": 1.0347222222222223, "grad_norm": NaN, "learning_rate": 9.722509771183151e-05, "loss": 0.0, "step": 298 }, { "epoch": 1.0381944444444444, "grad_norm": NaN, "learning_rate": 9.667030533834862e-05, "loss": 0.0, "step": 299 }, { "epoch": 1.0416666666666667, "grad_norm": NaN, "learning_rate": 9.611561554663325e-05, "loss": 0.0, "step": 300 }, { "epoch": 1.0416666666666667, "eval_loss": NaN, "eval_runtime": 1.6994, "eval_samples_per_second": 285.4, "eval_steps_per_second": 71.791, "step": 300 } ], "logging_steps": 1, "max_steps": 576, "num_input_tokens_seen": 0, "num_train_epochs": 2, "save_steps": 100, "stateful_callbacks": { "EarlyStoppingCallback": { "args": { "early_stopping_patience": 2, "early_stopping_threshold": 0.0 }, "attributes": { "early_stopping_patience_counter": 2 } }, "TrainerControl": { "args": { "should_epoch_stop": false, "should_evaluate": false, "should_log": false, "should_save": true, "should_training_stop": true }, "attributes": {} } }, "total_flos": 113103460761600.0, "train_batch_size": 4, "trial_name": null, "trial_params": null }