1
0
mirror of https://github.com/mariadb-corporation/mariadb-columnstore-engine.git synced 2025-06-07 19:22:02 +03:00
Andrey Piskunov c5fa27475d Welford algorithm for STD and VAR
Naive algorithm for calculating STD and VAR is subject to catastrophic
cancellation. A well-known Welford's algorithms is used instead.
2022-06-03 15:29:30 +03:00

255 lines
1.8 KiB
Plaintext

-126|0
-125|1
-124|2
-123|3
-122|4
-121|5
-120|6
-119|7
-118|8
-117|9
-116|10
-115|11
-114|12
-113|13
-112|14
-111|15
-110|16
-109|17
-108|18
-107|19
-106|20
-105|21
-104|22
-103|23
-102|24
-101|25
-100|26
-99|27
-98|28
-97|29
-96|30
-95|31
-94|32
-93|33
-92|34
-91|35
-90|36
-89|37
-88|38
-87|39
-86|40
-85|41
-84|42
-83|43
-82|44
-81|45
-80|46
-79|47
-78|48
-77|49
-76|50
-75|51
-74|52
-73|53
-72|54
-71|55
-70|56
-69|57
-68|58
-67|59
-66|60
-65|61
-64|62
-63|63
-62|64
-61|65
-60|66
-59|67
-58|68
-57|69
-56|70
-55|71
-54|72
-53|73
-52|74
-51|75
-50|76
-49|77
-48|78
-47|79
-46|80
-45|81
-44|82
-43|83
-42|84
-41|85
-40|86
-39|87
-38|88
-37|89
-36|90
-35|91
-34|92
-33|93
-32|94
-31|95
-30|96
-29|97
-28|98
-27|99
-26|100
-25|101
-24|102
-23|103
-22|104
-21|105
-20|106
-19|107
-18|108
-17|109
-16|110
-15|111
-14|112
-13|113
-12|114
-11|115
-10|116
-9|117
-8|118
-7|119
-6|120
-5|121
-4|122
-3|123
-2|124
-1|125
0|126
1|127
2|128
3|129
4|130
5|131
6|132
7|133
8|134
9|135
10|136
11|137
12|138
13|139
14|140
15|141
16|142
17|143
18|144
19|145
20|146
21|147
22|148
23|149
24|150
25|151
26|152
27|153
28|154
29|155
30|156
31|157
32|158
33|159
34|160
35|161
36|162
37|163
38|164
39|165
40|166
41|167
42|168
43|169
44|170
45|171
46|172
47|173
48|174
49|175
50|176
51|177
52|178
53|179
54|180
55|181
56|182
57|183
58|184
59|185
60|186
61|187
62|188
63|189
64|190
65|191
66|192
67|193
68|194
69|195
70|196
71|197
72|198
73|199
74|200
75|201
76|202
77|203
78|204
79|205
80|206
81|207
82|208
83|209
84|210
85|211
86|212
87|213
88|214
89|215
90|216
91|217
92|218
93|219
94|220
95|221
96|222
97|223
98|224
99|225
100|226
101|227
102|228
103|229
104|230
105|231
106|232
107|233
108|234
109|235
110|236
111|237
112|238
113|239
114|240
115|241
116|242
117|243
118|244
119|245
120|246
121|247
122|248
123|249
124|250
125|251
126|252
127|253