You've already forked mariadb-columnstore-engine
mirror of
https://github.com/mariadb-corporation/mariadb-columnstore-engine.git
synced 2025-07-29 08:21:15 +03:00
Welford algorithm for STD and VAR
Naive algorithm for calculating STD and VAR is subject to catastrophic cancellation. A well-known Welford's algorithms is used instead.
This commit is contained in:
254
mysql-test/columnstore/std_data/tinyint_range.tbl
Normal file
254
mysql-test/columnstore/std_data/tinyint_range.tbl
Normal file
@ -0,0 +1,254 @@
|
||||
-126|0
|
||||
-125|1
|
||||
-124|2
|
||||
-123|3
|
||||
-122|4
|
||||
-121|5
|
||||
-120|6
|
||||
-119|7
|
||||
-118|8
|
||||
-117|9
|
||||
-116|10
|
||||
-115|11
|
||||
-114|12
|
||||
-113|13
|
||||
-112|14
|
||||
-111|15
|
||||
-110|16
|
||||
-109|17
|
||||
-108|18
|
||||
-107|19
|
||||
-106|20
|
||||
-105|21
|
||||
-104|22
|
||||
-103|23
|
||||
-102|24
|
||||
-101|25
|
||||
-100|26
|
||||
-99|27
|
||||
-98|28
|
||||
-97|29
|
||||
-96|30
|
||||
-95|31
|
||||
-94|32
|
||||
-93|33
|
||||
-92|34
|
||||
-91|35
|
||||
-90|36
|
||||
-89|37
|
||||
-88|38
|
||||
-87|39
|
||||
-86|40
|
||||
-85|41
|
||||
-84|42
|
||||
-83|43
|
||||
-82|44
|
||||
-81|45
|
||||
-80|46
|
||||
-79|47
|
||||
-78|48
|
||||
-77|49
|
||||
-76|50
|
||||
-75|51
|
||||
-74|52
|
||||
-73|53
|
||||
-72|54
|
||||
-71|55
|
||||
-70|56
|
||||
-69|57
|
||||
-68|58
|
||||
-67|59
|
||||
-66|60
|
||||
-65|61
|
||||
-64|62
|
||||
-63|63
|
||||
-62|64
|
||||
-61|65
|
||||
-60|66
|
||||
-59|67
|
||||
-58|68
|
||||
-57|69
|
||||
-56|70
|
||||
-55|71
|
||||
-54|72
|
||||
-53|73
|
||||
-52|74
|
||||
-51|75
|
||||
-50|76
|
||||
-49|77
|
||||
-48|78
|
||||
-47|79
|
||||
-46|80
|
||||
-45|81
|
||||
-44|82
|
||||
-43|83
|
||||
-42|84
|
||||
-41|85
|
||||
-40|86
|
||||
-39|87
|
||||
-38|88
|
||||
-37|89
|
||||
-36|90
|
||||
-35|91
|
||||
-34|92
|
||||
-33|93
|
||||
-32|94
|
||||
-31|95
|
||||
-30|96
|
||||
-29|97
|
||||
-28|98
|
||||
-27|99
|
||||
-26|100
|
||||
-25|101
|
||||
-24|102
|
||||
-23|103
|
||||
-22|104
|
||||
-21|105
|
||||
-20|106
|
||||
-19|107
|
||||
-18|108
|
||||
-17|109
|
||||
-16|110
|
||||
-15|111
|
||||
-14|112
|
||||
-13|113
|
||||
-12|114
|
||||
-11|115
|
||||
-10|116
|
||||
-9|117
|
||||
-8|118
|
||||
-7|119
|
||||
-6|120
|
||||
-5|121
|
||||
-4|122
|
||||
-3|123
|
||||
-2|124
|
||||
-1|125
|
||||
0|126
|
||||
1|127
|
||||
2|128
|
||||
3|129
|
||||
4|130
|
||||
5|131
|
||||
6|132
|
||||
7|133
|
||||
8|134
|
||||
9|135
|
||||
10|136
|
||||
11|137
|
||||
12|138
|
||||
13|139
|
||||
14|140
|
||||
15|141
|
||||
16|142
|
||||
17|143
|
||||
18|144
|
||||
19|145
|
||||
20|146
|
||||
21|147
|
||||
22|148
|
||||
23|149
|
||||
24|150
|
||||
25|151
|
||||
26|152
|
||||
27|153
|
||||
28|154
|
||||
29|155
|
||||
30|156
|
||||
31|157
|
||||
32|158
|
||||
33|159
|
||||
34|160
|
||||
35|161
|
||||
36|162
|
||||
37|163
|
||||
38|164
|
||||
39|165
|
||||
40|166
|
||||
41|167
|
||||
42|168
|
||||
43|169
|
||||
44|170
|
||||
45|171
|
||||
46|172
|
||||
47|173
|
||||
48|174
|
||||
49|175
|
||||
50|176
|
||||
51|177
|
||||
52|178
|
||||
53|179
|
||||
54|180
|
||||
55|181
|
||||
56|182
|
||||
57|183
|
||||
58|184
|
||||
59|185
|
||||
60|186
|
||||
61|187
|
||||
62|188
|
||||
63|189
|
||||
64|190
|
||||
65|191
|
||||
66|192
|
||||
67|193
|
||||
68|194
|
||||
69|195
|
||||
70|196
|
||||
71|197
|
||||
72|198
|
||||
73|199
|
||||
74|200
|
||||
75|201
|
||||
76|202
|
||||
77|203
|
||||
78|204
|
||||
79|205
|
||||
80|206
|
||||
81|207
|
||||
82|208
|
||||
83|209
|
||||
84|210
|
||||
85|211
|
||||
86|212
|
||||
87|213
|
||||
88|214
|
||||
89|215
|
||||
90|216
|
||||
91|217
|
||||
92|218
|
||||
93|219
|
||||
94|220
|
||||
95|221
|
||||
96|222
|
||||
97|223
|
||||
98|224
|
||||
99|225
|
||||
100|226
|
||||
101|227
|
||||
102|228
|
||||
103|229
|
||||
104|230
|
||||
105|231
|
||||
106|232
|
||||
107|233
|
||||
108|234
|
||||
109|235
|
||||
110|236
|
||||
111|237
|
||||
112|238
|
||||
113|239
|
||||
114|240
|
||||
115|241
|
||||
116|242
|
||||
117|243
|
||||
118|244
|
||||
119|245
|
||||
120|246
|
||||
121|247
|
||||
122|248
|
||||
123|249
|
||||
124|250
|
||||
125|251
|
||||
126|252
|
||||
127|253
|
Reference in New Issue
Block a user