You've already forked mariadb-columnstore-engine
mirror of
https://github.com/mariadb-corporation/mariadb-columnstore-engine.git
synced 2025-07-29 08:21:15 +03:00
Reformat all code to coding standard
This commit is contained in:
Andrew Hutchings
@ -32,7 +32,7 @@ using namespace execplan;
|
||||
|
||||
#include "rowgroup.h"
|
||||
using namespace rowgroup;
|
||||
|
||||
|
||||
#include "errorcodes.h"
|
||||
#include "idberrorinfo.h"
|
||||
#include "errorids.h"
|
||||
@ -47,20 +47,22 @@ using namespace funcexp;
|
||||
|
||||
inline void decimalPlaceDouble(FunctionParm& fp, int64_t& s, double& p, Row& row, bool& isNull)
|
||||
{
|
||||
s = fp[1]->data()->getIntVal(row, isNull);
|
||||
int64_t d = s;
|
||||
if (isNull)
|
||||
return;
|
||||
s = fp[1]->data()->getIntVal(row, isNull);
|
||||
int64_t d = s;
|
||||
|
||||
int64_t i = (d >= 0) ? d : (-d);
|
||||
int64_t r = 1;
|
||||
while (i--)
|
||||
r *= 10;
|
||||
if (isNull)
|
||||
return;
|
||||
|
||||
if (d >= 0)
|
||||
p = (double) r;
|
||||
else
|
||||
p = 1.0 / ((double) r);
|
||||
int64_t i = (d >= 0) ? d : (-d);
|
||||
int64_t r = 1;
|
||||
|
||||
while (i--)
|
||||
r *= 10;
|
||||
|
||||
if (d >= 0)
|
||||
p = (double) r;
|
||||
else
|
||||
p = 1.0 / ((double) r);
|
||||
}
|
||||
|
||||
}
|
||||
@ -70,31 +72,34 @@ namespace funcexp
|
||||
|
||||
CalpontSystemCatalog::ColType Func_round::operationType(FunctionParm& fp, CalpontSystemCatalog::ColType& resultType)
|
||||
{
|
||||
if (resultType.colDataType == execplan::CalpontSystemCatalog::DECIMAL)
|
||||
{
|
||||
CalpontSystemCatalog::ColType ct = fp[0]->data()->resultType();
|
||||
switch (ct.colDataType)
|
||||
{
|
||||
case execplan::CalpontSystemCatalog::BIGINT:
|
||||
case execplan::CalpontSystemCatalog::INT:
|
||||
case execplan::CalpontSystemCatalog::MEDINT:
|
||||
case execplan::CalpontSystemCatalog::TINYINT:
|
||||
case execplan::CalpontSystemCatalog::SMALLINT:
|
||||
case execplan::CalpontSystemCatalog::DECIMAL:
|
||||
case execplan::CalpontSystemCatalog::UDECIMAL:
|
||||
{
|
||||
if (resultType.scale > ct.scale)
|
||||
(resultType).scale = ct.scale;
|
||||
break;
|
||||
}
|
||||
default:
|
||||
{
|
||||
break;
|
||||
}
|
||||
}
|
||||
}
|
||||
if (resultType.colDataType == execplan::CalpontSystemCatalog::DECIMAL)
|
||||
{
|
||||
CalpontSystemCatalog::ColType ct = fp[0]->data()->resultType();
|
||||
|
||||
return fp[0]->data()->resultType();
|
||||
switch (ct.colDataType)
|
||||
{
|
||||
case execplan::CalpontSystemCatalog::BIGINT:
|
||||
case execplan::CalpontSystemCatalog::INT:
|
||||
case execplan::CalpontSystemCatalog::MEDINT:
|
||||
case execplan::CalpontSystemCatalog::TINYINT:
|
||||
case execplan::CalpontSystemCatalog::SMALLINT:
|
||||
case execplan::CalpontSystemCatalog::DECIMAL:
|
||||
case execplan::CalpontSystemCatalog::UDECIMAL:
|
||||
{
|
||||
if (resultType.scale > ct.scale)
|
||||
(resultType).scale = ct.scale;
|
||||
|
||||
break;
|
||||
}
|
||||
|
||||
default:
|
||||
{
|
||||
break;
|
||||
}
|
||||
}
|
||||
}
|
||||
|
||||
return fp[0]->data()->resultType();
|
||||
}
|
||||
|
||||
|
||||
@ -102,389 +107,426 @@ CalpontSystemCatalog::ColType Func_round::operationType(FunctionParm& fp, Calpon
|
||||
//
|
||||
|
||||
int64_t Func_round::getIntVal(Row& row,
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
{
|
||||
IDB_Decimal x = getDecimalVal(row, parm, isNull, op_ct);
|
||||
IDB_Decimal x = getDecimalVal(row, parm, isNull, op_ct);
|
||||
|
||||
if (x.scale > 0)
|
||||
{
|
||||
while (x.scale-- > 0)
|
||||
x.value /= 10;
|
||||
}
|
||||
else
|
||||
{
|
||||
while (x.scale++ < 0)
|
||||
x.value *= 10;
|
||||
}
|
||||
if (x.scale > 0)
|
||||
{
|
||||
while (x.scale-- > 0)
|
||||
x.value /= 10;
|
||||
}
|
||||
else
|
||||
{
|
||||
while (x.scale++ < 0)
|
||||
x.value *= 10;
|
||||
}
|
||||
|
||||
return x.value;
|
||||
return x.value;
|
||||
}
|
||||
|
||||
|
||||
uint64_t Func_round::getUintVal(Row& row,
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
{
|
||||
return parm[0]->data()->getUintVal(row, isNull);
|
||||
return parm[0]->data()->getUintVal(row, isNull);
|
||||
}
|
||||
|
||||
|
||||
double Func_round::getDoubleVal(Row& row,
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
{
|
||||
if (execplan::CalpontSystemCatalog::DOUBLE == op_ct.colDataType ||
|
||||
execplan::CalpontSystemCatalog::FLOAT == op_ct.colDataType)
|
||||
{
|
||||
int64_t d = 0;
|
||||
double p = 1;
|
||||
if (parm.size() > 1) // round(X, D)
|
||||
decimalPlaceDouble(parm, d, p, row, isNull);
|
||||
if (execplan::CalpontSystemCatalog::DOUBLE == op_ct.colDataType ||
|
||||
execplan::CalpontSystemCatalog::FLOAT == op_ct.colDataType)
|
||||
{
|
||||
int64_t d = 0;
|
||||
double p = 1;
|
||||
|
||||
if (isNull)
|
||||
return 0.0;
|
||||
if (parm.size() > 1) // round(X, D)
|
||||
decimalPlaceDouble(parm, d, p, row, isNull);
|
||||
|
||||
double x = parm[0]->data()->getDoubleVal(row, isNull);
|
||||
if (!isNull)
|
||||
{
|
||||
x *= p;
|
||||
if (x >= 0)
|
||||
x = floor(x + 0.5);
|
||||
else
|
||||
x = ceil(x - 0.5);
|
||||
if (isNull)
|
||||
return 0.0;
|
||||
|
||||
if (p != 0.0)
|
||||
x /= p;
|
||||
else
|
||||
x = 0.0;
|
||||
}
|
||||
double x = parm[0]->data()->getDoubleVal(row, isNull);
|
||||
|
||||
return x;
|
||||
}
|
||||
if (isUnsigned(op_ct.colDataType))
|
||||
{
|
||||
return getUintVal(row, parm, isNull, op_ct);
|
||||
}
|
||||
if (!isNull)
|
||||
{
|
||||
x *= p;
|
||||
|
||||
IDB_Decimal x = getDecimalVal(row, parm, isNull, op_ct);
|
||||
if (isNull)
|
||||
return 0.0;
|
||||
if (x >= 0)
|
||||
x = floor(x + 0.5);
|
||||
else
|
||||
x = ceil(x - 0.5);
|
||||
|
||||
double d = x.value;
|
||||
if (x.scale > 0)
|
||||
{
|
||||
while (x.scale-- > 0)
|
||||
d /= 10.0;
|
||||
}
|
||||
else
|
||||
{
|
||||
while (x.scale++ < 0)
|
||||
d *= 10.0;
|
||||
}
|
||||
if (p != 0.0)
|
||||
x /= p;
|
||||
else
|
||||
x = 0.0;
|
||||
}
|
||||
|
||||
return d;
|
||||
return x;
|
||||
}
|
||||
|
||||
if (isUnsigned(op_ct.colDataType))
|
||||
{
|
||||
return getUintVal(row, parm, isNull, op_ct);
|
||||
}
|
||||
|
||||
IDB_Decimal x = getDecimalVal(row, parm, isNull, op_ct);
|
||||
|
||||
if (isNull)
|
||||
return 0.0;
|
||||
|
||||
double d = x.value;
|
||||
|
||||
if (x.scale > 0)
|
||||
{
|
||||
while (x.scale-- > 0)
|
||||
d /= 10.0;
|
||||
}
|
||||
else
|
||||
{
|
||||
while (x.scale++ < 0)
|
||||
d *= 10.0;
|
||||
}
|
||||
|
||||
return d;
|
||||
}
|
||||
|
||||
|
||||
IDB_Decimal Func_round::getDecimalVal(Row& row,
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
{
|
||||
IDB_Decimal decimal;
|
||||
IDB_Decimal decimal;
|
||||
|
||||
switch (op_ct.colDataType)
|
||||
{
|
||||
case execplan::CalpontSystemCatalog::BIGINT:
|
||||
case execplan::CalpontSystemCatalog::INT:
|
||||
case execplan::CalpontSystemCatalog::MEDINT:
|
||||
case execplan::CalpontSystemCatalog::TINYINT:
|
||||
case execplan::CalpontSystemCatalog::SMALLINT:
|
||||
case execplan::CalpontSystemCatalog::DECIMAL:
|
||||
case execplan::CalpontSystemCatalog::UDECIMAL:
|
||||
{
|
||||
int64_t d = 0;
|
||||
//@Bug 3101 - GCC 4.5.1 optimizes too aggressively here. Mark as volatile.
|
||||
volatile int64_t p = 1;
|
||||
decimal = parm[0]->data()->getDecimalVal(row, isNull);
|
||||
if (!isNull && parm.size() > 1) // round(X, D)
|
||||
{
|
||||
int64_t nvp = p;
|
||||
d = parm[1]->data()->getIntVal(row, isNull);
|
||||
if (!isNull)
|
||||
helpers::decimalPlaceDec(d, nvp, decimal.scale);
|
||||
p = nvp;
|
||||
}
|
||||
switch (op_ct.colDataType)
|
||||
{
|
||||
case execplan::CalpontSystemCatalog::BIGINT:
|
||||
case execplan::CalpontSystemCatalog::INT:
|
||||
case execplan::CalpontSystemCatalog::MEDINT:
|
||||
case execplan::CalpontSystemCatalog::TINYINT:
|
||||
case execplan::CalpontSystemCatalog::SMALLINT:
|
||||
case execplan::CalpontSystemCatalog::DECIMAL:
|
||||
case execplan::CalpontSystemCatalog::UDECIMAL:
|
||||
{
|
||||
int64_t d = 0;
|
||||
//@Bug 3101 - GCC 4.5.1 optimizes too aggressively here. Mark as volatile.
|
||||
volatile int64_t p = 1;
|
||||
decimal = parm[0]->data()->getDecimalVal(row, isNull);
|
||||
|
||||
if (isNull)
|
||||
break;
|
||||
if (!isNull && parm.size() > 1) // round(X, D)
|
||||
{
|
||||
int64_t nvp = p;
|
||||
d = parm[1]->data()->getIntVal(row, isNull);
|
||||
|
||||
int64_t x = decimal.value;
|
||||
if (d > 0)
|
||||
{
|
||||
x = x * p;
|
||||
}
|
||||
else if (d < 0)
|
||||
{
|
||||
int64_t h = p / 2; // 0.5
|
||||
if ((x >= h) || (x <= -h))
|
||||
{
|
||||
if (x >= 0)
|
||||
x += h;
|
||||
else
|
||||
x -= h;
|
||||
if (!isNull)
|
||||
helpers::decimalPlaceDec(d, nvp, decimal.scale);
|
||||
|
||||
if (p != 0)
|
||||
x = x / p;
|
||||
else
|
||||
x = 0;
|
||||
}
|
||||
else
|
||||
{
|
||||
x = 0;
|
||||
}
|
||||
}
|
||||
p = nvp;
|
||||
}
|
||||
|
||||
// negative scale is not supported by CNX yet, set d to 0.
|
||||
if (decimal.scale < 0)
|
||||
{
|
||||
do
|
||||
x *= 10;
|
||||
while (++decimal.scale < 0);
|
||||
}
|
||||
decimal.value = x;
|
||||
}
|
||||
break;
|
||||
|
||||
case execplan::CalpontSystemCatalog::UBIGINT:
|
||||
case execplan::CalpontSystemCatalog::UINT:
|
||||
case execplan::CalpontSystemCatalog::UMEDINT:
|
||||
case execplan::CalpontSystemCatalog::UTINYINT:
|
||||
case execplan::CalpontSystemCatalog::USMALLINT:
|
||||
{
|
||||
uint64_t x = parm[0]->data()->getUintVal(row, isNull);
|
||||
if (x > (uint64_t)helpers::maxNumber_c[18])
|
||||
{
|
||||
x = helpers::maxNumber_c[18];
|
||||
}
|
||||
if (isNull)
|
||||
break;
|
||||
|
||||
decimal.value = x;
|
||||
decimal.scale = 0;
|
||||
}
|
||||
break;
|
||||
int64_t x = decimal.value;
|
||||
|
||||
case execplan::CalpontSystemCatalog::DOUBLE:
|
||||
case execplan::CalpontSystemCatalog::UDOUBLE:
|
||||
case execplan::CalpontSystemCatalog::FLOAT:
|
||||
case execplan::CalpontSystemCatalog::UFLOAT:
|
||||
case execplan::CalpontSystemCatalog::VARCHAR:
|
||||
case execplan::CalpontSystemCatalog::CHAR:
|
||||
case execplan::CalpontSystemCatalog::TEXT:
|
||||
{
|
||||
int64_t s = 0;
|
||||
double p = 1;
|
||||
if (parm.size() > 1) // round(X, D)
|
||||
decimalPlaceDouble(parm, s, p, row, isNull);
|
||||
if (d > 0)
|
||||
{
|
||||
x = x * p;
|
||||
}
|
||||
else if (d < 0)
|
||||
{
|
||||
int64_t h = p / 2; // 0.5
|
||||
|
||||
if (isNull)
|
||||
break;
|
||||
if ((x >= h) || (x <= -h))
|
||||
{
|
||||
if (x >= 0)
|
||||
x += h;
|
||||
else
|
||||
x -= h;
|
||||
|
||||
double x = parm[0]->data()->getDoubleVal(row, isNull);
|
||||
if (!isNull)
|
||||
{
|
||||
x *= p;
|
||||
if (x >= 0)
|
||||
x = floor(x + 0.5);
|
||||
else
|
||||
x = ceil(x - 0.5);
|
||||
if (p != 0)
|
||||
x = x / p;
|
||||
else
|
||||
x = 0;
|
||||
}
|
||||
else
|
||||
{
|
||||
x = 0;
|
||||
}
|
||||
}
|
||||
|
||||
decimal.value = (int64_t) x;
|
||||
decimal.scale = s;
|
||||
}
|
||||
}
|
||||
break;
|
||||
// negative scale is not supported by CNX yet, set d to 0.
|
||||
if (decimal.scale < 0)
|
||||
{
|
||||
do
|
||||
x *= 10;
|
||||
|
||||
case execplan::CalpontSystemCatalog::DATE:
|
||||
{
|
||||
int32_t s = 0;
|
||||
while (++decimal.scale < 0);
|
||||
}
|
||||
|
||||
string value = dataconvert::DataConvert::dateToString1(parm[0]->data()->getDateIntVal(row, isNull));
|
||||
decimal.value = x;
|
||||
}
|
||||
break;
|
||||
|
||||
if (parm.size() > 1) { // round(X, D)
|
||||
s = parm[1]->data()->getIntVal(row, isNull);
|
||||
if ( s > 11 )
|
||||
s = 0;
|
||||
if ( s > 0 ) {
|
||||
for ( int i = 0 ; i < s ; i++)
|
||||
{
|
||||
value = value + "0";
|
||||
}
|
||||
}
|
||||
else
|
||||
{
|
||||
if ( -s >= (int32_t) value.size() )
|
||||
value = "0";
|
||||
else
|
||||
{
|
||||
//check to see if last digit needs to be rounded up
|
||||
int firstcutdigit = atoi(value.substr(value.size() + s,1).c_str());
|
||||
value = value.substr(0,value.size() + s);
|
||||
int lastdigit = atoi(value.substr(value.size()-1,1).c_str());
|
||||
if ( firstcutdigit > 5 ) {
|
||||
lastdigit++;
|
||||
string lastStr = intToString(lastdigit);
|
||||
value = value.substr(0, value.size()-1) + lastStr;
|
||||
}
|
||||
case execplan::CalpontSystemCatalog::UBIGINT:
|
||||
case execplan::CalpontSystemCatalog::UINT:
|
||||
case execplan::CalpontSystemCatalog::UMEDINT:
|
||||
case execplan::CalpontSystemCatalog::UTINYINT:
|
||||
case execplan::CalpontSystemCatalog::USMALLINT:
|
||||
{
|
||||
uint64_t x = parm[0]->data()->getUintVal(row, isNull);
|
||||
|
||||
s = -s;
|
||||
for ( int i = 0 ; i < s ; i++)
|
||||
{
|
||||
value = value + "0";
|
||||
}
|
||||
}
|
||||
if (x > (uint64_t)helpers::maxNumber_c[18])
|
||||
{
|
||||
x = helpers::maxNumber_c[18];
|
||||
}
|
||||
|
||||
s = 0;
|
||||
}
|
||||
}
|
||||
decimal.value = x;
|
||||
decimal.scale = 0;
|
||||
}
|
||||
break;
|
||||
|
||||
int64_t x = atoll(value.c_str());
|
||||
if (!isNull)
|
||||
{
|
||||
decimal.value = x;
|
||||
decimal.scale = s;
|
||||
}
|
||||
}
|
||||
break;
|
||||
case execplan::CalpontSystemCatalog::DOUBLE:
|
||||
case execplan::CalpontSystemCatalog::UDOUBLE:
|
||||
case execplan::CalpontSystemCatalog::FLOAT:
|
||||
case execplan::CalpontSystemCatalog::UFLOAT:
|
||||
case execplan::CalpontSystemCatalog::VARCHAR:
|
||||
case execplan::CalpontSystemCatalog::CHAR:
|
||||
case execplan::CalpontSystemCatalog::TEXT:
|
||||
{
|
||||
int64_t s = 0;
|
||||
double p = 1;
|
||||
|
||||
case execplan::CalpontSystemCatalog::DATETIME:
|
||||
{
|
||||
int32_t s = 0;
|
||||
if (parm.size() > 1) // round(X, D)
|
||||
decimalPlaceDouble(parm, s, p, row, isNull);
|
||||
|
||||
string value = dataconvert::DataConvert::datetimeToString1(parm[0]->data()->getDatetimeIntVal(row, isNull));
|
||||
if (isNull)
|
||||
break;
|
||||
|
||||
//strip off micro seconds
|
||||
value = value.substr(0,14);
|
||||
double x = parm[0]->data()->getDoubleVal(row, isNull);
|
||||
|
||||
if (parm.size() > 1) { // round(X, D)
|
||||
s = parm[1]->data()->getIntVal(row, isNull);
|
||||
if ( s > 5 )
|
||||
s = 0;
|
||||
if ( s > 0 ) {
|
||||
for ( int i = 0 ; i < s ; i++)
|
||||
{
|
||||
value = value + "0";
|
||||
}
|
||||
}
|
||||
else
|
||||
{
|
||||
if ( -s >= (int32_t) value.size() )
|
||||
value = "0";
|
||||
else
|
||||
{
|
||||
//check to see if last digit needs to be rounded up
|
||||
int firstcutdigit = atoi(value.substr(value.size() + s,1).c_str());
|
||||
value = value.substr(0,value.size() + s);
|
||||
int lastdigit = atoi(value.substr(value.size()-1,1).c_str());
|
||||
if ( firstcutdigit > 5 ) {
|
||||
lastdigit++;
|
||||
string lastStr = intToString(lastdigit);
|
||||
value = value.substr(0, value.size()-1) + lastStr;
|
||||
}
|
||||
if (!isNull)
|
||||
{
|
||||
x *= p;
|
||||
|
||||
s = -s;
|
||||
for ( int i = 0 ; i < s ; i++)
|
||||
{
|
||||
value = value + "0";
|
||||
}
|
||||
}
|
||||
if (x >= 0)
|
||||
x = floor(x + 0.5);
|
||||
else
|
||||
x = ceil(x - 0.5);
|
||||
|
||||
s = 0;
|
||||
}
|
||||
}
|
||||
decimal.value = (int64_t) x;
|
||||
decimal.scale = s;
|
||||
}
|
||||
}
|
||||
break;
|
||||
|
||||
int64_t x = atoll(value.c_str());
|
||||
if (!isNull)
|
||||
{
|
||||
decimal.value = x;
|
||||
decimal.scale = s;
|
||||
}
|
||||
}
|
||||
break;
|
||||
case execplan::CalpontSystemCatalog::DATE:
|
||||
{
|
||||
int32_t s = 0;
|
||||
|
||||
string value = dataconvert::DataConvert::dateToString1(parm[0]->data()->getDateIntVal(row, isNull));
|
||||
|
||||
if (parm.size() > 1) // round(X, D)
|
||||
{
|
||||
s = parm[1]->data()->getIntVal(row, isNull);
|
||||
|
||||
if ( s > 11 )
|
||||
s = 0;
|
||||
|
||||
if ( s > 0 )
|
||||
{
|
||||
for ( int i = 0 ; i < s ; i++)
|
||||
{
|
||||
value = value + "0";
|
||||
}
|
||||
}
|
||||
else
|
||||
{
|
||||
if ( -s >= (int32_t) value.size() )
|
||||
value = "0";
|
||||
else
|
||||
{
|
||||
//check to see if last digit needs to be rounded up
|
||||
int firstcutdigit = atoi(value.substr(value.size() + s, 1).c_str());
|
||||
value = value.substr(0, value.size() + s);
|
||||
int lastdigit = atoi(value.substr(value.size() - 1, 1).c_str());
|
||||
|
||||
if ( firstcutdigit > 5 )
|
||||
{
|
||||
lastdigit++;
|
||||
string lastStr = intToString(lastdigit);
|
||||
value = value.substr(0, value.size() - 1) + lastStr;
|
||||
}
|
||||
|
||||
s = -s;
|
||||
|
||||
for ( int i = 0 ; i < s ; i++)
|
||||
{
|
||||
value = value + "0";
|
||||
}
|
||||
}
|
||||
|
||||
s = 0;
|
||||
}
|
||||
}
|
||||
|
||||
int64_t x = atoll(value.c_str());
|
||||
|
||||
if (!isNull)
|
||||
{
|
||||
decimal.value = x;
|
||||
decimal.scale = s;
|
||||
}
|
||||
}
|
||||
break;
|
||||
|
||||
case execplan::CalpontSystemCatalog::DATETIME:
|
||||
{
|
||||
int32_t s = 0;
|
||||
|
||||
string value = dataconvert::DataConvert::datetimeToString1(parm[0]->data()->getDatetimeIntVal(row, isNull));
|
||||
|
||||
//strip off micro seconds
|
||||
value = value.substr(0, 14);
|
||||
|
||||
if (parm.size() > 1) // round(X, D)
|
||||
{
|
||||
s = parm[1]->data()->getIntVal(row, isNull);
|
||||
|
||||
if ( s > 5 )
|
||||
s = 0;
|
||||
|
||||
if ( s > 0 )
|
||||
{
|
||||
for ( int i = 0 ; i < s ; i++)
|
||||
{
|
||||
value = value + "0";
|
||||
}
|
||||
}
|
||||
else
|
||||
{
|
||||
if ( -s >= (int32_t) value.size() )
|
||||
value = "0";
|
||||
else
|
||||
{
|
||||
//check to see if last digit needs to be rounded up
|
||||
int firstcutdigit = atoi(value.substr(value.size() + s, 1).c_str());
|
||||
value = value.substr(0, value.size() + s);
|
||||
int lastdigit = atoi(value.substr(value.size() - 1, 1).c_str());
|
||||
|
||||
if ( firstcutdigit > 5 )
|
||||
{
|
||||
lastdigit++;
|
||||
string lastStr = intToString(lastdigit);
|
||||
value = value.substr(0, value.size() - 1) + lastStr;
|
||||
}
|
||||
|
||||
s = -s;
|
||||
|
||||
for ( int i = 0 ; i < s ; i++)
|
||||
{
|
||||
value = value + "0";
|
||||
}
|
||||
}
|
||||
|
||||
s = 0;
|
||||
}
|
||||
}
|
||||
|
||||
int64_t x = atoll(value.c_str());
|
||||
|
||||
if (!isNull)
|
||||
{
|
||||
decimal.value = x;
|
||||
decimal.scale = s;
|
||||
}
|
||||
}
|
||||
break;
|
||||
|
||||
|
||||
default:
|
||||
{
|
||||
std::ostringstream oss;
|
||||
oss << "round: datatype of " << execplan::colDataTypeToString(op_ct.colDataType);
|
||||
throw logging::IDBExcept(oss.str(), ERR_DATATYPE_NOT_SUPPORT);
|
||||
}
|
||||
}
|
||||
default:
|
||||
{
|
||||
std::ostringstream oss;
|
||||
oss << "round: datatype of " << execplan::colDataTypeToString(op_ct.colDataType);
|
||||
throw logging::IDBExcept(oss.str(), ERR_DATATYPE_NOT_SUPPORT);
|
||||
}
|
||||
}
|
||||
|
||||
return decimal;
|
||||
return decimal;
|
||||
}
|
||||
|
||||
|
||||
string Func_round::getStrVal(Row& row,
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
FunctionParm& parm,
|
||||
bool& isNull,
|
||||
CalpontSystemCatalog::ColType& op_ct)
|
||||
{
|
||||
IDB_Decimal x = getDecimalVal(row, parm, isNull, op_ct);
|
||||
int64_t e = (x.scale < 0) ? (-x.scale) : x.scale;
|
||||
int64_t p = 1;
|
||||
while (e-- > 0)
|
||||
p *= 10;
|
||||
IDB_Decimal x = getDecimalVal(row, parm, isNull, op_ct);
|
||||
int64_t e = (x.scale < 0) ? (-x.scale) : x.scale;
|
||||
int64_t p = 1;
|
||||
|
||||
switch (op_ct.colDataType)
|
||||
{
|
||||
case execplan::CalpontSystemCatalog::BIGINT:
|
||||
case execplan::CalpontSystemCatalog::INT:
|
||||
case execplan::CalpontSystemCatalog::MEDINT:
|
||||
case execplan::CalpontSystemCatalog::TINYINT:
|
||||
case execplan::CalpontSystemCatalog::SMALLINT:
|
||||
case execplan::CalpontSystemCatalog::UBIGINT:
|
||||
case execplan::CalpontSystemCatalog::UINT:
|
||||
case execplan::CalpontSystemCatalog::UMEDINT:
|
||||
case execplan::CalpontSystemCatalog::UTINYINT:
|
||||
case execplan::CalpontSystemCatalog::USMALLINT:
|
||||
if (x.scale != 0)
|
||||
{
|
||||
if (x.scale > 0 && x.scale < 19)
|
||||
{
|
||||
x.value /= IDB_pow[x.scale];
|
||||
}
|
||||
else if (x.scale < 0 && x.scale > -19)
|
||||
{
|
||||
x.value *= IDB_pow[-x.scale]; // may overflow
|
||||
}
|
||||
else if (x.scale > 0)
|
||||
{
|
||||
x.value = 0;
|
||||
}
|
||||
else // overflow may need throw exception
|
||||
{
|
||||
int64_t e = -x.scale % 18;
|
||||
x.value *= IDB_pow[e];
|
||||
e = -x.scale - e;
|
||||
while (e > 0)
|
||||
{
|
||||
x.value *= IDB_pow[18];
|
||||
e -= 18;
|
||||
}
|
||||
}
|
||||
while (e-- > 0)
|
||||
p *= 10;
|
||||
|
||||
x.scale = 0;
|
||||
}
|
||||
break;
|
||||
default:
|
||||
break;
|
||||
}
|
||||
switch (op_ct.colDataType)
|
||||
{
|
||||
case execplan::CalpontSystemCatalog::BIGINT:
|
||||
case execplan::CalpontSystemCatalog::INT:
|
||||
case execplan::CalpontSystemCatalog::MEDINT:
|
||||
case execplan::CalpontSystemCatalog::TINYINT:
|
||||
case execplan::CalpontSystemCatalog::SMALLINT:
|
||||
case execplan::CalpontSystemCatalog::UBIGINT:
|
||||
case execplan::CalpontSystemCatalog::UINT:
|
||||
case execplan::CalpontSystemCatalog::UMEDINT:
|
||||
case execplan::CalpontSystemCatalog::UTINYINT:
|
||||
case execplan::CalpontSystemCatalog::USMALLINT:
|
||||
if (x.scale != 0)
|
||||
{
|
||||
if (x.scale > 0 && x.scale < 19)
|
||||
{
|
||||
x.value /= IDB_pow[x.scale];
|
||||
}
|
||||
else if (x.scale < 0 && x.scale > -19)
|
||||
{
|
||||
x.value *= IDB_pow[-x.scale]; // may overflow
|
||||
}
|
||||
else if (x.scale > 0)
|
||||
{
|
||||
x.value = 0;
|
||||
}
|
||||
else // overflow may need throw exception
|
||||
{
|
||||
int64_t e = -x.scale % 18;
|
||||
x.value *= IDB_pow[e];
|
||||
e = -x.scale - e;
|
||||
|
||||
return dataconvert::DataConvert::decimalToString(x.value, x.scale, op_ct.colDataType);
|
||||
while (e > 0)
|
||||
{
|
||||
x.value *= IDB_pow[18];
|
||||
e -= 18;
|
||||
}
|
||||
}
|
||||
|
||||
x.scale = 0;
|
||||
}
|
||||
|
||||
break;
|
||||
|
||||
default:
|
||||
break;
|
||||
}
|
||||
|
||||
return dataconvert::DataConvert::decimalToString(x.value, x.scale, op_ct.colDataType);
|
||||
}
|
||||
|
||||
|
||||
|
||||
Reference in New Issue
Block a user