spark sql json处理代码修改记录
2015-07-17 18:58
351 查看
spark sql json处理代码修改记录.md
###JacksonParser 字符串到数值类型 的转换几种数值类型都调整,都增加 | VALUE_STRING,如:
增加没有毫秒的数据处理:2015-03-05T08:33:45Z
###发布说明
修改ParserBase 添加 VALUE_STRING处理分支
来自为知笔记(Wiz)
###JacksonParser 字符串到数值类型 的转换几种数值类型都调整,都增加 | VALUE_STRING,如:
</div><div>package org.apache.spark.sql.json<br></div><div><div> case (VALUE_NUMBER_INT | VALUE_NUMBER_FLOAT | VALUE_STRING, FloatType) =></div><div> parser.getFloatValue</div></div><div><br></div><div>###DateUtils 日期时间类型解析默认支持格式:2015-03-05T08:25:55.769Z
增加没有毫秒的数据处理:2015-03-05T08:33:45Z
</div><div>package <span style="font-size: 10.5pt; line-height: 1.5;">org.apache.spark.sql.catalyst.util</span><br></div><div><div>if (s.endsWith("Z")) {</div><div> // this is zero timezone of ISO8601</div><div> if (s.length==24) {</div><div> stringToTime(s.substring(0, s.length - 1) + "GMT-00:00")</div><div> }</div><div> else{</div><div> //hongliangpan add 此种格式,没有毫秒 2015-03-05T08:33:45Z</div><div> stringToTime(s.substring(0, s.length - 1) + ".000GMT-00:00")</div><div> }</div><div> }</div></div><div>
###发布说明
</div><div>替换官方代码</div><div>或先加载二次开发包</div><div>sql 加上where 条件后,就不能查询出数据,原因还是 数值类型 用双引号的问题"stayTime":"33.015",
修改ParserBase 添加 VALUE_STRING处理分支
</div><div>package com.fasterxml.jackson.core.base;<br></div><div><div>else if(this._currToken == JsonToken.VALUE_STRING) {</div><div> this._parseSlowFloat(expType);</div><div> } else {</div><div> this._reportError("Current token (" + this._currToken + ") not numeric, can not use numeric value accessors");</div><div> }</div></div><div>
来自为知笔记(Wiz)
相关文章推荐
- Oracle分析函数
- mysql的MyISAM 和 InnoDB 的区别?优化MYSQL数据库的方法?
- MySQL 性能优化的最佳20多条经验分享
- 关于数据库性能优化小经验
- mysql 二级索引
- mysql大表设计
- mysql事务和锁InnoDB
- 关于NoSQL与SQL的区别
- database - 数据库设计/使用容易忽略的细节
- 理解MySQL--索引与优化(转载)
- C#运用实例.读取csv里面的词条,对每一个词条抓取百度百科相关资料,然后存取到数据库
- SQL语句优化原则
- jedis访问redis学习笔记
- jedis访问redis学习笔记
- Mongodb分片搭建(单实例)
- SQL查询语言练习
- 配置MySQL免安装版(zip)
- Memcached深度分析
- Oracle 中的 TO_DATE 和 TO_CHAR 函数 日期处理
- mysql 存储过程