spark提交任务,参数的形式是JSON
2017-10-12 10:33
204 查看
spark提交任务,参数的形式是JSON
比如:spark2-submit --class com.iflytek.test.Jcseg_HiveDemo spark_hive.jar {"tablename":"dhzp","fields":["text1","text2"]} {"tablename":"dhzp111","fields":["text1_jcseg","text2_jcseg"]}
第一个参数:{"tablename":"dhzp","fields":["text1","text2"]}
第二个参数:{"tablename":"dhzp111","fields":["text1_jcseg","text2_jcseg"]}
结果后台实际接收的参数是这样的:
tablename:dhzp
fields:[text1
text2]
tablename:dhzp111
fields:[text1_jcseg
text2_jcseg]
没有把我的参数JSON参数当作一个整体,而是当作逗号或者空格分割了。这个问题该怎么解决呢?一般来说分俩步:
1.有双引号将整体包裹起来
2.包裹的双引号里面的内容需要加\转义
如下:
spark2-submit --class com.iflytek.test.Jcseg_HiveDemo spark_hive.jar "{\"tablename\":\"dhzp\",\"fields\":[\"text1\",\"text2\"]}" "{\"tablename\":\"dhzp111\",\"fields\":[\"text1_jcseg\",\"text2_jcseg\"]}"
后台接收的参数如下:
{"tablename":"dhzp","fields":["text1","text2"]}
{"tablename":"dhzp111","fields":["text1_jcseg","text2_jcseg"]}
比如:spark2-submit --class com.iflytek.test.Jcseg_HiveDemo spark_hive.jar {"tablename":"dhzp","fields":["text1","text2"]} {"tablename":"dhzp111","fields":["text1_jcseg","text2_jcseg"]}
第一个参数:{"tablename":"dhzp","fields":["text1","text2"]}
第二个参数:{"tablename":"dhzp111","fields":["text1_jcseg","text2_jcseg"]}
结果后台实际接收的参数是这样的:
tablename:dhzp
fields:[text1
text2]
tablename:dhzp111
fields:[text1_jcseg
text2_jcseg]
没有把我的参数JSON参数当作一个整体,而是当作逗号或者空格分割了。这个问题该怎么解决呢?一般来说分俩步:
1.有双引号将整体包裹起来
2.包裹的双引号里面的内容需要加\转义
如下:
spark2-submit --class com.iflytek.test.Jcseg_HiveDemo spark_hive.jar "{\"tablename\":\"dhzp\",\"fields\":[\"text1\",\"text2\"]}" "{\"tablename\":\"dhzp111\",\"fields\":[\"text1_jcseg\",\"text2_jcseg\"]}"
后台接收的参数如下:
{"tablename":"dhzp","fields":["text1","text2"]}
{"tablename":"dhzp111","fields":["text1_jcseg","text2_jcseg"]}
相关文章推荐
- Spark任务提交-json参数踩坑
- spark submit参数及调优,任务提交脚本
- Web提交参数到Spark集群执行任务
- spark-2.1.0提交任务的配置参数说明
- spark任务提交参数
- Spark on Yarn:任务提交参数配置
- Java Web提交参数到Spark集群执行任务
- Spark on Yarn:任务提交参数配置
- zeppelin 提交spark 任务异常:.JsonMappingException: Could not find creator property with name zeppelin
- sparkStreaming提交任务时指定参数
- httpclient提交json参数
- Spark提交任务到集群
- 题型:编写一段JS代码提取URL中的各个GET参数,并按Key_Value的形式返回到一个对象中(如:Json结构)
- spark提交任务端口占用异常
- spark-submit提交任务到集群
- Spark任务提交与执行之RDD的创建、转换及DAG构建
- spark-submit提交任务到集群-案例
- spark入门知识和job任务提交流程
- Spark 性能相关参数配置详解-任务调度篇
- windons下远程提交任务搭配linux上的spark集群