mapreduce主程序如何传递变量到map或者reduce函数中使用
2014-09-02 00:00
369 查看
摘要: mapreduce主程序如何传递变量到map或者reduce函数中使用
一般我们写的mapreduce主程序放在客户端机器上,执行任务时是在集群机器上,所以要将变量从主程序传递到我们自己写的map或者reduce函数中就不能使用全局变量,因为map和reduce函数的执行是在集群的内存中,而mapreduce主程序的执行是在客户端机器的内存中。可以使用以下方法解决:
1 首先全局变量不可以使用,因为全局变量是在运行mapreduce主程序的机器内存当中,在集群的内存中是无法调用的。
2 通过写入mapreduce文件方式,这样如果数据量比较大新增这么一个变量字段不是很合理。
3 通过数据库方式传输。
一般我们写的mapreduce主程序放在客户端机器上,执行任务时是在集群机器上,所以要将变量从主程序传递到我们自己写的map或者reduce函数中就不能使用全局变量,因为map和reduce函数的执行是在集群的内存中,而mapreduce主程序的执行是在客户端机器的内存中。可以使用以下方法解决:
1 首先全局变量不可以使用,因为全局变量是在运行mapreduce主程序的机器内存当中,在集群的内存中是无法调用的。
2 通过写入mapreduce文件方式,这样如果数据量比较大新增这么一个变量字段不是很合理。
3 通过数据库方式传输。
相关文章推荐
- 使用eclipse的快捷键自动生成的map或者reduce函数的参数中:“org.apache.hadoop.mapreduce.Reducer.Context context”
- js刷新页面时不要刷新定时器或者js刷新页面时如何保存变量 ,禁止使用cookie
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable]
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable]
- Python+Hadoop Streaming实现MapReduce(如何给map和reduce的脚本传递参数)
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable]
- Python+Hadoop Streaming实现MapReduce(如何给map和reduce的脚本传递参数)
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable]
- 如何使用BMap.Point传递变量、存储数据?
- 如何将c语言的变量传递给shell脚本使用
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable]
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable] .
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable]
- Java如何把链接中的参数在页面使用参数名字获取ModelMap model去页面显示或者处理
- 使用Ext.net或者ExtJS时,如何在调用Grid.save()或者Store.save()传递更多的参数到后台
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable]
- Android中如何使用Intent在Activity之间传递对象[使用Serializable或者Parcelable]
- c++中如何关联两个变量的值-键值对,c++map的使用
- 【转】Android中如何使用Bundle传递对象[使用Serializable或者Parcelable] -- 不错
- MapReduce传递文件内容到map中使用