Web Service 接口大量数据传输解决方案
2010-04-02 16:59
232 查看
就管他叫“使用多线程分段获取大量数据方法”吧。假定我们的需求是,通过Web Service获取10W条订单,我的解决方案是 分成10个线程每个线程传输1W条订单分段获取,具体请看下面的流程图及其说明
1,流程图
2,流程说明:
线程1开始请求接口获取1W条数据,当数据成功获取后,接口是闲置的,这时我们开始线程2获取数据,同时线程1继续执行获取数据的后续工作,如果转换数据,这里我用的办法是,使用预先定义的实体对象格式 反序列化XML (据说这种方式比遍历XML或是载入到DataSet中循环 读取都要高效的,具体我没有测试过 ,哈哈)将数据插入到数据后停止线程1。使用这样线程循环的办法处理所有线程读取数据。
1,流程图
2,流程说明:
线程1开始请求接口获取1W条数据,当数据成功获取后,接口是闲置的,这时我们开始线程2获取数据,同时线程1继续执行获取数据的后续工作,如果转换数据,这里我用的办法是,使用预先定义的实体对象格式 反序列化XML (据说这种方式比遍历XML或是载入到DataSet中循环 读取都要高效的,具体我没有测试过 ,哈哈)将数据插入到数据后停止线程1。使用这样线程循环的办法处理所有线程读取数据。
相关文章推荐
- Web Service 接口实现大量数据传输的解决方案
- Web Service 接口大量数据传输解决方案
- Web Service 接口大量数据传输解决方案
- asp.net Web Service 接口大量数据传输解决方案
- Web Service 接口大量数据传输解决方案
- asp.net Web Service 接口大量数据传输解决方案
- thrift中使用list数据类型传输大数据瓶颈及解决方案
- WEB Service下实现大数据量的传输
- 大量数据与Excel交互的解决方案
- 详解 Web service Axis2 JAVA调用.net接口 返回String的xml格式数据
- PHP大量数据循环时内存耗尽问题的解决方案
- 使用mina2对象传输数据是,传输的数据序列化错误与解决方案
- 分析Mysql大量数据导入遇到的问题以及解决方案
- 提高 Web Service 数据传输效率的基本方法
- CXF webservice接口数据传输报错,ClientAbortException: java.io.IOException: 您的主机中的软件中止了一个已建立的连接
- WEB Service 下实现大数据量的传输
- 向SQL Server2005中导入数据出现“SQL 错误描述为: 链接服务器 '(null)' 的 OLE DB 访问接口'STREAM' 返回了对列 '[!BulkInsert].field' 无效的数据”解决方案
- JSON 数据传输 与调用远程接口
- 使用STM32的串口进行大量数据传输