您的位置:首页 > 数据库

iq装载数据文件的数据到数据库中

2012-02-28 15:20 218 查看
方法一:

装载数据文件的数据到数据库中:

LOAD TABLE TblClientInfo(gpNum,gpName,sgpNum,sgpName,segment,IOITier,clientType)

from '/opt/geriftp/pub/ClientInfo.csv'

QUOTES OFF ESCAPES OFF DELIMITED BY '|' WITH CHECKPOINT ON

commit;

方法二:

从Sybase ASE中将数据load到IQ中

1、创建ASE->IQ的链接,也就是在IQ的数据库服务器中创建访问ASE服务器的链接

名叫“LOVCAL_SRV”

2、在IQ中执行语句,从ASE中将数据load到IQ

insert into CM_ORG location 'LOVCAL_SRV.lovcaldb' { SELECT * from CM_ORG }

CREATE EXTERNLOGIN avita

TO GERI_DS

REMOTE LOGIN geridbo

IDENTIFIED BY geridbo

附:IQ装载数据的速度:loadtable>iqbcp>bcp

ASE中直接访问IQ中的表,一般通过建立代理表的方式实现,但是,由于IQ中的表一般数据量比较大,因此在使用时一定要注意,不要轻易的进行表链接操作,特别是两个以上的IQ代理表进行链接操作,性能会急剧下降!

一般采用在ASE中建立临时表的方法,将IQ中的数据导入到ASE临时表中,如果数据量将大的话,可以在临时表上建立索引。然后再跟ASE的表进行链接操作,否则,虽然计划分析器中看到能使用索引,实际执行时,也不会使用索引了,具体原因,有待进一步研究……

当然,数据量达到一定程度时,肯定就只能在ASE中建立固定表,采用BCP等方式进行数据导入了。

ASE中建立IQ的代理表,虽然IQ中的表含有索引,当直接使用ASE中的表与代理表的连接查询时,分析引擎似乎不能分析代理表的索引以便优化与 ASE表的连接性能?

查询计划显示,....... Executing Partial Query Remotely

当ASE的表与一个代理表连接时,尚无太大变化,但是同时连接两个代理表时,发觉性能迅速下降,其中的原因是什么?

查询语句如下:

====================

select B.MXFACCOD,A.FACCOD,A.CLNBJG,A.ZLNBJG,JC.DAT AS JCDAT,MX.DAT AS MXDAT

from LOVCAL_TABLE1 A INNER JOIN

LOVCAL_TABLE2 B ON A.FACCOD=B.BASFACCOD AND A.PARMID='0000011819'

INNER JOIN IQ_LOVCAL_TABLE3 JC ON

JC.FACCOD=B.BASFACCOD AND JC.ORG='1599990009' AND JC.DTE='20080430' AND JC.CCY='01'

INNER JOIN IQ_LOVCAL_TABLE3 MX ON

MX.FACCOD=B.MXFACCOD AND MX.ORG='1599990009' AND MX.DTE='20080430' AND MX.CCY='01'

====================

上面语句,只连接一个代理表IQ_LOVCAL_TABLE3 时,执行时间为2s,但是连接两个代理表IQ_LOVCAL_TABLE3 时,很长时间也不能返回。

当然IQ_LOVCAL_TABLE3 数据量比较大,难道索引丢失,改为全表稍描?

IQ库的数据组织方式有关?

===>不是,直接两个代理表连接时没问题的,就是与LOVCAL_TABLE2 的两个连接出问题

更改为如下语句,耗时5s:

======================================

select B.MXFACCOD,A.FACCOD,A.CLNBJG,A.ZLNBJG,JC.DAT AS JCDAT,MX.DAT AS MXDAT

from LOVCAL_TABLE1 A INNER JOIN

LOVCAL_TABLE2 B ON A.FACCOD=B.BASFACCOD AND A.PARMID='0000011819'

INNER JOIN IQ_LOVCAL_TABLE3 JC ON

JC.FACCOD=A.FACCOD AND JC.ORG='1599990009' AND JC.DTE='20080430' AND JC.CCY='01'

INNER JOIN IQ_LOVCAL_TABLE3 MX ON

MX.FACCOD=B.MXFACCOD AND MX.ORG='1599990009' AND MX.DTE='20080430' AND MX.CCY='01'

======================================

更改为临时表方式,耗时3s:

======================================

select B.MXFACCOD,A.FACCOD,A.CLNBJG,A.ZLNBJG,JC.DAT AS JCDAT--,MX.DAT AS MXDAT

into #t1

from LOVCAL_TABLE1 A INNER JOIN

LOVCAL_TABLE2 B ON A.FACCOD=B.BASFACCOD AND A.PARMID='0000011819'

INNER JOIN IQ_LOVCAL_TABLE3 JC ON

JC.FACCOD=A.FACCOD AND JC.ORG='1599990009' AND JC.DTE='20080430' AND JC.CCY='01'

select B.MXFACCOD,A.FACCOD,A.CLNBJG,A.ZLNBJG,MX.DAT AS MXDAT

into #t2

from LOVCAL_TABLE1 A INNER JOIN

LOVCAL_TABLE2 B ON A.FACCOD=B.BASFACCOD AND A.PARMID='0000011819'

INNER JOIN IQ_LOVCAL_TABLE3 MX ON

MX.FACCOD=B.MXFACCOD AND MX.ORG='1599990009' AND MX.DTE='20080430' AND MX.CCY='01'

select #t1.*,#t2.MXDAT from #t1 inner join #t2

on #t1.MXFACCOD=#t2.MXFACCOD and #t1.FACCOD=#t2.FACCOD

drop table #t1

drop table #t2
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: