将excel高效导入sqlserver的可行方法
大部分人都知道用oledb来读取数据到dataset,但是读取之后怎么处理dataset就千奇百怪了。很多人通过循环来拼接sql,这样做不但容易出错而且效率低下,System.Data.SqlClient.SqlBulkCopy对于新手来说还是比较陌生的,这个就是传说中效率极高的bcp,6万多数据从excel导入到sql只需要4.5秒。
usingSystem; usingSystem.Data; usingSystem.Windows.Forms; usingSystem.Data.OleDb; namespaceWindowsApplication2 { publicpartialclassForm1:Form { publicForm1() { InitializeComponent(); } privatevoidbutton1_Click(objectsender,EventArgse) { //测试,将excel中的sheet1导入到sqlserver中 stringconnString="server=localhost;uid=sa;pwd=sqlgis;database=master"; System.Windows.Forms.OpenFileDialogfd=newOpenFileDialog(); if(fd.ShowDialog()==DialogResult.OK) { TransferData(fd.FileName,"sheet1",connString); } } publicvoidTransferData(stringexcelFile,stringsheetName,stringconnectionString) { DataSetds=newDataSet(); try { //获取全部数据 stringstrConn="Provider=Microsoft.Jet.OLEDB.4.0;"+"DataSource="+excelFile+";"+"ExtendedProperties=Excel8.0;"; OleDbConnectionconn=newOleDbConnection(strConn); conn.Open(); stringstrExcel=""; OleDbDataAdaptermyCommand=null; strExcel=string.Format("select*from[{0}$]",sheetName); myCommand=newOleDbDataAdapter(strExcel,strConn); myCommand.Fill(ds,sheetName); //如果目标表不存在则创建 stringstrSql=string.Format("ifobject_id('{0}')isnullcreatetable{0}(",sheetName); foreach(System.Data.DataColumncinds.Tables[0].Columns) { strSql+=string.Format("[{0}]varchar(255),",c.ColumnName); } strSql=strSql.Trim(',')+")"; using(System.Data.SqlClient.SqlConnectionsqlconn=newSystem.Data.SqlClient.SqlConnection(connectionString)) { sqlconn.Open(); System.Data.SqlClient.SqlCommandcommand=sqlconn.CreateCommand(); command.CommandText=strSql; command.ExecuteNonQuery(); sqlconn.Close(); } //用bcp导入数据 using(System.Data.SqlClient.SqlBulkCopybcp=newSystem.Data.SqlClient.SqlBulkCopy(connectionString)) { bcp.SqlRowsCopied+=newSystem.Data.SqlClient.SqlRowsCopiedEventHandler(bcp_SqlRowsCopied); bcp.BatchSize=100;//每次传输的行数 bcp.NotifyAfter=100;//进度提示的行数 bcp.DestinationTableName=sheetName;//目标表 bcp.WriteToServer(ds.Tables[0]); } } catch(Exceptionex) { System.Windows.Forms.MessageBox.Show(ex.Message); } } //进度显示 voidbcp_SqlRowsCopied(objectsender,System.Data.SqlClient.SqlRowsCopiedEventArgse) { this.Text=e.RowsCopied.ToString(); this.Update(); } } }
上面的TransferData基本可以直接使用,如果要考虑周全的话,可以用oledb来获取excel的表结构,并且加入ColumnMappings来设置对照字段,这样效果就完全可以做到和sqlserver的dts相同的效果了。