기본 콘텐츠로 건너뛰기

C#에서 Bulk Insert(대량 삽입) 방법

 


C#에서 Bulk Insert(대량 삽입) 최적화하기 – SQL Server & Oracle 완벽 가이드 


데이터베이스에서 대량 데이터를 삽입할 때, 개별 INSERT 문을 반복 실행하는 방식은 성능이 매우 떨어지고, 네트워크 및 데이터베이스 리소스를 비효율적으로 사용할 수 있습니다.

Bulk Insert(대량 삽입) 기술을 활용하면 대량 데이터를 더 빠르게 처리할 수 있으며, 데이터베이스 성능을 크게 향상시킬 수 있습니다. 이번 글에서는 C#에서 SQL Server 및 Oracle을 대상으로 효율적인 Bulk Insert 방법을 설명하고, 최적의 성능을 내기 위한 팁을 공유하겠습니다.


1. C#에서 Bulk Insert를 수행하는 다양한 방법

C#에서 Bulk Insert를 수행하는 대표적인 방법은 다음과 같습니다.

✅ SQL Server

  1. SqlBulkCopy 활용 (가장 빠름)
  2. Table-Valued Parameter (TVP) + Stored Procedure 활용
  3. Dapper의 Execute를 이용한 다중 삽입
  4. Entity Framework의 AddRange와 SaveChangesAsync 사용

✅ Oracle

  1. OracleBulkCopy 활용 (가장 빠름)
  2. PL/SQL의 FORALL 문을 활용한 대량 삽입
  3. Stored Procedure + TABLE 타입을 이용한 대량 삽입

각 방법의 특징과 코드 예제를 살펴보겠습니다.


2. SQL Server에서 Bulk Insert 수행 방법

SQL Server는 대량 삽입을 최적화하기 위해 다양한 기능을 제공합니다.


2-1. SqlBulkCopy를 활용한 대량 삽입 (SQL Server 전용)

SqlBulkCopy는 .NET에서 SQL Server로 데이터를 한 번에 전송할 수 있는 가장 빠른 방법입니다.

🔹 특징

  • SQL Server에서 가장 빠른 대량 삽입 방법
  • 네트워크 오버헤드를 줄이고 직접 데이터베이스로 스트리밍
  • 트랜잭션을 사용하여 안정적인 데이터 삽입 가능

🔹 C# 코드 예제

using System;
using System.Data;
using System.Data.SqlClient;
using System.Collections.Generic;

class Program
{
    static void Main()
    {
        string connectionString = "Server=your_server;Database=your_db;User Id=your_user;Password=your_password;";
        List<Person> people = new List<Person>
        {
            new Person { FirstName = "John", LastName = "Doe", Age = 30 },
            new Person { FirstName = "Jane", LastName = "Smith", Age = 25 },
        };

        BulkInsert(people, connectionString);
        Console.WriteLine("SQL Server Bulk Insert 완료!");
    }

    static void BulkInsert(List<Person> people, string connectionString)
    {
        using (SqlConnection connection = new SqlConnection(connectionString))
        {
            connection.Open();
            using (SqlBulkCopy bulkCopy = new SqlBulkCopy(connection))
            {
                bulkCopy.DestinationTableName = "Persons";

                DataTable table = new DataTable();
                table.Columns.Add("FirstName", typeof(string));
                table.Columns.Add("LastName", typeof(string));
                table.Columns.Add("Age", typeof(int));

                foreach (var person in people)
                {
                    table.Rows.Add(person.FirstName, person.LastName, person.Age);
                }

                bulkCopy.WriteToServer(table);
            }
        }
    }
}

class Person
{
    public string FirstName { get; set; }
    public string LastName { get; set; }
    public int Age { get; set; }
}

✅ 장점

  • SQL Server에서 가장 빠름
  • 최소한의 네트워크 오버헤드로 최적화됨

⚠️ 단점

  • SQL Server에서만 사용 가능
  • 테이블 매핑을 직접 관리해야 함

2-2. Table-Valued Parameter (TVP) + Stored Procedure 활용

SQL Server에서 **Table-Valued Parameter(TVP)**를 활용하면 다중 행을 한 번에 삽입할 수 있어 성능이 더욱 향상됩니다.

🔹 SQL Server에서 Table Type 생성

CREATE TYPE PersonTableType AS TABLE
(
    FirstName NVARCHAR(50),
    LastName NVARCHAR(50),
    Age INT
);

🔹 저장 프로시저 생성

CREATE PROCEDURE BulkInsertPersons
    @Persons PersonTableType READONLY
AS
BEGIN
    INSERT INTO Persons (FirstName, LastName, Age)
    SELECT FirstName, LastName, Age FROM @Persons;
END

🔹 C# 코드에서 실행

using System;
using System.Collections.Generic;
using System.Data;
using System.Data.SqlClient;

class Program
{
    static void Main()
    {
        string connectionString = "Server=your_server;Database=your_db;User Id=your_user;Password=your_password;";
        List<Person> people = new List<Person>
        {
            new Person { FirstName = "Alice", LastName = "Johnson", Age = 28 },
            new Person { FirstName = "Bob", LastName = "Lee", Age = 35 },
        };

        BulkInsertWithTVP(people, connectionString);
        Console.WriteLine("TVP를 이용한 Bulk Insert 완료!");
    }

    static void BulkInsertWithTVP(List<Person> people, string connectionString)
    {
        using (SqlConnection connection = new SqlConnection(connectionString))
        {
            connection.Open();

            using (SqlCommand cmd = new SqlCommand("BulkInsertPersons", connection))
            {
                cmd.CommandType = CommandType.StoredProcedure;

                DataTable table = new DataTable();
                table.Columns.Add("FirstName", typeof(string));
                table.Columns.Add("LastName", typeof(string));
                table.Columns.Add("Age", typeof(int));

                foreach (var person in people)
                {
                    table.Rows.Add(person.FirstName, person.LastName, person.Age);
                }

                SqlParameter param = cmd.Parameters.AddWithValue("@Persons", table);
                param.SqlDbType = SqlDbType.Structured;

                cmd.ExecuteNonQuery();
            }
        }
    }
}

✅ 장점

  • SqlBulkCopy보다 유연함
  • TVP를 사용하여 네트워크 오버헤드를 줄일 수 있음

⚠️ 단점

  • SQL Server에서만 사용 가능

3. Oracle에서 Bulk Insert 수행 방법

Oracle에서는 대량 삽입을 최적화하기 위해 OracleBulkCopy, PL/SQL FORALL, 그리고 Stored Procedure를 활용할 수 있습니다.


3-1. OracleBulkCopy를 활용한 대량 삽입

OracleBulkCopy는 Oracle에서 SQL Server의 SqlBulkCopy와 유사한 방식으로 작동합니다.

🔹 C# 코드 예제

using System;
using System.Data;
using Oracle.ManagedDataAccess.Client;
using System.Collections.Generic;

class Program
{
    static void Main()
    {
        string connectionString = "User Id=your_user;Password=your_password;Data Source=your_oracle_db";
        List<Person> people = new List<Person>
        {
            new Person { FirstName = "John", LastName = "Doe", Age = 30 },
            new Person { FirstName = "Jane", LastName = "Smith", Age = 25 },
        };

        BulkInsertOracle(people, connectionString);
        Console.WriteLine("Oracle Bulk Insert 완료!");
    }

    static void BulkInsertOracle(List<Person> people, string connectionString)
    {
        using (OracleConnection connection = new OracleConnection(connectionString))
        {
            connection.Open();

            using (OracleBulkCopy bulkCopy = new OracleBulkCopy(connection))
            {
                bulkCopy.DestinationTableName = "Persons";

                DataTable table = new DataTable();
                table.Columns.Add("FirstName", typeof(string));
                table.Columns.Add("LastName", typeof(string));
                table.Columns.Add("Age", typeof(int));

                foreach (var person in people)
                {
                    table.Rows.Add(person.FirstName, person.LastName, person.Age);
                }

                bulkCopy.WriteToServer(table);
            }
        }
    }
}

✅ 장점

  • Oracle에서 가장 빠른 대량 삽입 방법

⚠️ 단점

  • ODP.NET 설치 필요

결론

SQL Server와 Oracle에서 최적의 Bulk Insert 방법을 선택하세요! 🚀

댓글

이 블로그의 인기 게시물

Log4Net vs. Serilog 비교

🔍 Log4Net vs. Serilog 간단 비교 기준Log4NetSerilog 성능 중간 (충분하지만, 최신 라이브러리보단 느림) 빠르고 효율적 설정 방식 XML 기반 (전통적) JSON 기반 (모던함) 구조적 로깅 미지원 (기본 텍스트 로그) 강력한 구조적 로깅 지원 ASP.NET Core 통합 가능하지만 설정이 좀 복잡 간단하고 직관적 Sink(대상) 다양성 적당한 편 매우 다양하고 확장성 높음 생태계 & 유지보수 전통적, 유지보수 상태는 다소 정체 활발한 개발과 업데이트 🎯 어떤 프레임워크가 좋을까? Serilog를 추천하는 이유: 최신 기술 : ASP.NET Core와 완벽히 통합, 구조적 로깅이 뛰어나 JSON 로그 처리, 분석에 최적화됨. 높은 생산성 : 설정과 유지보수가 쉬움. 코드 기반 및 JSON 설정으로 직관적이고 빠른 개발이 가능. 확장성 : 파일, 콘솔, DB, Elasticsearch, Seq 등 다양한 Sink를 제공해 향후 확장성이 좋음. 🚀 결론 요약 Log4Net을 추천할 때Serilog를 추천할 때 기존 시스템과 호환이 필수 최신 ASP.NET Core 프로젝트 XML 설정 선호 JSON, 코드 기반 설정 선호 구조적 로깅 필요 없음 구조적 로깅과 분석 필요

키움증권 Open API를 활용하여 갭 매매 전략 구현- C#

  1. 갭 매매 전략이란? 갭 매매란 주가가 전일 종가 대비 큰 폭으로 상승(갭업)하거나 하락(갭다운)하여 개장할 때, 발생한 갭의 움직임을 활용하여 수익을 내는 전략입니다. 이번에 소개할 전략은 다음 조건에 해당하는 종목을 대상으로 합니다. 조건검색 : 전일 대비 오늘 시가가 5% 이상 갭업으로 시작한 종목 전략 실행 : 개장 후 30분 이내에 주가가 전일 종가 수준까지 회귀하면 매수 진입 후, 갭이 완전히 메워질 때 매도합니다. 손절매 : 진입 가격에서 갭 상승분의 50% 하락 시 손절 익절매 : 갭 상승분의 50% 이상 추가 상승 시 익절합니다. 2. 구현 환경 및 준비사항 키움증권 API+ 설치 (영웅문 API) Visual Studio Community Edition (C#) 키움증권 계좌 (모의투자 계좌 추천) 3. C# 코드 전체 구현 (주석 포함) 다음 코드에는 갭 매매 전략, 주문 실행, 체결 확인 및 정정 주문까지 포함되어 있습니다. using System; using System.Collections.Generic; using AxKHOpenAPILib; public class GapTrading { private AxKHOpenAPI axKHOpenAPI; private string accountNumber; // 매수 후 체결된 정보를 저장할 Dictionary (종목코드, (체결가격, 체결수량)) private Dictionary< string , ( int price, int qty)> positions = new Dictionary< string , ( int , int )>(); public GapTradingStrategy (AxKHOpenAPI api, string accountNo) { axKHOpenAPI = api; accountNumber = accountNo; ...

실시간 웹 애플리케이션 구축하기: SignalR 이용하기

  IT 개발자로서 실시간 통신 기능을 웹 애플리케이션에 통합하는 것은 사용자 경험을 대폭 향상시킬 수 있는 중요한 방법 중 하나입니다. 오늘은 Microsoft의 SignalR을 이용하여 실시간 웹 애플리케이션을 구축하는 방법을 소개하려 합니다. SignalR은 웹소켓을 사용하여 실시간 통신을 쉽게 구현할 수 있도록 도와주는 라이브러리입니다. SignalR 소개 SignalR은 .NET 개발자들이 실시간 웹 기능을 손쉽게 구현할 수 있도록 지원하는 라이브러리입니다. 클라이언트와 서버 간의 양방향 통신을 가능하게 해 주며, 채팅 애플리케이션, 실시간 게임, 실시간 데이터 업데이트 등 다양한 실시간 애플리케이션을 개발할 때 유용하게 사용됩니다. 주요 기능 자동 연결 관리 : SignalR은 연결, 재연결 및 연결 해제 과정을 자동으로 처리합니다. 규모 확장성 : SignalR은 Redis, Azure SignalR Service 등을 통해 서버를 확장할 수 있는 기능을 지원합니다. 다양한 플랫폼 지원 : JavaScript, .NET, Java 등 다양한 클라이언트에서 사용 가능합니다. 실시간 채팅 애플리케이션 구축하기 개발 환경 설정 .NET Core SDK 설치 : SignalR은 .NET Core에 포함되어 있으므로, .NET Core SDK가 설치되어 있어야 합니다. Visual Studio 또는 VS Code 설치 : 개발 환경으로 Visual Studio 또는 VS Code를 사용할 수 있습니다. 프로젝트 생성 Visual Studio에서 새 프로젝트 생성 : 'ASP.NET Core Web Application' 선택 프로젝트 이름과 위치 설정 'ASP.NET Core Empty' 템플릿 선택 SignalR 라이브러리 추가 : NuGet 패키지 관리자를 통해 Microsoft.AspNetCore.SignalR을 설치합니다. SignalR 허브 생성 SignalR 허브는 클라이언트와 서버 간의 통신을 중개하는 역할을 합니다...

.NET MAUI: 크로스플랫폼 앱 개발의 미래

  1. .NET MAUI란? **.NET MAUI (Multi-platform App UI)**는 마이크로소프트에서 개발한 크로스플랫폼 애플리케이션 프레임워크로, 하나의 코드베이스로  iOS, Android, Windows, macOS 에서 실행되는 애플리케이션을 만들 수 있습니다. 주요 특징 단일 코드베이스 : 하나의 코드로 여러 플랫폼 지원 네이티브 UI : 각 플랫폼의 네이티브 UI 컨트롤을 활용 .NET 기반 : C#과 .NET 기술을 사용 MVU 및 MVVM 패턴 지원 핫 리로드 지원 : UI 변경 시 즉시 반영 강력한 성능 및 최적화 2. .NET MAUI 개발 환경 설정 필수 도구 운영체제 필수 소프트웨어 Windows Visual Studio 2022, .NET SDK 6 이상 Mac Visual Studio for Mac, .NET SDK 6 이상, Xcode 프로젝트 생성 방법 Visual Studio에서 생성 Visual Studio 2022 실행 "새 프로젝트 만들기" 선택 .NET MAUI 앱 템플릿 선택 프로젝트 이름 및 경로 설정 후 생성 명령어로 생성 dotnet new maui -n MyMauiApp cd MyMauiApp dotnet build dotnet run 3. .NET MAUI 프로젝트 구조 📂 MyMauiApp ├── 📂 Platforms # Android, iOS, macOS, Windows 코드 ├── 📂 Resources # 이미지, 폰트, 스타일 등 ├── 📂 Views # XAML UI 코드 ├── 📂 Models # 데이터 모델 ├── 📂 ViewModels # MVVM 패턴을 위한 ViewModel ├── App.xaml # 전역 스타일 및 테마 ├── MainPage.xaml # 메인 페이지 UI ├── MauiProgram.cs # 앱 초기 설정 4. 기본 UI 개발 (XAML & C#) XAM...

스마트팜과 AI

  스마트팜과 AI 융합, 농업 혁신의 미래를 보다 안녕하세요, IT 개발자 여러분 그리고 기술에 관심이 많은 일반 독자분들! 오늘은 농업과 최신 IT 기술의 만남, 바로 "스마트팜과 AI"에 대해서 이야기하고자 합니다. 스마트팜 기술은 이미 다양한 분야에서 활용되고 있지만, 인공지능(AI)을 접목하면 어떤 가능성이 있는지, 또 어떤 방향으로 개발하면 좋을지 함께 생각해보겠습니다. 스마트팜이란? 스마트팜은 사물인터넷(IoT) 기술을 농업에 적용하여 온도, 습도, 일조량, 영양분 등을 자동으로 제어하는 시스템입니다. 이미 많은 농가에서 사용하고 있는 기술로, 효율성을 높이고 노동력을 줄이는 데 크게 기여하고 있습니다. 왜 스마트팜에 AI가 필요한가? 기존 스마트팜은 센서를 통해 데이터를 수집하고 이를 기반으로 단순 제어만 수행했습니다. 하지만 AI가 결합되면 수집된 데이터를 심층적으로 분석하여 보다 정밀한 제어와 예측이 가능해집니다. 예를 들어, AI를 활용한 이미지 인식 기술을 통해 병충해 발생을 초기에 발견하고 대응할 수 있으며, 빅데이터 분석을 통한 작물 생장 예측으로 생산량과 품질을 획기적으로 향상시킬 수 있습니다. AI 스마트팜 아이디어 제안 1. 작물 건강 모니터링 시스템 이미지 처리 딥러닝 모델을 이용해 식물 잎이나 줄기의 이미지를 실시간 분석하여 병충해 및 영양 결핍 상태를 자동으로 감지하고 경고 메시지를 제공합니다. 2. 자율 농장 로봇 AI 기반의 자율 주행 로봇을 개발하여 농작물의 관리(파종, 관수, 수확)를 자동화합니다. 강화학습(Reinforcement Learning)을 적용해 로봇이 스스로 환경에 적응하고 효율적인 작업 방식을 학습하도록 합니다. 3. 예측형 기후 대응 시스템 과거 기상 데이터와 현재 환경 데이터를 머신러닝으로 분석하여 작물 생육에 최적화된 환경 조건을 예측하고 제어합니다. 갑작스러운 기후 변화에도 농작물 피해를 최소화할 수 있습니다. 4. 스마트 해충 방제 시스템 AI 기반으로 해충의 종류와 개체수를...