Azure OpenAI 란?

Azure OpenAI는 마이크로소프트의 클라우드 컴퓨팅 플랫폼인 Azure에서 제공되는 인공지능 기술 서비스입니다.
OpenAI의 GPT(Generative Pre-trained Transformer) 모델을 기반으로, 강력한 자연어 처리 기능을 제공하며 언어 모델을 쉽게 활용할 수 있도록 지원합니다.
사용자는 API 호출을 통해 자연어 이해, 문장 생성, 텍스트 요약 등의 다양한 자연어 처리 작업을 수행할 수 있으며,
인공지능 기반의 응용 프로그램을 개발할 수 있습니다.

개요

기술의 발전에 따라 커뮤니케이션을 할 수 있는 도구들은 늘어났지만,
그만큼 업무에 방해받지 않고 집중할 수 있는 시간은 줄어들고 있습니다.

이와 관련하여 68%의 근로자들이 커뮤니케이션에서 발생하는 시간으로
근무에 집중할 수 있는 시간이 줄어든다고 답했습니다.

생산성을 저해하는 5가지 장애물로 꼽힌 요인 중 ‘비효율적인 미팅’의
순위가 가장 높았습니다.

(출처 = Microsoft 2023 업무 동향 지표: 연간보고서)

이점

Azure OpenAI 서비스는 아래와 같은 이점을 통해 업무 효율성을 높이고
과부하 상태에서 벗어나게 해줍니다.

1강력한 언어 모델 :

GPT-4, GPT-3, Codex 및 DALL-E 모델 기반 뛰어난 자연어 이해 능력으로 다양한 언어 작업을 수행합니다.

2자연어 처리 API :

간편한 API 호출을 통해 텍스트 요약, 번역, 질의응답, 대화 시스템 등 다양한 자연어 처리 기능을 활용합니다.

3손쉬운 통합 :

Azure 플랫폼과의 원활한 통합으로 AI 응용 프로그램 개발이 간편해 집니다.

4엔터프라이즈급 보안 :

Azure 글로벌 인프라에서 실행되어 역할 기반 인증 및 프라이빗 네트워크 연결로 안전한 배포를 지원합니다.

솔루션 소개

인포유앤컴퍼니는 Microsoft Azure OpenAI를 기반으로 프라이빗 환경에서 기업의 데이터를 쉽고 안전하게 사용할 수 있도록 BRAIN X GPT 솔루션을 개발하였습니다.

BRAIN X GPT는 OpenAI의 ChatGPT 모델을 핵심 기술로 활용한 ‘전문가(Expert)’ 버전이라는 의미로
인포유의 OpenAI 엔터프라이즈 레퍼런스 기술력이 집약된 GPT 솔루션입니다.

기업 내부용 통합GPT 구축 :

기업의 데이터를 보호하기 위해 프라이빗 환경에서 Azure OpenAI를
구현합니다. Bing API 서비스 이용으로 기존 ChatGPT의 학습 데이터 한계를
극복할 수 있으며, 사내 통합GPT 환경 구축을 통해 기업 데이터를 다양한
부서에서 활용할 수 있습니다.

데이터 인사이트(Data Insight) :

Power BI에 OpenAI 기술을 적용하여, 내부 정형 데이터를 자연어로 노출하여 데이터 시각화와 보고서 분석을 도와주는 기능입니다. 시각화 보고서 하단에 ChatGPT의 자연어 인사이트가 동시에 노출되는 방식으로 자체 통합 포탈
솔루션인 Brain Portal에서 확인 가능합니다.

마케팅 인텔리전스(Marketing Intelligence) :

뉴스 기사의 데이터 API를 제공받아 필요한 뉴스만 선별하여, 빠르고 정확한
데이터 요약 기능을 제공하는 기능입니다. 매일 변화하는 비즈니스 환경에서
더욱 신속한 의사결정을 할 수 있게 도와주며, 데이터를 활용하여 손쉽게
마케팅 전략을 수립할 수 있습니다

ChatGPT를 통한 문서 요약 기능 :

PDF 파일과 같이 텍스트 추출이 어려운 일반 문서들을 데이터로 인식시켜,
내용을 요약하고 인덱스 형태로 저장합니다. 정보의 출처는 파악하기 쉽고,
Azure OpenAI를 통해 자연어 인사이트를 도출할 수 있습니다.
해당 기능을 활용하여 수 많은 문서의 정보를 손쉽게 파악할 수 있습니다.

실제 구축사례

국내기업 A사

글로벌에서 취합된 정형데이터를 현업들이
자연어 기반으로 인사이트를 손쉽게 얻을 수
있도록 솔루션을 적용하였습니다. 데이터
추출과 활용에 어려움을 겪는 현업들을
대상으로 데이터 서비스를 제공하고,
Azure OpenAI로 생성된 코드 확인을 통해
답변의 신뢰성을 강화하였습니다. 데이터를
통한 필요한 인사이트를 신속하게 얻을 수
있도록 업무 생산성이 강화되었습니다.

국내기업 B사

사내망에서 활용 가능한 내부 통합용 ChatGPT
환경을 구축하는 솔루션이 도입되었습니다.
데이터 보안 문제 해결을 위해 프라이빗
환경에서 AOAI를 구현하였으며, 사내 정보
필터링을 위해 Azure Content Moderator
서비스가 적용되었습니다. 학습데이터의
한계를 극복하고자 Bing API를 활용하여 최신
정보를 습득하고 정보 출처의 명확성을
높였습니다.

국내기업 C사

업무 진행 상황을 단번에 파악하여 조치할 수
있도록 주간 단위의 업무 보고를 자연어
기반으로 제공받을 수 있는 AOAI 솔루션이
구축되었습니다. 기업 내부 데이터 보안을
위해 프라이빗 환경에서 구축되었으며,
많은 양의 사내 문서를 빠르게 요약하고
자연어 인사이트를 도출할 수 있는 문서
요약 기능 또한 도입될 예정입니다.

예시화면

산업사례

다양한 산업 분야에서 Azure OpenAI 기술을 활용하고 있습니다.

보건분야(Healthcare)

고객 대화 내용을 요약하고 분류하여 주제를 분석하고, 환자의 어조를 통해 질병을 예측 및 진단하는데
도움을 줄 수 있습니다. 비용 검색을 통해 의료 서비스 추정 비용을 환자에게 제공할 수 있습니다.
내·외부 데이터를 요약하여 다양한 치료법을 찾아 환자에게 도움을 줄 수 있습니다.

금융 서비스(Financial Service)

고객 불만 추세를 파악하기 위해 콜 로그에서 주요 정보를 분석하여 추후 상담에 반영할 수 있습니다.
이를 통해 초개인화된 고객 케어가 가능해지고, 고객의 충성도 증대에 기여할 수 있습니다.
실시간 정보 수집 및 분석으로 리스크 관리에 도움을 줄 수 있습니다.

유통 및 소비재(Retail & CPG)

온라인 피드백을 수집 및 분석하여 제품과 서비스의 품질에 대해 잘 이해할 수 있게 됩니다.
경쟁사 분석 및 고객 불만을 빠르게 파악하여 실시간 보고서를 생성할 수 있습니다.
도출된 인사이트를 통해 경쟁력을 강화하고 고객 만족도를 높일 수 있습니다.

#