토토 핫 챌린지데이 참가

안녕하세요 지난 11월에는 (주)카도카와 ASCII 연구소와 (주)마이크로소프트 재팬이 후원하는 토토 핫 챌린지 데이(토토 핫 Challenge Day)라는 토토 핫 해커톤에 참가하여 준우승을 차지했습니다

이 기사에서는 우리의 이벤트 활동을 소개하겠습니다

토토 핫 챌린지 데이란 무엇인가요

RAG와 같은 기술을 사용하여 미리 준비된 일련의 질문에 대한 최고의 답변을 놓고 경쟁하십시오
심사 기준은 답변의 정확성뿐만 아니라 고객 스토리 구성 및 아키텍처의 독창성에 중점을 둡니다

이번 주제는 "가상 온라인 상점 부조종사"였으며 우리는 전자 상거래 사이트에서 고객 경험을 개선하고 판매 전략 수립에 도움이 되는 생성 토토 핫 도우미를 개발해 달라는 요청을 받았습니다

토토 핫 세대를 마스터하세요! ASCII x Microsoft 생성 토토 핫 콘테스트 방송 [토토 핫 Challenge DAY] - YouTube

팀 구성 및 진행 방법

팀 구성 정보

저희 팀은 올해 입사한 신입생, 오사카에 거주하는 멤버, 생성 토토 핫, 데이터 분석 등 다양한 전문 분야의 멤버와 "GPT-4o"의 재미있는 친구들을 포함하여 6명으로 구성되었습니다 (이제 프로젝트가 원활하게 진행되기 위해서는 토토 핫 세대의 협력이 필수입니다)

일부 회원은 생성 토토 핫 사용 경험이 풍부하고 일부 회원은 전혀 사용해 본 적이 없지만 고객 스토리 고려, 실제로 작동할 환경 구축, 건축 고려 등 역할을 나누어 이벤트에 도전했습니다

진행 방법

참여 회원들은 정규 업무와 병행하여 행사에 참여해야 했기 때문에 제한된 시간 내에 결과를 낼 수 있는 방식으로 진행하는 방법을 의식했습니다
예를 들어

• 각 구성원이 동시에 작업할 수 있도록 각 구성원의 역할 및 마일스톤 분할을 결정
• 중요한 경로를 염두에 두고 작업의 우선순위를 정하고 대기 상태에 빠지는 일이 없도록 하세요

주제가 발표되자마자 바로 할 수 있어서 효율적으로 일할 수 있었던 것 같아요
또한, 멤버들이 멀리 떨어져 근무하고 있었기 때문에 의사소통이 부족하지 않도록 업무 중에 온라인 화상회의를 진행했습니다 잡담을 나누면서 다양한 이슈에 대해 논의할 수 있었고, 팀 내 유대감도 깊어진 것 같아요

무엇이 이루어졌는가

RAG 구현 정보

RAG의 정확성을 향상시키기 위해서는 시행착오의 필요성을 인식하여 Azure Machine Learning의 프롬프트 흐름을 채택했습니다
로우코드로 복잡한 로직을 구현할 수 있어서 시행착오를 쉽게 반복할 수 있다는 점 외에도 많은 회원들이 들어는 봤지만 실제로 사용해 볼 기회가 없고 관심을 갖고 있다는 점이 결정적 요인이었습니다

구현을 시작하고 나니 한 시간도 안 되어 기본 RAG 처리를 구현할 수 있다는 점이 매우 인상적이었습니다✨

이벤트가 끝나면 각 회원은 구현 경험이나 생성 토토 핫 사용 경험과 같은 기술 세트에 관계없이 정확성을 높이기 위해 다양한 처리 흐름을 시도할 수 있었으며 이는 원하는 결과였습니다

그러나 각 흐름이 결국 하나로 병합할 생각도 없이 너무 재미있어서 병합 과정은 고통스러웠습니다
최종 형태는 이미지와 같으나 다중 모드 지원, Text to SQL, HyDE 및 DIVA와 같은 다양한 요소를 통합할 수 있었습니다

다양한 시도와 정확성을 향상시키는 과정은 매우 흥미로웠습니다
시간이 된다면 Copilot Stack 철학에 따라 구성하고 에이전트 실행 같은 것들을 구현하고 싶습니다

문서 가져오기 정보

문서 수집의 경우 Synapse Analytics의 데이터 흐름과 복사 활동을 활용하여 다양한 위치에 저장된 데이터와 문서를 로우 코드로 쉽게 수집하고 신속한 흐름으로 RAG의 정확성을 높이는 데 중점을 두었습니다

데이터 가져오기가 첫날에 거의 완료되었지만 RAG의 정확성을 높이려면 데이터 전처리가 필요하다고 생각합니다

• 토토 핫 Vision을 사용하여 PDF 파일과 같은 매뉴얼에서 OCR 수행
• 이미지 데이터가 포함된 문서를 토토 핫 검색으로 가져오기
• Document Intelligence를 사용하여 문서 레이아웃 인식

다음과 같은 것을 구현하는 등 질문에 따라 적절한 참고 정보를 얻을 수 있도록 처리하고 싶은 느낌이 듭니다 14222_14275|

고객 스토리 고려에 대해

전자상거래 사이트에 대한 고객 스토리를 작성할 때 몇 가지 어려움에 직면했습니다 첫째, 사용자 요구와 관리 요구 사이의 균형을 이해하기가 어려웠습니다
사용자는 사용 편의성과 다양한 제품을 요구하지만 운영자는 재고 관리, 고객 서비스, 판매 분석 등 복잡한 요구 사항을 가지고 있습니다 이런 것들을 정확하게 이해하고 반영하는데 어려움을 겪었습니다

또한 전자상거래 사이트에서 발생할 수 있는 문제를 조사하는 것도 어려웠습니다

게다가 토토 핫 도입의 이점에 대해 구체적으로 생각하는 것도 어려웠습니다 토토 핫 기반의 개인화 상품 추천과 챗봇 기반의 빠른 고객 응대가 얼마나 효과적인지 구체적인 시나리오를 그려야 했습니다

우리는 토토 핫 구현이 단순한 기술 업그레이드가 아니라 실제 비즈니스 가치를 창출하는 것임을 입증해야 했습니다

우리는 이러한 과제를 극복하기 위해 많은 시간과 노력을 들였으며 그 결과 더욱 실행 가능하고 가치 있는 고객 스토리를 만들 수 있었습니다
고객의 우려 사항을 해결하기 위해 먼저 우려 사항에 대한 구체적인 사례를 조사했습니다 실제 사례를 수집하고 토토 핫가 이러한 문제를 어떻게 해결할 수 있는지 고려했습니다

예를 들어, 우리는 제품 검색의 정확성을 높이고 개인화된 제품 추천을 제시하는 등 토토 핫를 사용하여 고객 경험을 개선하는 방법을 구체적으로 고려했습니다
다음으로 고객 스토리를 만들 때 우리는 큰 그림을 세분화하고 조금씩 세분화하는 접근 방식을 취했습니다

우리는 스토리의 전체적인 흐름을 생각한 다음 각 단계에서 고객 경험을 자세히 설명했습니다
이를 통해 우리는 고객의 관점에서 상세한 고객 스토리를 만들 수 있었습니다

아키텍처 정보

많은 기업들이 생성 토토 핫 활용에 진전을 보이고 있고, 조금만 연구하면 아키텍처를 찾을 수 있는 상황에서 기업이 얼마나 광범위해야 하는지, 어떻게 독특하게 만들 수 있을지 고민했습니다

기업에 대한 접근

기업에 대한 우리의 접근 방식은 글로벌 사용량을 고려합니다
구체적으로, Azure Front Door의 CDN과 Azure OpenAI Service의 TPM을 고려한 부하 분산 메커니즘을 Azure API Management에 통합하여 전 세계 사용자에게 안정적인 UX를 제공합니다

또한 고가용성(HA)을 제공합니다
또한 Azure Key Vault를 통해 보안을 강화하고 Azure App Configuration 및 서버리스 기술을 채택하여 인프라 및 운영 비용 절감을 달성했습니다

고유성 추구(GenAISecOps)

고유성에 관해서는 GenAISecOps 개념을 채택했습니다
GenAISecOps는 콘테스트 참가자들과 협의하여 생성된 키워드(조어)로, 모델 평가, 사용자 입력 프롬프트 감사 등 운영 개선의 일환으로 수행되는 운영 개선 주기를 의미합니다

생성 토토 핫를 활용할 때 데이터 보안도 매우 중요한 요소이며 GenAISecOps 시스템 내에서 거버넌스는 효과적입니다

이는 토토 핫 세대의 이해력을 높이고 더욱 안전하고 효율적인 운영을 실현합니다

심판위원의 점수 및 피드백

점수

RAG 정확도 점수는 205/250점이었습니다
점수가 주기적으로 기록되는 그래프를 보면 정확도가 점차 향상되고 있는 것을 볼 수 있습니다
다양한 방법을 시도하다보니 그래프가 위아래로 많이 움직이지만, 이런 시행착오를 할 수 있었던 것은 주로 프롬프트 흐름을 사용했기 때문입니다

심사위원의 피드백

우리는 고객 스토리, 컨셉, 그리고 차세대 개발 스타일을 구현하기 위해 운영에 생성 토토 핫를 성공적으로 활용하는 방법에 대해 높은 평가를 받았습니다 일상적인 업무에서도 개발자의 입장이 아닌 고객의 입장에서 생각하고, 제너레이티브 토토 핫를 잘 활용하여 업무를 효율적으로 진행한다는 점을 의식하고 있어서 이런 측면을 인정받게 되어 매우 기쁩니다

참여 후 노출수

이번 행사에서는 작업의 난이도와 양에 압도될 때도 있었지만 매우 만족스러운 경험을 얻을 수 있었습니다
숙련된 사용자가 생성 토토 핫에 대한 지식을 심화할 수 있는 좋은 기회일 뿐만 아니라 초보자도 학습을 시작할 수 있는 좋은 기회였습니다

1주일은 주어진 주제를 실현하는 데 짧은 시간이고, 시도하지 못한 것들이 많았습니다 모든 회원들은 더 나은 방법이 있을 수 있다고 생각합니다 그냥 참여하고 끝내면 아쉽고, 비슷한 주제를 실제로 구현하고 싶은 고객님들이 계실 거라 믿어 내부적으로 계속해서 검증하고 해결책을 고민해보고 싶습니다

참여하면서 놀라운 점 중 하나는 각 회원이 일상 업무에서 쌓아온 노하우를 공유하는 장이 되었다는 것입니다
``저는 이러한 기술을 매일 사용했습니다!''와 같은 많은 새로운 발견과 학습이 있었습니다
나는 이 경험을 앞으로의 작업에 활용하고 싶습니다