OpenAI가 2022년 ChatGPT를 출시한 이후 토토 결과 AI는 주요한 움직임이 되었으며, 실증 실험을 실시하고 실제로 구현하는 기업이 늘어나고 있습니다
이러한 추세의 주요 요인은 GPT, Claude 및 Gemini와 같은 폐쇄형 대규모 언어 모델(LLM)이 이제 Azure, AWS 및 GCP와 같은 클라우드 서비스에서 API로 쉽게 사용할 수 있다는 것입니다
토토 결과 LLM 및 클라우드 LLM
주제를 조금 바꿔 토토 결과 LLM과 클라우드 LLM에 대해 이야기해 보겠습니다
클라우드 LLM의 장점과 단점
Cloud LLM은 압도적인 계산 리소스를 사용하여 수많은 매개변수로 학습되며, API에서 범용적이고 정확도가 높은 모델을 쉽게 사용할 수 있습니다
반면, 데이터는 클라우드 서비스에 노출되고 모델은 클라우드 공급자의 통제하에 놓이게 되어 블랙박스가 됩니다
토토 결과 LLM의 장점과 단점
토토 결과 LLM은 데이터와 모델을 통제할 수 있다는 장점이 있습니다
반면, 폐쇄형 대규모 언어 모델이 가지고 있는 엄청난 수의 매개변수를 처리하는 것은 전산 자원 측면에서 매우 어려우며, 범용, 고정밀 모델을 만들거나 토토 결과 환경에서 구현하는 것은 현실적이지 않습니다
토토 결과 LLM 모델을 비즈니스에 맞게 조정
위에서 언급했듯이, 엄청난 수의 매개변수가 포함된 모델을 일반 용도의 토토 결과 LLM으로 처리하는 것은 현실적이지 않습니다
반면, 매개변수 수가 많지 않은 모델의 경우 지속적인 사전 학습 및 미세 조정을 사용하여
토토 결과 LLM을 지원하는 라이브러리
토토 결과 LLM 환경 구축 시 핵심 라이브러리는 llamacpp입니다 이 라이브러리는 모든 CPU 또는 GPU 장치에서 최적화된 상태로 작동할 수 있으며, CPU와 GPU 메모리를 모두 사용하여 작동할 수도 있습니다 LLM은 대용량 메모리를 사용하기 때문에 부족한 GPU 메모리를 보완하기 위해 CPU 메모리를 사용하면서도 고속으로 동작하는 것이 가능하다
또한 GGUF라는 도구로 양자화된 모델을 사용하면 메모리 사용량을 줄일 수 있습니다
스카이코퍼레이션의 노력
저희 회사는 2017년부터 딥러닝 내부 및 계약 검증 작업을 진행해 왔으며, 2023년부터 토토 결과형 AI 검증 작업을 시작했습니다 클라이언트 시스템 개발 부문의 주요 업무는 계약 개발이며, AI팀은 토토 결과된 AI 내부 검증, 고객측 계약 검증(PoC), 시스템화를 위한 계약 개발을 담당하고 있습니다
저희 회사는 클라우드 LLM과 토토 결과 LLM을 모두 지원하므로 토토 결과 환경에서 LLM 또는 멀티모달 호환 LLM을 구축할 수 있습니다
다음은 검증을 위해 자체적으로 토토 결과된 LLM과 로컬 환경에 구축된 다중 모드 호환 LLM 애플리케이션의 예입니다
LLM
다중 모드를 지원하는 LLM
마지막으로
기술 블로그를 끝까지 읽어주셔서 감사합니다
저희 팀은 AI 기술을 활용하여 고객의 요구를 충족시키기 위해 항상 새로운 도전을 하고 있습니다
우리는 경력을 쌓을 새로운 졸업생을 찾고 있습니다!
AI 개발 경험이 있거나 LLM 개발에 관심이 있는 분은 지원해주세요 여러분의 기술과 열정을 기다립니다
자율주행/고급운전지원시스템(AD/ADAS), 의료기기, FA, 통신, 금융, 물류, 리테일, 디지털 카메라, 임베디드 디바이스, IoT, 웹 시스템 등 다양한 소프트웨어 개발을 계약하고 있으며, 언어, OS, 비즈니스 지식의 확장이 가능합니다 또한, 1차 계약 프로젝트가 많아 업스트림 프로세스부터 참여할 수 있습니다 고객 현장에 상주하든, 집으로 가져가든 (주)스카이 팀의 일원으로 참여하게 되므로, 경험하지 못한 분야에서도 상사와 동료들이 지원해 드립니다
