소이넷 솔루션데이에 초대합니다

2022. 11. 11.

소이넷 솔루션데이에 초대합니다

새로운 정보를 전해 드리는 소이뉴스입니다.

안녕하세요, 구독자님.

오늘은 11월 11일. 농업인의날, 솔로데이(광군제, 중국) 등 같은 날 서로 다른 의미로 기념되는 날이죠. 우리나라에서는 빼빼로데이로 제일 잘 알려져 있습니다. 발렌타인데이, 화이트데이와 같이 마케팅 이벤트로 만들어진 것인데 너무 많이 퍼져서 이제는 일반화가 되었죠. 문득 서정윤님의 '홀로서기'라는 시집에 있던 싯구 하나가 떠오르네요. '둘이 만나 서는 게 아니라 홀로 선 둘이가 만나는 것이다'. 여기서의 '홀로'라는 단어는 외롭다거나 소외라는 의미가 아닌 훨씬 긍정적인 의미를 가지고 있죠.

이번 주 뉴스레터에서는 운영 중심의 MLOps 솔루션인 SoyNature를 소개하는 소이넷 솔루션데이 행사 소식을 전하고자 합니다. 소이넷은 설립 4년차에 접어든 중견 스타트업으로 실행최적화 솔루션 SoyNet으로 국내외 인공지능 모델 시행 도메인에서 자리를 지켜왔습니다. 이제 새로 소개하는 SoyNature와의 시너지를 통해 온전한 '홀로 선 하나'가 되기 위한 새로운 발걸음을 내딛겠습니다.

MLOps (Machine Learning Operations)

MLOps (Machine Learning Operations)가 뭔가요?

우선 MLOps 용어를 이해하기 위해서는 DevOps라는 것을 먼저 얘기해야 할 것 같습니다. DevOps란 개발(Dev)과 운영(Ops)를 분리하지 않고 하나의 팀(조직)에서 담당하면서 개발의 생산성과 운영의 안정성을 최적화하기 위한 일련의 작업 혹은 서비스를 말합니다. MLOps는 DevOps에 데이터 과학자를 위한 ML(Machine Learning) 영역이 추가된 것으로 기계 학습 모델을 안정적/효율적으로 관리/배포/운영하는 역할을 수행합니다. 추가된 ML 영역은 새로운 데이터에 대한 지속적인 모델 학습 및 튜닝이라는 작업을 필요로 합니다. 그게 기존의 어플리케이션 개발/운영에서의 DevOps와 다른 부분입니다. 그리고, MLOps와 AIOps(Artificial Intelligence for Operations)를 혼동해서 사용하는 경우도 있긴 한데 AIOps가 인공지능을 이용하여 IT 기능의 자동화에 촛점이 맞춰져 있다는 측면에서 차이가 있다고 할 수 있습니다.

(이미지 출처) NVIDIA 공식 블로그

기업들이 MLOps를 도입하는 이유는 뭔가요?

MLOps는 머신러닝 개발 과정에서의 생산성 (개발/운영)을 높이기 위해 사용됩니다. 즉, 모델 개발과 운영을 유기적으로 하게 되면서 전체 서비스 개발/운영 프로세스가 빨라지게 됩니다. 그러므로 기업은 서비스 개발과 운영 비용을 절감하고 시장 진입을 위한 시간을 줄이고, 더 나아가 운영 중에도 시장 변화나 고객 니즈의 변화에 빠르게 대응할 수 있도록 해 줌으로써 비즈니스 리스크를 최소화할 수 있게 됩니다.

일반적인 AI 서비스 업체는 AI 모델을 python 코드로 관리합니다. 대부분의 기업들이 개발/학습한 환경 및 AI framework과 동일하게 맞춰진 환경에서 실행 서비스를 제공하기 때문이죠. 하지만 경우에 따라선 실제 서비스의 배포 대상이 개발/학습 시와는 사뭇 다른 환경 (하드웨어 디바이스, 운영체제, AI framework, 클라우드/PC/엣지)에 맞춰져야 할 수도 있습니다. 뿐만 아니라 배포된 모델이 정상적으로 동작하는지 어느 정도의 처리속도와 GPU 메모리를 사용하는지 등의 현황 정보도 실시간으로 모니터링할 필요가 있고 모델이 배포된 서비스 환경에서 추가적으로 획득된 데이터를 이용해서 지속적으로 모델의 성능을 향상시키는 작업도 필요합니다. 이러한 개별 작업들이 단편적으로 끊어져서 수작업으로 이루어진다면 서로 다른 스킬셋을 가진 전문가들이 필요하고 업무 프로세스 자체도 매끄럽지 못할 것이고 결과적으로 서비스 품질 저하가 발생하게 됩니다.

MLOps를 도입하여 AI 모델의 관리, 배포, 재학습과 모니터링과 관련된 운영 프로세스를 통일된 방식으로 제공하게 되면, 소수의 운영 인력으로도 고품질의 AI 서비스를 효율적으로 제공할 수 있게 됩니다. 이것이 기업들이 MLOps를 도입하는 이유라 할 수 있습니다.

SoyNature MLOps 솔루션

SoyNature는 어떤 솔루션인가요?

앞서 말씀드린 MLOps 솔루션은 다소 무거운 솔루션입니다. SoyNature는 학습이 완료된 모델의 관리/실행최적화/배포/디바이스관리/모니터링 등의 기능에 촛점을 맞춰 핵심기능들만으로 경량화,최적화한 '운영전용 MLOps'라고 말할 수 있습니다. 경량의 실행 전용 최적화 솔루션인 SoyNet 과 비슷한 컨셉을 가진 MLOps 솔루션이라고 할 수 있겠네요.

(그림) SoyNature 아키텍처

SoyNature가 제공하는 기능은 어떤 것이 있나요?

SoyNature는 인공지능 모델의 실행/배포/모니터링 등 운영과 관련된 핵심 기능으로 다음과 같은 것들을 제공하고 있습니다.

AI 모델의 Network 구조 분석 및 변환 기능
AI 모델의 버전 별, 데이터셋 별 테스트 지원
AI모델, 사전 학습된 가중치 (weight) 파일 버전 관리
SoyNet을 통한 AI 모델의 실행 최적화 수행 (옵션)
AI 모델 배포 대상 장비 관리
AI 모델 배포 스케쥴링
배포 장비에서의 실행 메트릭 정보 수집 및 모니터링, 이상감지 시 알림 기능
배포 장비에서의 이상 데이터 수집
오/미탐 데이터 라벨링 도구 제공 (자동/수동)
오/미탐 데이터를 이용한 모델 재학습 기능

SoyNature는 어떤 기업에 적합한가요?

SoyNature는 AI 모델을 개발/배포 서비스를 하고 있는 모든 기업들이 사용할 수 있습니다. 국내에만도 수천 개의 AI 기업들이 존재하는데 그 가운데는 이미 On-Premise나 Cloud 기반의 전문 MLOps 혹은 AIOps 솔루션을 도입해서 사용하는 곳들도 있을겁니다. 또는 AWS나 MS Azure, GCP 등에서 제공하는 다소 무겁고 복잡한 솔루션을 많은 비용을 들여가며 사용하고 있는 곳들도 있을테구요. SoyNature는 이런 서비스를 사용하기 힘든 중소, 중견의 AI 서비스 기업이나 혹은 대규모 기업에서도 팀이나 조직 단위로 AI 서비스를 별도 운영해야 하는 곳에서 도입하면 효과적인 솔루션입니다. AI 모델 개발을 수행하는 조직과 운영해야 하는 조직이 유기적으로 하나로 합쳐지기는 쉽지 않지만 운영 조직에서 AI 인력을 최소화한 상태로 서비스를 제공해야 하는 경우에는 아주 잘 맞아 떨어지는 조합이라고 할 수 있겠습니다.

소이넷 솔루션데이

소이넷 솔루션데이는 어떤 행사인가요?
소이넷에서 진행하는 웨비나 행사입니다. 저희의 주력 제품인 AI 실행최적화 솔루션인 SoyNet 외에 신규로 론칭하는 운영중심의 MLOps 솔루션인 'SoyNature'를 소개하고 해당 솔루션에 구현된 다양한 기능을 활용한 고객 사례도 함께 발표합니다.

행사 일정은 어떻게 되나요?

저희가 준비한 행사 일정과 발표내용은 다음과 같습니다.

소이넷 솔루션데이 웨비나 행사에 참여하려면 어떻게 하나요?

솔루션데이 소개 사이트에서 웨비나 참가 신청을 해 주시고, 웨비나 당일 좋은 질문이나 설문에 응해 주시면 추첨을 통해 맛난(^^) 선물을 드리니 많은 참여 부탁드립니다.

인공지능 서비스의 배포와 운영 시 도움이 필요하신가요?

(주)소이넷은 인공지능 서비스를 제공하는 기업들 가운데 서비스 배포와 운영에서 어려움을 겪고 계신 곳에 도움을 드릴 수 있습니다.

혹시 구독자님의 회사는 다음과 같은 어려움을 겪고 계시지 않나요?

AI 모델을 개발하고 학습 후 서비스를 위한 성능 (Accuracy)는 달성했는데, 정작 최적화 엔지니어가 없어서 어플리케이션, 서비스로의 배포를 위한 실행최적화를 못하고 있어요!
AI 서비스를 이미 제공하고 있지만, 비싼 클라우드 GPU 서버 인스턴스 사용료가 부담이 되네요. 흠... 경비를 절감할 수 있는 방안이 없을까?
서비스에 적합한 공개 SOTA 모델이 있지만 그대로 가져다 쓰기에는 우리 쪽 어플리케이션에 접목하기도 어렵고 운영 비용도 많이 들 것 같은데 어쩌지?

그렇다면 언제든 아래 연락처로 문의 주세요. 함께 해결책을 고민해 드리겠습니다.