1.MLOps의 핵심

in Til on Til

모델 성능 관리

  • 쉬움

  • 모델 학습

  • 어려움

  • 모니터링, 유지보수

실험의 중요성:

  • 모델 성능 개선은 구조화된 실험과 지속적인 반복 작업에서 결정됨.

  • 부지런히 다양한 설정값을 실험하며 효율성을 높이는 과정이 중요.

  • 이론적 지식은 효율성을 높이지만, 꾸준한 실험이 본질적.

  • Data Drift:

  • 유저 데이터와 환경의 변화로 인해 모델 성능 저하 발생.

  • 해결책:

  • 데이터를 지속적으로 모니터링하고 모델을 주기적으로 업데이트.

  • CI/CD 도구: Continuous Integration / Continuous Deployment (workflow manage 와 다름)

  • 직접 구축: Jenkins.

  • SaaS 솔루션: CircleCI(유료).

  • 가성비와 편리함: GitHub Actions.

  • 추천 조합: MLflow(모델 관리) + Airflow(워크플로 관리).

  • 기업 상황에 따른 유연성:

  • 가성비와 독립성 간 균형 중요.

  • 현재의 편리함이나 의존성을 최소화하면서 상황에 맞는 도구 사용.

2. 실험과 효율성

  • 실험의 반복 속도를 높이기 위해 효율적이고 구조화된 워크플로 필요.

  • 지속적인 성능 추적을 위한 Dashboard 구축은 “일 잘하는 회사”의 공통점.

기타

VS Code 팁

  • 단축키:

  • 단어 단위로 이동: Ctrl + ← / →.

  • 줄 복제: Opt + Shift + ↑ / ↓.

  • 줄 위치 변경: Opt + ↑ / ↓.

  • 활성화된 탭 전환: Opt + ← / →.

  • 유용한 확장 프로그램:

  • Thunder Client: REST API 클라이언트로, API 테스트와 개발에 적합.

추가 주제

  • Knowledge Integration:

  • GPT 모델에 자료를 업로드해 지식 기반의 AI 응용 가능.