DEVOCEAN

안녕하세요! 테크인플루언서 DAN입니다💙

오늘은 SKT의 7월 테크세미나 주제인 “Automated AI시대, 그 기술 기반과 적용 사례” 에 대해 한번 다뤄보겠습니다.

지금의 Chatgpt도 빅데이터, 머신러닝이 발전했기 때문에 등장할 수 있었던 것입니다👩🏻‍💻

그렇다면 머신러닝을 통해 어떻게 수많은 데이터를 다루고 기계를 학습시키는지 알아볼까요?

​파라미터란 기계학습(ML) 모델을 구성하는 요소들을 가리키는 용어입니다.

파라미터 특징

• 모델 내부에서 주어진 데이터로 결정

  (Regression의 회귀계수, D/L의 가중치)

• 작업자에 의해 조정되지 않음

  
  

하이퍼파라미터 특징

• 모델 외부에서 작업자가 직접 세팅해주는 값

  (K-NN의 값, D/L의 Learing rate, Tree Model의 dept)

• 학습 데이터에 의해 변경되지 않음

• Heuristics 혹은 반복된 실험를 통해 결정

모델의 하이퍼파라미터를 최적화 하는 것은 성능에 큰 영향을 미치므로 중요합니다.

하지만 수동으로 하이퍼파라미터 값을 조정하여 최적의 값을 찾는 것은 시간 소모가 큽니다.

이때 HPO라는 하이퍼파라미터 Optimization을 사용하여 자동으로 최적의 조합을 찾게 됩니다.

HPO 특징

• 자동 탐색

  여러개의 하이퍼파리미터 조합을 자동으로 시도하며, 각 조합에 대한 모델을 학습하여 성능을 평가합니다.

• 최적화

  목표함수를 기준으로 하여, 모델의 성능을 최적화하는 하이퍼파라미터 조합을 찾습니다.

• 탐색 공간 활용

  가능한 하이퍼파라미터 조합의 탐색 공간을 지능적으로 활용해 효율적인 최적의 조합을 찾습니다.

• 확장성

  다양한 종류의 모델과 데이터셋에 적용할 수 있으며, 최적화 알고리즘으로 파라미터 조합을 탐색합니다.

일반적으로 HPO는 그리드 서치, 랜덤 서치, 베이지안 최적화 등과 같은 최적화 알고리즘을 사용하여 하이퍼파라미터를 수행합니다.

이러한 알고리즘은 시간과 자원을 절약하면서도 좋은 결과를 얻을 수 있도록 도와줍니다.

🔻간단하게 각 알고리즘을 설명하겠습니다🔻

• 그리드 서치

  하이퍼파라미터의 탐색 범위를 제한한 후 모든 조합을 순차적으로 비교 탐색

  
  

• 랜덤 서치

  하이퍼파라미터의 탐색 범위를 제한한 후 설정한 횟수만큼 임의의 조합을 탐색

  
  

• 베이지안 최적화

  이전 시행의 정보로부터 최적의 성과를 낼 수 있을 것 같은 하이퍼파라미터를 추론

  
  

👇🏻7월 테크 세미나 다시보기 링크👇🏻

다가오는 Automated AI 시대, 그 기반 기술과 적용사례