DEVOCEAN

GPT에게 1-100 사이의 숫자 중 하나를 고르라면 몇을 말할까요? 그 결과가 고르게 분포할까요?

이 흥미로운 실험을 한 사람이 있습니다.

답은 "42"일 확률이 가장 높습니다.

복잡성이 증가함에 따라 학습데이터와 관련된 편향 문제도 함께 증가합니다.

출처가 되는 이 글에서는 GPT의 내재된 편향을 형성하는 다양한 요소를 탐구합니다.

1. GPT의 숫자 선택 편향

GPT-3.5-turbo 모델을 사용하여 1부터 100 사이의 정수를 선택하도록 1000번 요청한 결과, 특정 숫자에 대한 편향이 드러났습니다.

바로 42가 가장 많이 선택된 것인데요!

42는 “The Hitchhiker’s Guide to the Galaxy”에서 생명, 우주, 그리고 모든 것의 해답으로 유명해진 숫자라고 합니다.

(저는 해당 책을 읽어보지는 못했는데, 이번 기회에 읽어볼까 싶더라구요!)

가짜연구소 커뮤니티에서 얘기를 나눴었는데, 루이스 캐럴의 이상한 나라의 앨리스에서도 많이 나오고,

포티투닷이라는 스타트업, 42서울이라는 교육단체 등 42이라는 숫자를 주변에서도 꽤 발견할 수 있습니다.

또 흥미롭게도 와일드카드(*)의 아스키 코드 또한 42라고 합니다. (최동훈님 감사해요!)

2. Temperature 설정의 영향

Temperature 설정은 GPT의 응답 예측 가능성을 조절합니다.

낮은 Temperature에서는 더 일관된 답변을, 높은 Temperature에서는 더 다양한 답변을 생성합니다.

테스트 결과, 낮은 Temperature에서는 특정 숫자를 강하게 선호하는/편향된 선택을 유도하는 반면, 높은 Temperature에서는 선택의 다양성이 증가했습니다.

시스템의 무작위성을 측정하는 데 엔트로피를 사용할 수 있습니다.

Temperature 설정에 따른 GPT의 응답에서 엔트로피의 변화. 최저 온도 값에서는 엔트로피가 0이 되어 완전히 결정론적 출력을 나타냅니다.

모든 선택이 단일 숫자와 일치할 때, 엔트로피는 0이 됩니다. 반대로, 선택이 완전히 무작위일 때 엔트로피는 1의 정규화된 값에 도달합니다.

따라서, GPT의 "편향"은 1에서 엔트로피를 뺀 값으로 볼 수 있습니다.

3. 편향에 때한 이해는 인공지능에 대한 이해일까? 사람에 대한 이해일까?

이러한 편향을 이해하고 인식하는 것이 AI를 효과적으로 활용하는 데 중요합니다.

그런데 이런 편향은 사실 학습데이터에 큰 영향을 받습니다.

의도하고 만든 편향된 데이터가 아니라고 한다면, 사실 이러한 편향은 사람의 지식과 문화, 그 삶을 반영하고 있다고 생각할 수 있지 않을까요?

마치 42라는 숫자가 인공지능에게 중요한 수가 아니라, 사람에게 중요한 수가 되는 것이 아닐까 생각됩니다.

좀 더 상세한 내용이 궁금하시다면 원글을 확인해보세요!