DL| shotshotshot(zero, one, few)
Zero shot, One shot, Few shot에 대해서
One-shot / Few-shot / Zero-shot Learning 생성 AI의 학습 방식: 제로샷·원샷·퓨샷 러닝 BoostCampAITECH
Zero-shot Learning(ZSL)
모델이 학습 과정에서 본 적 없는 새로운 클래스를 인식할 수 있도록 하는 학습 방법, 모델이 클래스 간의 관계나 속성을 통해 일반화하는 능력을 활용함
-> 새로운 클래스에 대한 설명 정보를 입력으로 제공해야 하며 이미지 인식에서는 이미지의 특징을 설명하는 텍스트 정보를 사용하여 이전에 본 적이 없던 이미지더라도 해석이 가능하게 됨
One-shot Learning(OSL)
각 클래스에 대해 단 하나의 예시만 제공될 때 모델이 그 클래스를 인식할 수 있도록 하는 학습 방법, 이는 유사도 학습이나 메타 학습 등의 기법을 활용하여 구현됨
-> 고양이를 인식하는 딥러닝에게 새로운 종류의 “스핑크스”라는 고양이를 인식하도록 요청한다면, 모델은 이전에 본 적이 없는 스핑크스 고양이 사진 하나만으로도 인식을 수행할 수 있어야 함, 이것은 학습 데이터가 매우 제한적인 경우에 유용
Few-shot Learning(FSL)
극소량의 데이터만을 이용하여 새로운 작업이나 클래스를 빠르게 학습하도록 설계된 알고리즘, 메타 러닝이나 학습 전략의 최적화 등을 통해 적은 데이터로도 효과적인 일반화 능력을 갖추도록 함
-> 아주 드문 종류의 식물 사진 몇 장을 확보했다고 할 때, 전통적인 지도 학습 모델은 이 식물을 학습하기에 충분한 데이터가 없다는 문제에 직면, 하지만 Few-shot learning을 사용하면, 소수의 이미지만으로도 모델은 새로운 식물 종을 인식하고 분류하는 방법을 학습할 수 있음, 이런 상황에서 다양한 사전 훈련된 모델과 조합하여 적은 데이터로도 높은 정확도를 달성할 수 있는 전략이 중요하게 작용됨
적용
딥러닝 모델의 일반적인 학습 및 적용 단계인 pretraining -> finetuning -> inference 과정에서 주로 finetuning, inference 단계에서 중요한 역할을 함
사전학습(pretraining)
shot들이 이 단게에서 직접적으로 수행되지는 않음, 사전 학습된 모델은 이후의 shot들의 적용을 위한 기반을 제공함
특히 사전학습이 잘된 모델은 ZSL에서 더 좋은 성능을 보일 가능성이 높음
파인튜닝(finetuning)
- OSL와 FSL는 이 단계에서 큰 역할을 함, 적은 양의 데이터로 모델을 조정하여 특정 테스크에 대한 모델의 성능을 최적화할 수 있음, 특히 소수의 예시만을 사용하여 특정 클래스를 인식하는데 중요
- ZSL는 전통적인 파인튜닝보다는 인퍼런스 단계에서 모델이 어떻게 새로운 클래스를 처리할 수 있는지에 더 큰 중점을 둠
인퍼런스(inference)
- shot들은 이 단계에서 핵심적인 역할을 함, 모델이 본 적 없는 데이터나 소수의 예시를 기반으로 분류, 인식, 예측 등의 테스크를 수행하는 능력이 이 단계에서 평가
ZSL은 주로 인퍼런스 단계에서 본 적 없는 클래스를 처리하는 모델의 능력을 나타내며, OSL과 FSL은 파인튜닝 단계에서 모델을 특정 태스크에 최적화하는 데 중요한 역할을 하고, 인퍼런스 단계에서도 그 성능이 평가
이러한 방법들은 모델이 제한된 정보로부터 학습하고, 적응하며, 예측하는 능력을 극대화하는 데 도움을 줌
Supervised VS Few-Shot
Supervised는 레이블이 지정된 대규모의 훈련 데이터를 사용하여 훈련시키는 기계 학습의 한 형태
Few-shot Learning은 지도 학습의 한 형태이지만, 매우 적은 수의 훈련 샘플로부터 학습(또는 검증)하는데 중점을 둠 -> Few-Shot Learning 시나리오에는 지원 세트(Support Set)가 제공되고, 각 클래스의 몇 가지 예시만을 포함함. 그 후, 쿼리 샘플이 주어지면 모델은 지원 세트를 기반으로 이 샘플이 어떤 클래스에 속하는지 예측해야 함(쿼리 샘플이 훈련 과정에서 본 적이 없는 새로운 클래스에서 온 것일 수 있다는 점에 유의)
