Large Language Model (LLM) Interview Questions - Songwooseok123/Study

빔 서치(beam search)는 그리디 디코딩(greedy decoding)보다 텍스트 생성에서 어떻게 더 나은가요?

빔 서치는 텍스트 생성 시 여러 후보 시퀀스를 동시에 탐색하면서, 각 단계에서 확률이 높은 상위 k개의 후보(빔)를 유지합니다. 반면 그리디 디코딩은 매 단계에서 가장 확률이 높은 단어만을 선택합니다. 예를 들어 k = 5인 경우, 빔 서치는 더 다양한 후보를 고려하면서도 높은 확률을 유지하여, 기계 번역이나 대화 생성처럼 문맥 일관성이 중요한 작업에서 더 자연스럽고 일관된 결과를 만들어냅니다.

마스크드 언어 모델링(masked language modeling)이란 무엇이며, 사전학습에 어떻게 도움이 되나요?

마스크드 언어 모델링(MLM)은 문장 내 임의의 토큰을 가리고(mask), 나머지 문맥을 활용해 가려진 토큰을 예측하도록 모델을 학습시키는 방식입니다. 대표적으로 BERT 모델이 이 방식을 사용합니다. 이 방법은 양방향 문맥 이해를 가능하게 하여, 문장 내 의미적 관계를 깊이 있게 파악할 수 있게 합니다.

이런 사전학습 과정을 통해 LLM은 감정 분석이나 질문 응답 같은 다양한 자연어 처리 작업에 활용될 수 있는 기반 능력을 갖추게 됩니다.

시퀀스-투-시퀀스(Seq2Seq) 모델이란 무엇이며, 어디에 활용되나요?

시퀀스-투-시퀀스(Seq2Seq) 모델은 입력 시퀀스를 받아 출력 시퀀스로 변환하는 구조이며, 보통 입력과 출력의 길이가 다를 수 있습니다. 이 모델은 인코더가 입력 시퀀스를 처리하고, 디코더가 출력 시퀀스를 생성하는 방식으로 작동합니다.

활용 예시는 다음과 같습니다:

기계 번역 (예: 영어 → 스페인어)

텍스트 요약

챗봇 이처럼 입력과 출력 길이가 다를 수 있는 작업에 특히 적합합니다.

다음 문장 예측(next sentence prediction, NSP)이란 무엇이며, LLM에 어떻게 도움이 되나요?

다음 문장 예측(NSP)은 두 문장이 실제로 연속되는 문장인지 아닌지를 모델이 분류하도록 훈련시키는 기법입니다. 예를 들어, BERT는 사전학습 중 문장 쌍의 50%는 실제 연속 문장, 나머지 50%는 무작위 문장으로 구성하여 이진 분류 작업을 학습합니다.

NSP는 문장 간 관계를 이해하는 능력을 향상시켜, 대화 시스템이나 문서 요약과 같은 문맥 일관성이 중요한 작업에 도움이 됩니다.

텍스트 생성에서 Top-k 샘플링과 Top-p 샘플링은 어떻게 다른가요?

Top-k 샘플링은 확률이 높은 상위 k개의 토큰(예: k = 20) 중에서 무작위로 선택하는 방식입니다. 이를 통해 제어된 다양성을 확보할 수 있습니다.

Top-p 샘플링(누클리어스 샘플링)은 누적 확률이 설정된 임계값 p(예: 0.95)를 넘을 때까지의 토큰 집합에서 샘플링합니다. 문맥에 따라 유연하게 작동하여, 일관성을 유지하면서도 다양한 출력을 생성할 수 있습니다.

특히 창의적인 글쓰기와 같이 다양성과 자연스러움이 모두 필요한 작업에서 Top-p 샘플링이 효과적입니다.

LLM 파인튜닝 시 catastrophic forgetting(망각 현상)을 어떻게 방지할 수 있나요?

Catastrophic forgetting은 새로운 작업에 대해 파인튜닝할 때, 이전에 학습한 지식을 잃어버리는 현상입니다. 이를 방지하기 위한 방법에는 다음과 같은 것들이 있습니다:

Rehearsal(리허설): 기존 데이터와 새로운 데이터를 섞어서 학습

Elastic Weight Consolidation (EWC): 중요한 가중치를 유지하여 기존 지식을 보존

Modular Architectures: 작업별 모듈을 따로 추가하여 기존 구조를 덮어쓰지 않도록 함

이런 기법들은 LLM이 다양한 작업을 수행할 수 있는 범용성을 유지하는 데 중요합니다.

모델 디스틸레이션(model distillation)이란 무엇이며, LLM에 어떤 이점이 있나요?

모델 디스틸레이션은 큰 교사(teacher) 모델의 출력을 바탕으로, 더 작은 학생(student) 모델을 학습시키는 기법입니다. 이때 **확률 분포(soft labels)**를 사용하여 학습합니다.

이 방법을 통해:

메모리와 연산 자원 요구량을 줄일 수 있고,

스마트폰 같은 경량 디바이스에서도 실행 가능하며,

성능은 거의 교사 모델 수준을 유지할 수 있어, 실시간 응용에 적합합니다.

LLM은 OOV(out-of-vocabulary) 단어를 어떻게 처리하나요?

LLM은 OOV 단어(사전에 없는 단어)를 처리하기 위해 서브워드 토크나이징을 사용합니다. 예를 들어 Byte-Pair Encoding (BPE) 같은 방식은 "cryptocurrency"라는 단어를 "crypto" + "currency"처럼 알고 있는 서브워드 단위로 분해합니다.

이 방식은 희귀하거나 새로운 단어도 모델이 처리할 수 있게 하여, 언어 이해 및 생성의 **강건성(robustness)**을 보장합니다.

트랜스포머는 기존 Seq2Seq 모델에 비해 어떤 점이 개선되었나요?

트랜스포머는 기존 시퀀스-투-시퀀스(Seq2Seq) 모델의 한계를 다음과 같은 방식으로 극복합니다:

병렬 처리(Parallel Processing): RNN처럼 순차적으로 처리하지 않고, **셀프 어텐션(self-attention)**을 통해 토큰을 동시에 처리할 수 있습니다.

장거리 의존성(Long-Range Dependencies): 어텐션 메커니즘으로 멀리 떨어진 단어들 간의 관계도 잘 포착할 수 있습니다.

위치 인코딩(Positional Encodings): 순서 정보가 없다는 약점을 보완하기 위해 위치 정보를 추가하여 문맥을 이해합니다.

이러한 특성 덕분에 트랜스포머는 번역과 같은 작업에서 성능과 확장성을 크게 향상시켰습니다.

오버피팅(overfitting)이란 무엇이며, LLM에서는 어떻게 완화하나요?

오버피팅은 모델이 훈련 데이터를 과도하게 암기해서 새로운 데이터에는 일반화하지 못하는 현상입니다. 이를 방지하기 위한 방법으로는:

정규화(Regularization): L1, L2 규제를 사용해 모델이 과하게 복잡해지는 것을 방지

드롭아웃(Dropout): 학습 중 일부 뉴런을 무작위로 비활성화하여 과적합 방지

조기 종료(Early Stopping): 검증 성능이 향상되지 않으면 학습을 조기에 종료

이런 기법들은 새로운 데이터에 대한 일반화 성능을 유지하는 데 필수적입니다.

NLP에서 생성 모델(generative)과 판별 모델(discriminative)의 차이는 무엇인가요?

생성 모델(Generative Model): GPT처럼 전체 확률 분포를 모델링하여 새로운 텍스트나 이미지를 생성합니다.

판별 모델(Discriminative Model): BERT처럼 **조건부 확률(클래스를 구분하는 확률)**을 모델링하여 분류 작업에 사용됩니다.

즉, 생성 모델은 창의적인 생성 작업(예: 텍스트 생성)에, 판별 모델은 정확한 판단(예: 감정 분석)에 각각 강점을 가집니다.

포지셔널 인코딩(Positional Encoding)이란 무엇이며, 왜 사용되나요?

포지셔널 인코딩은 토큰의 순서 정보를 트랜스포머 입력에 추가하는 방식입니다. 트랜스포머의 셀프 어텐션(self-attention) 구조는 순서 정보를 본질적으로 인식하지 못하기 때문에, 포지셔널 인코딩이 필요합니다.

이는 사인(sin)/코사인 함수 또는 학습 가능한 벡터로 표현되며, 예를 들어 “king”과 “crown”이 문장에서 어디에 위치하는지에 따라 의미를 제대로 파악하도록 돕습니다. 특히 번역 같은 순서에 민감한 작업에 필수적입니다.

멀티-헤드 어텐션(Multi-head Attention)이란 무엇이며, 어떻게 LLM 성능을 향상시키나요?

멀티-헤드 어텐션은 쿼리(Query), 키(Key), 밸류(Value)를 **여러 개의 하위 공간(subspace)**으로 나누어 동시에 여러 시각으로 입력을 처리합니다.

예를 들어 하나의 헤드는 문장의 **문법(syntax)**을, 다른 헤드는 **의미(semantics)**를 포착할 수 있습니다. 이렇게 하면 모델이 더 복잡한 패턴과 의미 관계를 잘 파악할 수 있어 성능이 향상됩니다

어텐션 메커니즘에서 소프트맥스(Softmax) 함수는 어떻게 사용되나요?

소프트맥스 함수는 **어텐션 점수(쿼리와 키 간의 유사도)**를 확률 분포로 변환합니다.

공식:

이렇게 하면 각 토큰의 중요도 가중치를 계산할 수 있고, 모델이 문맥상 중요한 부분에 집중할 수 있도록 해줍니다.

셀프 어텐션에서 내적(dot product)은 어떤 역할을 하나요?

언어 모델링에 왜 크로스 엔트로피 손실(Cross-Entropy Loss)을 사용하나요?

LLM에서 임베딩(embedding)의 그래디언트는 어떻게 계산되나요?

트랜스포머에서 역전파 시 야코비안 행렬(Jacobian matrix)의 역할은 무엇인가요?

야코비안 행렬은 출력값이 입력값에 대해 얼마나 변하는지를 나타내는 편미분값들을 담고 있습니다. 트랜스포머에서는 다차원 출력에 대한 그래디언트(기울기)를 계산할 때 사용되며, 이는 가중치와 임베딩을 정확히 업데이트하는 데 필수적입니다. 복잡한 모델을 최적화하기 위해 매우 중요한 요소입니다.

고유값(eigenvalues)과 고유벡터(eigenvectors)는 차원 축소와 어떤 관련이 있나요?

고유벡터는 데이터의 주요 방향(축)을 정의하고, 고유값은 각 방향의 분산(정보량)을 나타냅니다. PCA(주성분 분석)와 같은 기법에서는 큰 고유값을 가지는 고유벡터만 선택하여 차원을 줄이면서도 대부분의 정보를 유지할 수 있습니다. 이는 LLM의 입력 처리를 보다 효율적으로 만들기 위한 중요한 방법입니다.

KL 발산(KL divergence)이란 무엇이며, LLM에서 어떻게 사용되나요?

ReLU 함수의 미분(derivative)은 무엇이며, 왜 중요한가요?

연쇄법칙(chain rule)이 LLM의 경사 하강법(gradient descent)에 어떻게 적용되나요?

트랜스포머에서 어텐션 점수(attention scores)는 어떻게 계산되나요?

Gemini는 멀티모달 LLM 훈련을 어떻게 최적화하나요?

Gemini는 다음과 같은 방식으로 효율성과 안정성을 높입니다:

통합 아키텍처(Unified Architecture): 텍스트와 이미지 처리를 결합하여 파라미터 효율을 높임

고급 어텐션(Advanced Attention): 교차 모달 학습(cross-modal learning)의 안정성을 개선

데이터 효율성(Data Efficiency): 자기 지도 학습(self-supervised) 기법을 활용해 라벨이 필요한 데이터 양을 줄임

이러한 특성 덕분에 Gemini는 GPT 같은 모델보다 더 안정적이고 확장 가능하게 멀티모달 학습을 수행할 수 있습니다

PEFT는 어떻게 급격한 망각(catastrophic forgetting)을 완화하나요?

PEFT(효율적인 파라미터 미세 조정)는 전체 파라미터 중 일부분만 업데이트하고, 나머지는 고정시켜 사전 학습된 지식을 보존합니다. LoRA와 같은 기법은 LLM이 새로운 작업에 적응하면서도 핵심 능력을 유지하도록 돕습니다. 이를 통해 여러 도메인에 걸쳐 성능을 안정적으로 유지할 수 있습니다.

MoE(Mixture of Experts)는 LLM의 확장성을 어떻게 향상시키나요?

MoE는 게이팅 함수(gating function)를 사용해 입력마다 특정 전문가 서브네트워크만 활성화시킵니다. 예를 들어, 하나의 쿼리에 대해 모델 파라미터의 10%만 사용될 수 있습니다. 이를 통해 수십억 개의 파라미터를 가진 모델도 효율적으로 작동하면서 높은 성능을 유지할 수 있습니다.

Chain-of-Thought(CoT) 프롬프트란 무엇이며, 추론에 어떤 도움을 주나요?

Chain-of-Thought(CoT) 프롬프팅은 LLM이 문제를 단계별로 해결하도록 유도하며, 인간의 사고 과정을 모방합니다. 예를 들어, 수학 문제에서 계산 과정을 논리적인 단계로 나누어 처리함으로써, 복잡한 논리 추론이나 다단계 쿼리에서 정확성과 해석 가능성을 높이는 데 도움이 됩니다.

판별적(discriminative) AI와 생성적(generative) AI의 차이는 무엇인가요?

판별적 AI는 감정 분류기처럼 입력 특징을 기반으로 라벨을 예측하며, 조건부 확률을 모델링합니다. 반면, 생성적 AI는 GPT처럼 전체 데이터 분포(결합 확률)를 모델링하여 텍스트나 이미지 같은 새로운 데이터를 생성합니다. 생성적 AI는 창의적인 유연성을 요구하는 작업에 적합합니다.

지식 그래프(Knowledge Graph) 통합은 LLM의 성능을 어떻게 향상시키나요?

지식 그래프는 구조화된 사실 기반 데이터를 제공함으로써 LLM을 다음과 같이 개선할 수 있습니다:

환각(hallucination) 감소: 그래프 기반으로 사실을 검증

추론 능력 향상: 엔티티 간의 관계를 활용

문맥 강화: 구조화된 문맥 제공으로 더 나은 응답 생성

이는 질문 응답, 개체 인식(Entity Recognition) 등의 작업에서 매우 유용합니다.

Adaptive Softmax는 LLM을 어떻게 최적화하나요?

Adaptive Softmax는 단어들을 빈도별로 그룹화하여, 희귀 단어에 대한 계산량을 줄입니다. 이 방법은 큰 어휘집을 다룰 때 계산 비용을 낮추어 학습과 추론 속도를 향상시키면서도 정확도를 유지합니다. 특히 자원이 제한된 환경에서 효과적입니다.

트랜스포머는 어떻게 기울기 소실(vanishing gradient) 문제를 해결하나요?

트랜스포머는 다음과 같은 방법으로 기울기 소실 문제를 완화합니다:

셀프 어텐션(Self-Attention): 순차적 의존성을 피함으로써

잔차 연결(Residual Connections): 직접적으로 기울기가 흐를 수 있도록 하여

레이어 정규화(Layer Normalization): 업데이트를 안정화시켜서

이 덕분에 RNN과 달리 깊은 모델도 효과적으로 학습할 수 있습니다.

LLM이 편향되거나 부정확한 출력을 생성할 때 어떻게 수정하겠습니까?

편향되거나 부정확한 출력을 다루기 위한 방법은 다음과 같습니다:

Large Language Model (LLM) Interview Questions - Songwooseok123/Study_Space GitHub Wiki