1 Generalized Linear Models (GLM)

GLM은 정규 선형 회귀를 지수족 분포 전체로 확장한 통합 프레임워크이다. 핵심 교재: McCullagh & Nelder (1989), Faraway (2006).

1.1 포스트 목록

2026-04-13, GLM 의 기원과 배경 — Gauss부터 Nelder-Wedderburn까지 (McCullagh & Nelder Ch.1)
2026-04-13, GLM 이론 기초 — 지수족·정준연결·이탈도·IRLS (McCullagh & Nelder Ch.2)
2026-04-14, GLM Process of Model Fitting — Model Selection·Estimation·Prediction (McCullagh §2.1)
2026-04-14, The Components of a GLM — Random·Systematic·Link 의 상세 해부 (McCullagh §2.2)
2026-04-14, GLM 적합도 측정 — Deviance·Pearson·Analysis of Deviance (McCullagh §2.3)
2026-04-14, GLM 잔차의 세 유형 — Pearson·Anscombe·Deviance Residuals (McCullagh §2.4)
2026-04-14, GLM 적합 알고리즘 — IRLS 의 완전한 유도 (McCullagh §2.5)
2026-04-14, GLM 의 지적 계보 — Bibliographic Notes (McCullagh §2.6)
2026-04-14, GLM 심화 결과와 연습 — Exponential Tilting·CLT·McCullagh Angular (McCullagh §2.7)
2026-04-14, 정규-항등 GLM 개관 — Continuous Data with Constant Variance (McCullagh Ch.3)
2026-04-14, 정규 선형모형의 오차 구조 — Error Structure (McCullagh §3.2)
2026-04-14, 선형 예측자의 구성 — Systematic Component (McCullagh §3.3)
2026-04-14, 모형식 대수 — Model Formulae for Linear Predictors (McCullagh §3.4)
2026-04-14, Aliasing — 식별불가의 두 얼굴과 추정가능함수 (McCullagh §3.5)
2026-04-14, 선형모형의 추정 — MLE·사영 기하·정보·다중공선성 (McCullagh §3.6)
2026-04-14, 표 형태 데이터의 회귀 — Tables as Data (McCullagh §3.7)
2026-04-14, 최소제곱 알고리즘 — Sweep·Cholesky·QR·Gram-Schmidt (McCullagh §3.8)
2026-04-14, 공변량 선택 — Parsimony·Atkinson 통일 공식·자동 절차 (McCullagh §3.9)
2026-04-14, 선형모형 심화 결과와 연습 — Ch.3 Exercises 재구성 (McCullagh §3.11)
2026-04-14, 이항 자료 GLM 개관 — Binary Data (McCullagh Ch.4)
2026-04-14, 이항분포 — Genesis·Cumulants·극한·변환 (McCullagh §4.2)
2026-04-14, 이항 반응 모형 — 링크 함수·모수 해석·후향 샘플링 (McCullagh §4.3)
2026-04-14, 이항 자료의 우도함수 — 로그우도·이탈도·편향·희소성·외삽 (McCullagh §4.4)
2026-04-14, 이항 자료의 과산포 — Over-dispersion (McCullagh §4.5)
2026-04-14, 이항 GLM 심화 결과와 연습 — Ch.4 Exercises 재구성 (McCullagh §4.8)
2026-03-07, GLM 응용 통합 — 고전 검정부터 분포 확장까지 (t-test·ANOVA·로지스틱·포아송)
2026-04-07, Logistic Regression: The Model — GLM 3요소, 로짓 링크, 오즈비, MLE, 정보행렬, Wald/LRT
2026-04-07, Logistic Regression: Estimation — 헤시안 순오목성, Newton-Raphson, IRLS, 이탈도
1111-11-11, Poisson Regression — 카운트 데이터, 로그 연결, 과산포 (McCullagh Ch.6)
1111-11-11, Binary Data — 로지스틱·프로빗·보완로그-로그 비교 (McCullagh Ch.4)
2026-04-15, Models for Polytomous Data — 개관 · 측정 척도와 모형 지도 (McCullagh Ch.5)
2026-04-15, Measurement Scales — 명목·순서·구간·계층 척도와 링크 선택 (McCullagh §5.2)
2026-04-15, The Multinomial Distribution — 생성·모멘트·일반화역행렬·Pearson \(X^2\)·이항분해 (McCullagh §5.3)
2026-04-15, Likelihood Functions for Polytomous GLMs — 로그우도·스코어·이탈도·과산포·치즈 실험 (McCullagh §5.4~§5.6)
2026-04-15, Over-dispersion in Polytomous GLMs — 군집 샘플링·Dirichlet-multinomial·\(\sigma^2\) 추정 (McCullagh §5.5, §4.5)
2026-04-15, Polytomous GLM Examples — 치즈 맛 시뮬레이션과 탄광부 진폐증 (McCullagh §5.6)
2026-04-15, Polytomous GLM 심화 결과와 연습 — 조합·정보·모형 등가·score vs Wilcoxon·LDA (McCullagh §5.7~§5.8)
2026-04-15, Log-linear Models — 개관 · 카운트 데이터·포아송 과산포·다항 쌍대성 (McCullagh Ch.6 §6.1)
2026-04-15, Likelihood Functions for Log-linear Models — 포아송 로그우도·\(\mu^{1/3}\) 이차 근사·과산포 3 메커니즘·NB (McCullagh §6.2)
2026-04-15, Log-linear Models — 예제 · Fisher 결핵균 라틴 정방과 Lloyd’s 선박 손상 rate 회귀 (McCullagh §6.3)
2026-04-15, Log-linear 과 Multinomial Response 의 쌍대성 — 포아송 조건부·장해 모수 소거·식 (6.8) (McCullagh §6.4)
2026-04-15, Multiple Responses in Log-linear Models — 조건부 독립·분해가능성·정준상관·다변량 회귀 (McCullagh §6.5)
2026-04-15, Log-linear Models — Respiratory Ailments 예제 · 이변량 로짓 vs 로그선형 해석 차이 (McCullagh §6.6)
2026-04-15, Log-linear 심화 결과와 연습 — 포아송 변환·음이항·이변량 로짓·APA 투표·말발굽 (McCullagh §6.7~§6.8)
2026-04-15, Conditional Likelihoods — Ch.7 전체 개관 · 장해 모수·축약 우도·초기하·매칭 쌍·Bradley–Terry (McCullagh Ch.7)
2026-04-18, 초기하분포족 — 중심, 비중심, 다변량 확장과 조건부 추론 (McCullagh §7.3)
2026-04-18, 이항 자료 응용 — 두 이항 비교·Mantel-Haenszel·Ille-et-Vilaine 식도암 (McCullagh §7.4)
2026-04-18, 다범주 자료 응용 — 매칭 쌍 명목·순서형·Quasi-Symmetry·Bradley-Terry·치즈 실험 (McCullagh §7.5)
2026-04-18, 조건부 우도 심화 결과와 연습 — 축약 우도·REML·Fieller-Creasy·사영 행렬·초기하 반복 (McCullagh §7.7)
2026-04-18, Models for Data with Constant Coefficient of Variation — 감마 분포·역수 연결·로그 연결·산포 추정 (McCullagh Ch.8)
2026-04-18, The Gamma Distribution — 밀도·누율·형태 모수·합성·정규화 변환 (McCullagh §8.2)
2026-04-18, Models with Gamma-Distributed Observations — 분산 함수·이탈도·정준/로그/항등 연결·산포 추정 (McCullagh §8.3)
2026-04-18, Gamma GLM Examples — 자동차 보험·혈액 응고·강수량·초파리 발생률 (McCullagh §8.4)
2026-04-18, Gamma GLM 심화 결과와 연습 — CV-log 근사·Dirichlet 독립성·편향 보정·로그 변환 효율·정확 검정 (McCullagh §8.5-§8.6)
2026-04-18, Quasi-likelihood Functions 개관 — 분포 없이 평균-분산만으로 추론하는 GLM 확장 (McCullagh Ch.9)
2026-04-18, Independent Observations — 공분산 제약·준-스코어 3 성질·Table 9.1 전 유도·Leaf-blotch 완전 분석 (McCullagh §9.2)
2026-04-18, Dependent Observations — 비대각 공분산·경로 독립성·voter transition·GEE 연결 (McCullagh §9.3)
2026-04-18, Optimal Estimating Functions — 추정함수 이론·기본 추정함수 결합·Fieller-Creasy·Avebury 거석환 (McCullagh §9.4)
2026-04-19, Optimality Criteria — 선형 추정함수 클래스·Gauss-Markov 유비·정밀도 차이·등호 조건·조건부 확장 (McCullagh §9.5)
2026-04-19, Extended Quasi-likelihood — Q⁺ 정의·h₁ 유도·Saddlepoint 근사·스코어 모멘트·산포 회귀 (McCullagh §9.6)
2026-04-19, Quasi-likelihood 심화 결과와 연습 — Poisson-Gamma 혼합·Voter Transition·Löwner·타원 적합·Mantel-Haenszel (McCullagh §9.8)
2026-04-19, Joint Modelling of Mean and Dispersion — 이중 GLM·Q⁺·첨도·REML 보정·Godambe-Thompson·Leaf-spring (McCullagh Ch.10)
2026-04-19, Model Specification for Joint Mean-Dispersion — 이중 GLM 설계 도면·\(r_P^2\) vs \(r_D^2\)·\(V_D(\phi)\)·연결함수·교대 IRLS (McCullagh §10.2)
2026-04-19, Interaction between Mean and Dispersion Effects — null 대조·replicate 대조·마진 조건·\(V(\mu)\) 오선택·평균 누락의 산포 오염 (McCullagh §10.3)
2026-04-19, Extended Quasi-Likelihood as a Criterion — \(Q^+\) 이중 GLM 목적함수·(10.3)(10.4)(10.5) 유도·\(V_D(\phi)=\phi^2\) 고정·블록 대각 정보 (McCullagh §10.4)
2026-04-19, Adjustments of the Estimating Equations — 첨도 \((1+\rho_4/2)^{-1}\)·자유도 \(\nu/n\)·\(Q_M^+\)·\(2^3=8\) 변종·REML 유비 (McCullagh §10.5)
2026-04-19, Joint Optimum Estimating Equations — Godambe-Thompson·\((g_{1i}, g_{2i})\)·공분산 \(V_i\)·유도 \(D_i\)·식 (10.7) (McCullagh §10.6)
2026-04-19, Leaf-spring Example — Pignatiello-Ramberg \(2^{5-1}\) factorial·replicate vs null 대조·부호 역전·Table 10.3-10.5 (McCullagh §10.7)
2026-04-19, Ch.10 Exercises — 지수 이탈도 \(7/6\)·공통 모수·Table 10.1 유도·블록 대각 정보 (McCullagh §10.9)
2026-04-19, Models with Additional Non-Linear Parameters — 개관 · 분산함수·링크·공변량 속 미지 모수·Pregibon·Box-Tidwell (McCullagh Ch.11)
2026-04-19, Parameters in the Variance Function — 음이항 \(k\)·Poisson-Gamma 혼합·digamma·profile likelihood·반올림 분산 \(\tau^2+\sigma^2\mu^2\) (McCullagh §11.2)
2026-04-19, Parameters in the Link Function — Box-Cox 멱 링크·Pregibon 선형화·goodness-of-link·logit-cloglog 가족·데이터 vs 적합값 변환 (McCullagh §11.3)
2026-04-19, Non-Linear Parameters in the Covariates — Box-Tidwell 선형화·반복 2중 루프·분산 보정·지수합 식별성·\(\log(x_1+\theta x_2)\) 약물 혼합 (McCullagh §11.4)
2026-04-21, Non-Linear Parameters — Examples · Bermuda 잔디·살충제-상승제·인슐린 혼합 (McCullagh §11.5)
2026-04-21, Ch.11 Exercises — 반올림 오차 누율·Kolassa-McCullagh 정리·Drosophila 비선형 적합 (McCullagh §11.7)
2026-04-21, Model Checking — 개관 · 체계적 이탈 vs 이상점·잔차·햇·삭제잔차 (McCullagh Ch.12)
2026-04-21, Techniques in Model Checking — 비공식·공식 분업과 Embedding 네 채널 (McCullagh §12.2)
2026-04-21, Score Tests for Extra Parameters — 한 회 반복으로 끝나는 검정 (McCullagh §12.3)
2026-04-21, Smoothing as an Aid to Informal Checks — 밀도 편향·LOWESS·대역폭 선택 (McCullagh §12.4)
2026-04-21, Raw Materials of Model Checking — 잔차·햇 행렬·삭제잔차의 완전 유도 (McCullagh §12.5)
2026-04-21, Checks for Systematic Departure — 분산·링크·공변량 척도 세 축 (McCullagh §12.6)
2026-04-21, Checks for Isolated Departure — 레버리지·일관성·영향력의 세 측도 (McCullagh §12.7)
2026-04-21, Model Checking Examples — 당근·Minitab 나무·자동차 보험금 (McCullagh §12.8)
2026-04-21, A Strategy for Model Checking? — 진단의 한계와 실무 휴리스틱 (McCullagh §12.9)
2026-04-21, Ch.12 Exercises — Neurospora 균·당근 재검·고양이 심장 알로메트리 (McCullagh §12.11)
2026-04-21, Models for Survival Data — 개관 · Aitkin-Clayton Poisson GLM 환원 (McCullagh Ch.13)
2026-04-21, Proportional-Hazards Models — 비례 가정의 기하와 검증 (McCullagh §13.2)
2026-04-21, Parametric Survival — Aitkin-Clayton 환원의 완전 유도 · 지수·Weibull·극치값 (McCullagh §13.3)
2026-04-21, Leukaemia Remission Example — Freireich 1963 완전 분석 · 지수·Weibull·Cox 비교 (McCullagh §13.4)
2026-04-21, Cox’s Proportional-Hazards Model — 부분 우도·동률 처리·Whitehead 포아송 환원 (McCullagh §13.5)
2026-04-21, Ch.13 Exercises — 협심증 임상 설계와 Sukhatme 정리 (McCullagh §13.7)
2026-04-21, Components of Dispersion — 개관 · GLMM 의 출발 (McCullagh Ch.14)
2026-04-21, Linear Mixed Models — 결핵균 assay 와 라틴 정방 설계 (McCullagh §14.2)
2026-04-21, Non-Linear Mixed Models (GLMM) — 식별 불가 설계에서 랜덤효과의 구원 (McCullagh §14.3)
2026-04-21, GLMM Parameter Estimation — 준-우도 방정식과 이차 형식 교대 추정 (McCullagh §14.4)
2026-04-21, Salamander 교배 실험 — 교차 랜덤효과 GLMM 의 교본 (McCullagh §14.5)
2026-04-21, Ch.14 Exercises — 로지스틱-정규 근사·Kruskal 정리·Salamander 균형 조건 (McCullagh §14.7)
2026-04-21, Further Topics — 편향 보정·Bartlett 조정·GAM (McCullagh Ch.15)
2026-04-21, Bias Adjustment — MLE 의 \(O(n^{-1})\) 편향을 보조 회귀로 교정 (McCullagh §15.2)
2026-04-21, Bartlett Adjustment — LRT 통계량의 \(\chi^2\) 근사를 \(O(n^{-2})\) 로 개선 (McCullagh §15.3)
2026-04-21, Generalized Additive Models — 선형 예측자에서 평활 함수로 (McCullagh §15.4)
2026-04-21, Ch.15 Exercises — Lizard 각도·\(P\) 사영성·지수 회귀 Bartlett·\(\chi^2\) 분산 검정 (McCullagh §15.6)
2026-04-21, Appendix A — Elementary Likelihood Theory · Bartlett 항등식·점근 정규성·Schur 보수 (McCullagh)
2026-04-21, Appendix B — Edgeworth Series · CLT 의 고차 보정·Hermite 다항식·Sheppard (McCullagh)
2026-04-21, Appendix C — Likelihood-Ratio Statistics · Bartlett 조정의 증명·Cornish-Fisher 전개 (McCullagh)