깜신의 작은 진료소

ANOVA라는 이름, 왠지 익숙하신가요? 학부 시절 커리큘럼에 통계 관련 과목이 하나만 있었어도 여러분은 틀림없이 이 단어를 배우셨을 겁니다. 활용 빈도 또한 무척 높죠. 사실 앞 챕터에서 알아봤던 두 그룹의 평균 비교는 논문을 작성할 때 실험군과 대조군의 나이 등을 비교하면서 자연스럽게 녹아들어가고, 실제로 결과 제출에 이용되는 분석 방법은 이 장에서 소개할 세 그룹 이상의 평균 비교부터일 겁니다. 앞장을 잘 이해하셨다면, 절대 어렵지 않습니다. 일단, 두 그룹의 비교에서처럼, 세 그룹 이상의 평균을 비교할 때 사용하는 통계분석방법도 3가지 뿐입니다. 그리고 고르는 방법도 아래 그림처럼 동일한 순서도를 가집니다. 앞장과 유사한 방법으로 진행하면 되겠죠?! 사실 그럴수도 있지만, 이번 챕터에서는 실제 연구에서 늘 부딪치게 되는 데이터 클리닝 과정을 살짝 엿보려고 합니다.

데이터 클리닝(본격적인 분석에 앞서 데이터 정리하기)

이번 챕터에서 이용할 예제 데이터는 건강보험심사평가원에서 공공데이터로 배포했던 대장암 환자 자료 중 300명을 임의로 추출한 것입니다. 데이터 안에는 환자의 나이(age), 성별(sex), 신장(height), 체중(weight), 대장암 병기(stage), 입원일수(HDday), 진단코드(Code) 등이 담겨 있습니다. 먼저 앞에서 배웠던 read.csv()함수를 이용해서 예제 데이터를 불러오도록 하겠습니다.

colon300.csv

> colon300 <- read.csv(file = "colon300.csv", header = TRUE) # 'header = TRUE'라는 
  옵션은 예제데이터의 첫 번째 행이 각 열의 이름이라는 걸 컴퓨터에게 알려줍니다.
> #View(colon300) # 불러들인 colon300.csv파일이 colon300 라는 변수에 잘 담겼는지, 
  새로운 창을 열어 colon300 안을 보여달라는 명령어입니다.

새로운 탭이 열리면서 아래와 같은 화면이 보인다면 성공입니다. 만약 그렇지 않다면, 틀림없이 경로설정의 문제일 겁니다. 이렇게 자신하는 이유는 저도 이 실수를 수도없이 반복하기 때문이죠. working directory가 파일이 위치한 폴더로 설정이 되어 있는지 확인하시기 바랍니다. 아차! 하며 직접 해결하실 수 있는 분들은 아래 결과를 확인한 이후에 계속 진행하시면 되고요. 만약 경로설정에 대해 1도 모르겠다시는 분이라면, 챕터3 ’엑셀파일 csv로 변환해서 R로 불러오기’와 부록 ’파일 경로 마스터하기’를 참고하시기 바랍니다.

데이터를 로드한 이후에 가장 먼저할 일은 어떤 데이터가 로드되었는지 확인하는 일입니다.물론, View()함수를 이용해서 확인하셨지만, 그걸로는 부족합니다. 데이터가 어떤 구조로 구성되어 있는지를 살피는게 진짜죠. 이를테면 심층면접 같은 겁니다. 구조를 보는 함수는 structure라는 단어의 약자인 str()함수입니다. 다음 코드를 입력하시고 Ctr + return(or enter) 키조합을 누르세요.

> str(colon300)

'data.frame':   300 obs. of  7 variables:
 $ age   : int  32 46 63 52 55 53 72 75 64 71 ...
 $ sex   : Factor w/ 2 levels "F","M": 1 1 2 2 2 1 2 1 1 1 ...
 $ height: num  167 167 157 151 165 ...
 $ weight: num  56.7 71.9 49.7 53 50.5 89 54.4 70 55.2 63.8 ...
 $ stage : Factor w/ 4 levels "I","II","III",..: 3 3 3 1 1 2 1 1 1 3 ...
 $ code  : Factor w/ 11 levels "C180","C181",..: 6 7 10 11 7 6 11 9 11 11 ...
 $ HDday : int  8 9 8 11 32 15 19 65 10 8 ...

결과를 살펴보도록 하죠. age는 int 형식으로 38, 52, 62 등등의 값이 담겨있다는 의미입니다. int는 interger의 약자로 정수를 의미합니다. height와 weight도 같은 숫자이지만, 형식은 num인 걸 볼 수가 있습니다. num은 number의 약자로 숫자를 의미합니다. int와는 달리 소숫점 아래의 숫자가 담을 수 있습니다. sex와 stage, code는 Factor라고 표시되어 있는데요. 한글로는 ’요인’이라고 번역합니다. 처음에는 문자가 담기는 chr형식과 혼돈스러우실 겁니다. 둘다 문자가 담기니까요. 하지만, chr에는 개별 문자가 모두 고유명사처럼 쓰인다면, 개별의 의미를 가진다면, Factor에서 문자는 종류(level) 중의 하나를 의미합니다. 예를 들어, sex는 2개의 levels “F”와 “M”으로 구성되어 있다는 의미이고, stage는 4개의 요인으로 구성되어 있으며, 개별 행은 4개의 요인 중 하나를 가지게 되죠. code는 11개로 구성되어 있음을 알 수 있습니다.

추가설명 : Factor w/4 levels “I”는 이 행은 4개 요인 중 하나인 ’I’값을 가진다는 걸 의미합니다. 단순히 ’I’라는 이름이 아니라, 요인 중 하나라는 의미는 R프로그램 뿐 아니라, 모든 통계 관련 프로그램에서 굉장히 큰 의미를 가집니다. 그러니, str()함수를 통해 데이터셋의 구조를 볼 때 해당열이 Factor인지 아니면 chr인지 구별해서 보는 실력을 키우셔야 합니다.

결측값(비어 있는 값)을 제거하기

실습을 위해 제작한 데이터셋을 제외하고 결측값이 하나도 없는 데이터는 존재하지 않습니다. 세상일이 그렇게 단순하지 않으니까요. View(colon300) 명령어를 통해 열어놓은 탭을 클릭해서 raw 데이터를 살펴보시면, 11번 째 환자 데이터의 경우 height 항목에 NA라고 표시되어 있는 걸 보실 수 있습니다. NA(또는 na)는 컴퓨터에서 값이 비어 있다는 의미입니다. ’0’과는 또다른 의미죠. 그런데 이런 값들이 통계분석에 그대로 포함되면 현상을 왜곡시킬 수가 있습니다. 그래서 연구자들은 크게 2가지 방법을 많이 활용합니다. 하나는 그 주변 행의 값들을 가지고 유추해서 결측값을 채우는 방법입니다. 두 번째 방법은 행(환자)에 하나의 값이라도 결측값(누락된 결과값)이 있으면 아예 그 행(환자)을 전체데이터셋에서 삭제하는 방법입니다. 저는 두 번째 방법을 선호합니다. 그런데 전체 환자 수가 만 명 단위를 넘어서면 수작업으로 결측값이 포함된 행(환자)을 모두 선별한다는 건 매우 어려운 일입니다. 그래서 결측값이 포함된 모든 행(환자)을 자동으로 제거해주는 함수가 있습니다. 바로 na.omit()이라는 함수입니다. 해당 함수를 써서, colon300 데이터셋에서 결측값이 하나도 없는 환자만을 추려 colon_clean이라는 변수에 담아보도록 하겠습니다.

> colon_clean <- na.omit(colon300)

명령이 실행된 이후에 위처럼, 우측 상단에 colon_clean 변수가 생성되었다면 성공하셨습니다. 그 뒤편의 숫자를 보면, colon300에서는 300개였던 관찰치(obs)가 296으로 줄어들었군요. height 값이 누락된 환자가 4명이 있었던 모양입니다.

데이터 살펴보기(통계값을 구하기 전에 탐색적 그래프를 그려보기)

이제 데이터 클리닝이 완료되었으니, 통계 분석의 첫 단추를 채워보도록 하겠습니다. 저는 기본 통계(회귀분석 등의 고급통계 말고)에서는 되도록 그래프를 먼저 그려서 여러분의 직관을 통해 결과를 유추해보라고 권합니다. 정규분포를 하는지 shapiro.test를 시행하기 전에 앞서 데이터의 분포가 실제로 정규분포(종 모양)에 가까운지 눈으로 확인해보라는 말씀입니다. 이렇게 하면, 나중에 구하게 될 통계값에 대해 자신을 가질 수도 있고 실수를 했을 때 다시 돌아볼 수 있는 기회가 생깁니다. 예를 들어, 정규분포를 절대 하지 않을 것 같은 모양의 분포였는데, 통계값이 정규분포라고 나왔다면 그건 100% 계산을 잘못한 겁니다. 통계값이란 눈으로 확인하면 알 수 있는 직관적인 결과를 남에게 신뢰성 있게 전달하기 위해 만들어진 것입니다. 이야기 만으로 ’내가 보기에는 정규분포 같더라’라고 하면 상대방이 믿어야할지 말아야할지 고민스러울 수 있겠죠. 그럴 때 p값을 적어준다면 상대방이 어느 정도 정규분포에 가까운지 객관적으로 느낄 수 있습니다. 거꾸로 눈으로 의미가 보이지 않는 결과에서 통계값이 의미있게 나온다면 전후가 뒤바뀐 거죠. (물론, 고급 통계에 가면 모든 결과를 그래프로 직관화하기 어렵습니다. 마치 고전역학은 그림으로 설명할 수 있지만, 양자역학은 어려운 것처럼요.)

분포를 살펴볼 때 가장 많이 활용되는 것은 밀도그래프입니다. 밀도 그래프를 그리는 함수는 여러 개가 있는데, 이 챕터에서는 문건웅 교수님이 제작해서 배포한 moonBook이라는 패키지에 들어 있는 densityplot()함수를 이용해보겠습니다.

> #install.packages("moonBook") # install.packages()함수는 여러분의 컴퓨터에서 한 번만 
  실행시키시면 됩니다. 마치 배틀그라운드를 윈도우에 설치하는 것과 같습니다. 
  컴퓨터를 떴다 켤때마다 게임을 다시 설치 하지 않는 것처럼요.
> library(moonBook)             # 컴퓨터를 재시작하거나, 프로그램을 종료했다가 
  다시 실행시켰을 때에는 library()함수만 다시 실행시키면 됩니다. 
  이건 게임을 켜기 위해 게임 실행아이콘을 클릭하는 과정이라고 보시면 됩니다.
> moonBook::densityplot(height~stage, data=colon_clean)

명령어의 첫 번째 줄은 moonBook이라는 패키지를 여러분의 컴퓨터에 설치하라는 명령어입니다. 인터넷에서 패키지를 다운받아서 자동으로 설치를 시작합니다. 때문에 당연히 컴퓨터에 인터넷이 연결되어 있어야하고, 설치하는데 조금 시간이 걸립니다. 그 다음 줄의 library(moonBook) 명령어는 설치된 moonBook 패키지를 실행시키라는 의미입니다. 이 명령어를 실행시킨 이후부터 moonBook패키지 안에 들어 있는 여러 함수들을 사용할 수 있게 됩니다. 가장 먼저 살펴볼 함수는 densityplot()함수 입니다. moonBook::densityplot()이라고 함수 앞에 패키지의 이름(moonBook::)을 붙여쓴 걸 볼 수 있습니다. 이건 moonBook패키지 안에 있는 densityplot()함수를 지정하기 위해서입니다. 대부분은 패키지의 이름을 생략하고 쓰는데요. 여기에서만 패키지의 이름을 붙여준 건 densityplo()함수가 moonBook패키지 이외에 다른 패키지에도 동일한 이름의 함수가 들어 있기 때문입니다.

그래프를 보시면 다행히 네 그룹의 분포가 모두 종모양과 비슷한 걸 확인할 수 있습니다. 각각이 모두 정규분포를 할 가능성이 높겠군요. 그럼 shapiro.test를 통해 각 병기환자의 키 분포가 실제로도 정규분포를 하는지 살펴보겠습니다.

> shapiro.test(colon_clean$height[colon_clean$stage=="I"])


    Shapiro-Wilk normality test

data:  colon_clean$height[colon_clean$stage == "I"]
W = 0.97765, p-value = 0.3484

> shapiro.test(colon_clean$height[colon_clean$stage=="II"])


    Shapiro-Wilk normality test

data:  colon_clean$height[colon_clean$stage == "II"]
W = 0.97606, p-value = 0.0819

> shapiro.test(colon_clean$height[colon_clean$stage=="III"])


    Shapiro-Wilk normality test

data:  colon_clean$height[colon_clean$stage == "III"]
W = 0.98557, p-value = 0.2674

> shapiro.test(colon_clean$height[colon_clean$stage=="IV"])


    Shapiro-Wilk normality test

data:  colon_clean$height[colon_clean$stage == "IV"]
W = 0.97757, p-value = 0.758

p-value가 0.3484, 0.819, 0.2674, 0.758로 모두 0.05이상인 걸 확인할 있습니다. shapiro.test에서는 p-value가 0.05일 때 정규분포를 한다고 해석합니다. 병기별 환자수를 살펴보는 명령어는 다음과 같습니다.

> table(colon_clean$stage)


  I  II III  IV 
 59  94 113  30

각 병기별로 30명의 환자가 넘으니 각각의 분포가 정규분포를 하는 게 어쩌면 당연하겠군요. 그래서 우리는 일반적으로 30명이 넘으면 정규분포를 한다고 가정합니다. 집단의 분포를 알 수 없을 때 그룹별로 30명 이상씩의 대상자를 모집하는 이유도 동일합니다. 하지만 간과하면 안되는 게 있죠. 제가 앞 챕터에서 각 그룹의 정규분포가 중요한 게 아니라, 잔차(그룹 간 차이)의 분포가 정규분포를 하는지가 중요하다고 말씀드렸습니다. 잔차의 정규분포는 아래 명령어로 알아봅니다. 두 그룹일 때는 lm()함수를 썼었는데, 이번에는 aov()함수를 사용하는 게 차이점입니다.

> out = aov(height~stage, data=colon_clean)
> shapiro.test(resid(out))


    Shapiro-Wilk normality test

data:  resid(out)
W = 0.99132, p-value = 0.07844

결과의 해석은 p-value가 0.05보다 크다면 정규분포를 한다입니다. 0.07844로 넉넉하진 못하지만 정규분포를 가정할 수준은 되는군요. 제일 위의 순서도를 따라 내려가보록 하겠습니다. 정규분포를 하니까, 이번에는 등분산인지를 확인해야겠군요. 등분산을 확인하는 명령어는 다음과 같습니다.

> bartlett.test(height~stage, data=colon_clean) # p값이 0.05보다 크다면 등분산


    Bartlett test of homogeneity of variances

data:  height by stage
Bartlett's K-squared = 2.4437, df = 3, p-value = 0.4856

해석은 정규분포 때와 동일하게 p-value가 0.05보다 크다면 등분산을 만족한다라고 읽으시면 됩니다. height값은 연속형 변수였고, 정규분포를 하며, 등분산도 만족하니, ANOVA를 통해 각 그룹의 평균을 비교하면 되겠군요.

ANOVA를 통한 그룹간의 평균 비교

이름도 유명한 ANOVA를 이용하는 방법은 의외로 간단합니다. 눈치 빠른 분들은 이미 알아채셨을텐데요. 정규분포를 확인하기 위해 out이라는 변수에 담아 두었던 값을 그대로 summary()함수에 담기만 하면 됩니다.

> out = aov(height~stage, data=colon_clean)
> summary(out) # p < 0.05이면 그룹간의 평균이 서로 다르다.

             Df Sum Sq Mean Sq F value Pr(>F)
stage         3     64   21.41   0.246  0.864
Residuals   292  25371   86.89

p-value가 0.864가 나왔네요. 우리가 통상적으로 차이가 있다는 가설을 검정하기 위해서는 p값이 0.05보다 작아야했었죠. p값이 0.05라는 의미는 이와 같은 분포가 자연적으로 발생할 확률이 5%라는 겁니다. 여기서는 0.864즉 차이가 없을 확률이 86.4%나 되니, 그룹간의 차이는 없다고 보는 게 옳겠죠?!

Kruskal Wallis H Test를 이용한 그룹간의 평균 비교

이번 예제데이터에서는 ANOVA를 써야했지만, 1) 결과값이 연속형 변수가 아니거나, 2) 연속형 변수였지만 정규분포를 하지 않는다면, Kruskal Wallis H Test로 평균을 비교해야합니다. 하는 방법은 아래와 같습니다.

> kruskal.test(height~stage, data=colon_clean)  # p < 0.05이면 그룹간의 평균이 서로 같지 않다.


    Kruskal-Wallis rank sum test

data:  height by stage
Kruskal-Wallis chi-squared = 0.55222, df = 3, p-value = 0.9073

해석은 ANOVA와 동일합니다.

Welch’s Test를 이용한 그룹간의 평균 비교

결과값이 연속형 변수였고, 정규분포는 하였으나, 등분산을 만족하지 않는 경우에는 Welch’s Test를 이용하게 됩니다. 하는 방법은 아래와 같습니다.

> oneway.test(height~stage, data=colon_clean, var.equal = FALSE) # p < 0.05이면 
  그룹간의 평균이 서로 같지 않다.


    One-way analysis of means (not assuming equal variances)

data:  height and stage
F = 0.26117, num df = 3.00, denom df = 104.79, p-value = 0.8532

명령어 안에 var.equal = FALSE 라는 옵션을 지정해준 걸 볼 수 있습니다. var.equal은 등분산을 의미하고 TRUE가 아닌 FALSE는 만족하지 못했음을 의미합니다.

이렇게 여러 그룹의 평균을 비교하는 방법을 알아봤습니다. 보통 다른 통계책에서는 3 그룹의 평균을 비교하는 방법을 보여드리는데, 3 그룹 이상 즉 4 그룹이나 5 그룹의 평균비교도 동일하다는 점을 보여드리기 위해 저는 4 그룹으로 구성된 예제 데이터를 활용했습니다. 하지만 여기서 끝난 게 아니죠. 여러 그룹의 평균이 차이가 나는지는 알아봤지만, 만약 차이가 난다면 어떤 그룹과 어떤 그룹이 차이가 나서 그런 결과가 나왔는지는 아직 알아보지 않았으니까요. 다음 챕터에서는 바로 그 부분을 알아보도록 하겠습니다.

두 그룹의 평균을 비교하기

깜신 — Mon, 19 Nov 2018 07:42:02 +0900

두 그룹의 평균을 비교하기

두 그룹의 평균을 비교하는 일은 거창한 연구가 아니더라도, 정말 자주 활용하는 통계분석입니다. 하지만 이것 마저도 처음에는 쉽지 않죠. 저는 오히려 이것까지만 제대로 따라오시면 나머지도 쉽다고 말씀드리고 싶군요. 두 그룹의 평균을 비교하는 통계분석 방법은 전세계에 딱 3개만 있다고 생각하시면 됩니다. 그중 하나가 t-test고요. 다음 하나는 Wilcoxon rank-sum test , 마지막 하나가 Welch’s test입니다. 다른 통계책을 함께 펼쳐 놓고 공부하다가 Mann-Whitney U test와 Mann Whitney-Wilcoxon(MWW) test라는 이름의 분석 방법을 만나실 수도 있는데요. 이 방법들은 모두 Wilcoxon rank-sum test랑 같은 분석이니 당황하실 필요 없습니다. 여러분은 이제 두 그룹의 평균을 비교할 때, 앞서 이야기한 딱 3가지 방법만 머리에 떠올리시면 됩니다. 그렇다면 3가지 방법 중에서 어떤 방법을 써야할까요?

제가 통계를 제대로 공부하기 전에는 통계방법이 해마다 업데이트가 되는 줄 알았습니다. 그래서 제가 대학교 다닐 때 배운 구닥다리 방법으로 의미 있는 p값을 찾지 못할 때, 다른 연구자들은 최신의 통계방법을 사용하여 비슷한 데이터로도 더 작은 p값을 뽑아내는 줄 알았지요. 하지만 막상 통계를 공부해보니, 전혀 그렇지 않더군요. 평균을 비교하는 방법은 예나 지금이나 이렇게 딱 3가지뿐 입니다. 그러니 이 챕터를 공부하고 나시면 여러분은 이제 전세계에서 평균을 가장 잘 비교하지는 못해도, 절대 두 번째가 되지는 않으실 겁니다.

3가지 중 하나를 선택하는 요령

위의 순서도를 보시고, 차근차근 따라하시면 됩니다. 가장 먼저 여러분의 데이터에서 눈여겨 보아야할 부분은 비교하고자 하는 결과값이 연속형 변수냐, 아니냐 입니다. 연속형 변수란 수량화가 가능한 값을 말합니다. AST, ALT등의 간수치나 키, 몸무게 등이 모두 연속형 변수이지요. 나이는 그럼 연속형 변수일까요, 아닐까요? 나이는 대부분 연속형 변수입니다. 하지만 국민건강보험공단이나 심평원에서 배포하는 보건빅데이터에는 나이가 단순한 숫자가 아닌 연령대로 구분되어 있죠. 10대, 20대, 30대로 구분된 데이터라면 이건 더이상 연속형 변수가 아닙니다. 혼란스러우시죠? 제가 다시 정리해드리겠습니다.

모든 데이터는 위 그림에서 보시는 것처럼 범주형 변수와 연속형 변수로 나뉩니다. 그리고 범주형 변수는 다시 명목척도와 순위척도로 구분되죠. 연속형 변수는 간격척도와 비율척도로 또다시 세분화 되고요. 명목척도는 성별이나 직업, 학력, 거주지 등의 변수를 말합니다. 순위척도는 서열척도라고도 자주 불리는데, 설문지에서 대게 많이 등장하죠. 나쁨, 보통, 좋음 등 명목척도 같지만 변수 사이에 순위(서열)가 존재하는 경우가 여기에 해당합니다. 취소선으로 처리된 부분은 궁금한 분만 읽으시면 됩니다. 나머지 분들은 그냥 넘어가도 전혀 문제가 되지 않습니다. 간격척도는 정수로 딱 떨어지는 값들인 경우입니다. 가장 대표적인 간격척도는 사람 수를 셀 때입니다. 학생수나, 입원 환자수등을 셀 때는 정수 밑으로 나눠 셀 수가 없죠. 이에 반해서 비율척도는 소숫점 밑으로 나눠 셀 수 있는 모든 값들이 해당합니다. 신장이나 나이, 체중, 거리, 간수치 등이 모두 여기에 포함되죠. 자, 그럼 연령대는 연속형 변수일까요, 아닐까요? 당연히 범주형 변수안에 포함되는 순위척도입니다. 나이를 ’연령’으로 분석할 때와 ’연령대’로 분석하는 경우는 통계분석 방법이 완전히 다르니 잘 염두해두셔야 합니다.

그럼, 다시 순서도를 살펴보도록 하겠습니다. 연속변수가 아니라면, Wilcoxon signed rank test로 비교를 해야겠군요. 만약, 결과값이 연속형 변수라면 순서도를 따라 밑으로 내려가서 분포가 정규분포인지 아닌지를 다시 살펴야합니다. 만약, 정규분포를 하지 않는다면, 여전히 Wilcoxon signed rank test로 분석을 해야겠군요. 하지만 정규분포를 한다면 한단계를 더 거쳐야합니다. 비교하고자 하는 두 그룹의 분산이 서로 동일한지 그렇지 않은지에 따라 분석 방법이 달라지기 때문입니다. 만약, 두 그룹이 등분산을 만족한다면 그 유명한 Student t test(간혹, independent t test나 단순히 t-test라고 불리기도 합니다.)로 분석을 하게 됩니다. 등분산을 만족하지 못한다면, 대신 Welch’s test라는 다소 낯선 분석 방법이 필요하죠.

이제 어떤 경우에 세 가지 분석 방법 중 하나를 골라야하는지 알아봤으니, 각각의 분석방법을 R스튜디오에서 따라하는 방식으로 함께해보겠습니다.

실습할 예제 데이터 불러오기

오늘 실습에 사용할 데이터는 meanData라는 이름의 데이터셋이고요. 총 41명 학생의 성적이 입력되어 있습니다. 아래 명령어를 R script창에 입력하고 ctl + return(or enter) 키조합 (맥의 경우 cmd + return)을 누르시면 해당 데이터셋이 우측 상단의 Global Environment창에 떠오른 걸 확인하실 수 있을 겁니다. 여기까지 잘 따라오셨다면, 실습할 예제데이터를 메모리에 잘 오르신 거에요.

> meanData <- read.csv(file = "./ch04_01.csv", header = TRUE)

이 다음에 할 일은 meanData에 어떤 데이터들이 들어 있는지 직접 확인해보는 일입니다.

> head(meanData)

  group age sex score
1     1  32   1     7
2     2  56   1    38
3     2  44   1    70
4     1  52   2     6
5     2  24   1    80
6     2  25   1     0

여기서 head()라는 함수는 데이터셋안에서 상단에 있는 6개의 줄(행)을 보여달라는 명령입니다. 작은 데이터를 다룰 때는 View(데이터셋이름) 함수를 이용해서 전체 데이터를 살펴보는 게 도움이 될 수 있지만, 몇 만줄이 넘어가면 되도록 head()함수로 데이터를 살펴볼 것을 권합니다. 컴퓨터가 부담스러워하거든요. 여기서 meanData 데이터셋은 총 41줄 밖에 되지 않는 데이터이니, View(meanData) 명령어를 이용해서 전체 데이터셋을 열어보셔도 됩니다. 물론, 지면 관계상 전체 데이터를 책에 담지는 않겠습니다.

> View(meanData)

> #아마 새 탭이 열리면서, meanData 데이터셋의 로데이터가 모두 보이실 겁니다. 
  이창은 그냥 '미리보기'창이라고 생각하시면 됩니다. R을 처음 쓰기 시작했던 시기에 
  데이터필업 당시 잘못 입력된 값이 있어서 이 창에서 수정을 시도했었는데요. 
  이창에서는 수정은 불가능합니다. 없는 기능이니 굳이 찾는 수고는 따라하지마세요.

전체 데이터를 살펴보시면, 컬럼이 group, age, sex, score 로 구분되어 있습니다. 두 그룹을 비교하기 위한 예제이니, group은 1과 2로 나뉘어져 있고요. age와 score가 연속형 변수로 들어가 있고, sex는 남자는 ’1’로 여자는 ’2’인 명목변수로 채워져 있습니다.

정규분포 여부를 확인하는 방법

이제 순서도의 구석구석을 채우고 있는 여러 과정을 개별적으로 살펴보도록 하겠습니다. 가장 먼저 정규분포 유무를 확인하는 방법입니다. 정규분포의 유무는 아래 코드를 사용해서 확인하게 됩니다.

> # output = lm( 종속변수(결과값) ~ 독립변수(차이의 원인이 되는 값), data= 데이터셋 이름)
> shapiro.test(resid(output))

여기에다가 예제데이터를 적용시키면 아래와 같습니다.

> output = lm(score ~ group, data=meanData)
> shapiro.test(resid(output))


    Shapiro-Wilk normality test

data:  resid(output)
W = 0.91524, p-value = 0.004821

p값이 0.004821로 계산된 게 보이시나요? p값이 0.05보다 크다면 정규분포를 한다고 보고, 0.05보다 작다면 정규분포를 하지 않는다고 기억하시면 됩니다. 이 경우에서는 0.05보다 p값이 한참 작으니까, 데이터의 정규성을 가정할 수 없는 거죠. 참고로, 세 집단을 비교하는 경우에도 똑같이 하시면 되고, 동일하게 p값을 해석하시면 됩니다. 간혹, 정규 분포 유무를 group별로 각각 확인해야하는 거 아니냐는 질문을 받습니다. group ‘1’과 ’2’에 해당하는 각 그룹 사람들의 score가 정규분포를 하는지를 개별적으로 확인하면 안되냐는 거죠. 물론, group별로 정규분포를 하면 위의 p값도 0.05보다 큰 경우가 대부분입니다. 하지만 문제는 두 결과가 일치하지 않을 때 발생합니다. group별 score값의 분포는 정규분포를 하는데, 위 계산에서는 p값이 0.05보다 작을 수도 있거든요. 반대로 group별 score값은 정규분포를 하지 않는데, 위 공식으로 계산한 p값은 0.05보다 클 수도 있습니다. 그렇다면 어떤 결과를 믿어야할까요? 바로 제가 알려드린 공식에서 계산된 p값입니다. 이유는 두 그룹의 평균을 비교하는 분석에서 귀무가설 ’두 그룹의 평균값은 차이가 없다.’에서 출발하기 때문입니다. ’그룹 1의 평균’-‘그룹 2의 평균’ = 0 이라는 현상이 발생할 확률을 계산하는 거죠. 여기서 p값이 0.04으로 계산된다면 평균의 차가 ’0’일 확률이 4% 이므로 자연적으로 발생하기에는 매우 드물다라고 판단하고 ’두 그룹 평균의 차이는 0이 아니다.’라는 대립가설을 받아들이게 되는 겁니다. 이 과정에서 우리가 살펴보는 건 두 그룹간의 차이이지, 각 그룹의 평균이 어떻게 분포하는지가 아닙니다. 그래서 두 집단이든 세 집단이든 정규분포 여부를 확인하는 건, 위에서처럼 lm()함수를 이용해서 얻은 결과값을 resp()함수를 통해 잔차를 계산하고 이 값의 정규성을 shapiro.test()함수를 이용해서 검정하는 게 원론적인 측면에서 더 합당합니다. 물론, 이게 무슨 귀신 씨나락 까먹는 소리냐 싶으신 분들은 그냥 저를 믿고, 위의 방식 때로 정규성 검정을 하시면 됩니다.

등분산인지 확인하는 방법

만약, 정규분포를 만족한다면 순서도에서 다음 과정인 등분산 여부를 확인해야합니다. 등분산을 확인하는 방법은 아래 코드와 같습니다.

> var.test(score~group, data=meanData)


    F test to compare two variances

data:  score by group
F = 0.49629, num df = 19, denom df = 20, p-value = 0.1327
alternative hypothesis: true ratio of variances is not equal to 1
95 percent confidence interval:
 0.1999497 1.2451631
sample estimates:
ratio of variances 
           0.49629

p-value값이 0.1327로 계산된 게 보이시죠? 여기서도 ‘p값이 0.05보다 크면 등분산을 한다’ 고 해석하시면 됩니다. 물론, 0.05보다 작으면 등분산을 하지 않는 거고요. 이제 순서도에서 길목에 해당하는 정규분포와 등분산의 조건을 확인하는 방법을 살펴봤으니, 각각의 경우에서 평균을 비교하는 방법을 알아보도록 하겠습니다.

1) t-test를 하는 방법

세 가지 분석 방법 중 통계의 문턱을 넘어봤다면 모두가 알고 있을 (student’s or independent) t-test부터 살펴보도록 하겠습니다. 결과값이 연속형 변수고, 정규분포를 하면서 등분산까지 한다면 아래 코드로 그룹간의 차이 평균을 비교하시면 됩니다.

> t.test(score~group, data=meanData, var.equal=TRUE)


    Two Sample t-test

data:  score by group
t = -2.9713, df = 39, p-value = 0.005057
alternative hypothesis: true difference in means is not equal to 0
95 percent confidence interval:
 -35.97590  -6.83362
sample estimates:
mean in group 1 mean in group 2 
       14.50000        35.90476

p값이 0.005057로 나왔네요. 해석은 ‘p값이0.05보다 10배 가까이 작으므로, 두 그룹의 평균은 통계적으로 의미 있게 차이가 난다’고 볼 수 있겠네요. 만약, p값이 0.05보다 크게 나왔다면, 두 그룹의 평균은 차이가 없다고 해석하면 됩니다.

2) Wilcoxon rank sum test를 하는 방법

결과값이 연속형 변수가 아니거나, 정규분포를 하지 않는다면, 아래의 방법으로 분석하면 됩니다. 해당하는 함수의 이름이 wilcox로 시작하니, 기억하기 쉽죠?! 이 방법은 결과값이 정규분포를 하지 않는 경우, 즉 모수라고 가정할 수 없을 때 비모수적인 관점에서 평균을 비교하는 방식입니다. 비모수적 분석에서는 결과값의 순위만 남기고 실제값은 모두 무시합니다. 순위만 가지고 평균을 구해서 두 그룹의 차이를 분석하는 거죠.

> wilcox.test(score~group, data=meanData)

Warning in wilcox.test.default(x = c(7L, 6L, 10L, 65L, 0L, 20L, 0L, 5L, :
cannot compute exact p-value with ties


    Wilcoxon rank sum test with continuity correction

data:  score by group
W = 98.5, p-value = 0.003707
alternative hypothesis: true location shift is not equal to 0

해석은 ‘p값을 기준으로 0.05보다 작으면, 두 그룹의 평균은 통계적으로 의미 있게 차이가 난다’입니다.

결과를 자세히 살펴보시면 warning메세지가 포함된 걸 알 수 있는데요. 똑똑한 wilcox.test()함수가 비모수적인 관점에서 순위(등수)만 가지고 분석을 하려는데, 결과값이 동일한 경우가 많아서(순위가 같은 경우가 있으니) 계산된 p값이 정확한지 자신할 수 없다는 엄살입니다. 결과값 한 두개가 겹치는 일은 실제 분석에서 매우 자주 있으니, 마음쓰지 않으셔도 됩니다.

3) Welch’s test를 하는 방법

마지막으로 결과값이 연속형 변수이고 정규분포는 하는데, 등분산 조건을 만족하지 못하는 경우에 필요한 Welch’s test를 알아보죠. 해당 코드는 아래와 같습니다.

> t.test(score~group, data=meanData, var.equal=FALSE)


    Welch Two Sample t-test

data:  score by group
t = -2.9964, df = 35.988, p-value = 0.004924
alternative hypothesis: true difference in means is not equal to 0
95 percent confidence interval:
 -35.892496  -6.917028
sample estimates:
mean in group 1 mean in group 2 
       14.50000        35.90476

해석은 마찬가지로 ‘p값이 0.05보다 작으면, 두 그룹의 평균은 통계적으로 의미 있게 차이가 난다’입니다.

두 그룹의 평균을 비교하기 실제

예제데이터의 결과를 순서도를 따라 다시 한 번 확인해보죠. 결과값이 해당하는 score가 연속형 변수이니, 정규분포 여부를 확인해야했고요. 그 결과, 정규분포를 하지 않으니, Wilcoxon rank sum test로 분석해야한다는 결론에 도달했습니다. 2)에 해당하는 코드로 분석한 결과 p값은 0.003707로 두 그룹의 score는 통계적으로 의미 있게 차이가 난다는 결론을 얻을 수 있었죠. 여기서 주의해야할 점은 동일한 데이터를 1)이나 3) 코드에 적용해도 별다른 오류 없이 p값이 계산된다는 겁니다. 올바른 통계 분석 방법을 선택하는 건 결국 저와 여러분의 몫인 거죠. 하지만 걱정하지 마세요. 이곳 제 블로그에 순서도가 있으니까요.

엑셀파일 CSV로 변환해서 R로 불러오기

깜신 — Fri, 26 Oct 2018 16:36:14 +0900

엑셀파일 CSV로 변환해서 R로 불러오기

유튜브 영상에 이어 이번에는 강의록을 만들고 있습니다.

통계를 독학 하시는 여러분께 도움이 되었으면 하는 바람입니다.

김종엽

엑셀파일에 데이터를 모두 담아놓았다면, 통계분석을 위해 모아놓은 데이터를 R로 불어오는 과정이 필요하겠죠. 이 과정이 바로 R에 도전하는 많은 연구자가 진입을 포기하는 그 유명한 단계입니다. 다들 이렇게 이야기하던군요. “R은 어찌나 어려운지, 파일 조차 열어볼 수가 없더라고요.” 맞습니다. R에서 데이터를 불러오는 과정은 지금까지 여러분이 사용하던 여러 프로그램과 사뭇 달라 익숙하지 않습니다. 익숙하지 않으면 어렵고요. 위로의 말씀을 드리자면, 절대 여러분 혼자만 여러운 건 아니라는 사실 입니다. 실제로 유튜브에 올려놓은 제 강의 동영상 중에서 가장 많은 조회수를 기록한 강의가 ‘엑셀파일, R로 불러오기’입니다. 그러니 당황하거나 움츠러들지 마시고, 이 챕터를 찬찬히 읽어보시기 바랍니다. 차근차근 따라하시면 절대 어렵지 않습니다. 제가 하면 1분도 안 걸리는 과정인데, 겨우 ’1분’ 거리가 어려우면 얼마나 어렵겠습니까.

엑셀파일 CSV로 변환해서 저장하기

엑셀파일은 R에서 바로 불러올 수 없습니다. 그래서 먼저 엑셀파일을 R에서 이해할 수 있는 파일 형태로 변환해주어야 합니다. R사용자들이 가장 많이 사용하는 파일형태는 CSV와 TXT가 있습니다. CSV는 comma seperated value의 약자로 이름처럼 콤마(,)로 구분해서 적어놓은 값들이 담긴 파일을 말합니다. 확장자가 .csv로 끝나고요. TXT파일은 그래도 익숙하시죠?! 메모장에서 열리고, 윈도우에서 간단한 메모 등을 적어놓을 때 사용하셨을테니까요. 저는 가지고 계신 엑셀파일을 R로 분석하실 때는 CSV파일로 변환하시라고 권해드립니다. 그래서 이 챕터에서는 엑셀파일을 CSV파일로 변환하는 방법만 소개해드릴 겁니다. 대신 TXT 파일을 접하실 경우도 있을거라 생각되어 TXT파일을 R로 불러오는 방법은 챕터 뒷쪽에서 알려드리겠습니다.

먼저, 엑셀파일을 CSV파일로 변환해보도록 하죠. 이번 챕터에서 예제로 사용하는 파일은 sampleData.xlsx입니다. 엑셀에서 해당파일을 열어보시면 아래 그림처럼 보일 겁니다. 먼저 좌측 상단의 ‘파일’ 메뉴를 클릭하도록 하세요.

그럼 아래와 같은 창으로 모습이 바뀔 겁니다. 이번에는 ‘다른 이름으로 저장하기’ 버튼을 클릭하세요.

이번에는 파일을 저장하는 폴더 위치를 선택하라는 창이 열립니다. 저는 가급적 변환을 할 엑셀파일과 같은 위치에 저장합니다. 짝으로 함께 다녀야 잃어버리고 다시 만드는 실수를 줄일 수 있거든요.

아래 창이 열렸다면, 저장할 파일형식(T)을 CSV(쉼표로 분리)라는 항목으로 선택하세요. 그리고 ’저장’입니다.

같은 폴더에 sampleData.csv 파일이 만들어진 걸 확인하셨으면 메모장으로 열어보세요. 그럼 엑셀안에 담겨 있던 데이터가 콤마로 구분되어 저장된 걸 보실 수 있습니다.

CSV파일 R로 불어오기

이제 만들어놓은 sampleData.csv파일을 R로 불러오도록 하겠습니다. 이 과정은 파일의 경로에 대한 이해가 아주 중요한데요. (그래서 부록편에 ’파일 경로(주소) 마스터하기’라는 챕터를 만들어 놓았으니, 앞으로 R로 데이터를 불러오는 과정에서 막히면 해당 챕터를 참고하시기 바랍니다.) 초심자 분들을 위해 이 챕터에서는 그냥 저만 따라하면 파일을 불러올 수 있도록 내용을 구성했습니다.

우측 하단의 Files 탭으로 들어가세요. 보시면 윈도우탐색기와 비슷해서 익숙하실 겁니다. 그곳에서 폴더들을 돌아다니며, 불러오고자 하는 파일을 찾으세요.

sampleData.csv파일을 찾으셨으면 그대로 둔 상태에서, 상단의 Session 메뉴로 들어가셔서 ‘Set Working Directory’ -> ’To Files Pane Location’을 선택하세요.

다시 File 밑에 있는 버튼을 누르고 들어가서 R Scipt를 선택하거나, 단축키’Ctrl + Shift + N’를 눌러서 R 스크립트창을 새로 만드세요. 좌측 하단의 콘솔창에 직접 명령어를 입력하셔도 되지만, 그럼 나중에 내가 작업한 코드들을 정리해서 보관할 수 없습니다. 좌측 상단의 스크립트창은 연구노트라고 생각하시고, 되도록 작업하는 모든 코드는 이곳에 적고 저장해두세요. 그럼 나중에 피가 되고 살이 됩니다.

좌측 상단의 스크립트 창에 아래 코드를 입력하신 뒤에 ’Ctrl + return(enter)’키를 눌러서 해당 줄을 실행시키세요. 그러면 우측 상단의 Environment창에 sampleData라는 이름의 데이터셋이 생성된 걸 확인하실 수 있습니다. 이 명령어에서 ’header = TRUE’라는 옵션은 불러오는 데이터의 첫번째 줄이 데이터 자체가 아니라, 컬럼의 이름이 적혀 있다는 걸 컴퓨터에게 알려줍니다.

> sampleData <- read.csv(file ="./sampleData.csv", header = TRUE)

Environment창에서 sampleData를 마우스로 클릭하시거나, View(sampleData)를 스크립트창에 입력하신 뒤, ’Ctrl + return(enter)’로 실행시켜보세요. 새로운 탭이 열리면서 아래와 같이 데이터들이 보인다면 여려분은 모두가 어렵다고 기겁하는 과정을 무사히 넘기신 겁니다.

TXT파일 R로 불러오기

이번에는 TXT파일을 불러오도록 하겠습니다. 예제파일은 colon_cancer_sample_2012.txt라는 파일입니다. 건강보험심사평가원에서 무료로 배포한 대장암 관련 공공데이터이며, 실습을 위해 일부만 따로 파일을 만들었습니다.

csv파일을 읽어오는 함수가 read.csv()함수였다면, TXT파일은 read.delim()함수를 이용합니다.

> colonCancer <- read.delim(file = "./colon_cancer_sample_2012.txt")

위의 코드를 스크립트창에 입력하고 실행시키세요.

우측 상단의 Environment창에 colonCancer라는 데이터셋이 보일 겁니다. 클릭해보면, 새로운 탭이 열리면서 아래와 같은 데이터가 보인다면 이 또한 성공하신 겁니다. 축하드립니다.

생존분석(LogRankTest와CoxRegressionTest) - 깜신의 통계 왕초보 탈출 42탄

깜신 — Thu, 27 Sep 2018 05:30:00 +0900

안녕하세요.

깜신 김종엽입니다.

앞 영상에서는 생존분석 결과를 그래프로 미리 살펴봤습니다.

물론, 그래프만으로도 결과를 우리는 충분히 유추할 수 있죠.

하지만, P value와 Hazard Ratio, 95%신뢰구간이 없으면 뭔가 허전하잖아요?!

논문으로 출판할 수도 없고요.

이번 시간에는 그래서

Log Rank Test와 Cox Regression Test를 이용해서 해당 통계값들을 찾아보도록 하겠습니다.

그럼 여러분의 통계 공부에 포스가 함께 하길 바랍니다.

생존분석결과 그래프로 나타내기 - 깜신의 통계 왕초보 탈출 41탄

깜신 — Sun, 16 Sep 2018 06:30:00 +0900

안녕하세요.

깜신 김종엽입니다.

이번 영상에서는 생존분석결과를 그래프로 그리는 방법을 알아보도록 하겠습니다.

생존분석 결과는 실제로 생존을 분석한 경우와 질병의 유병률을 비교하는 경우가 조금 다른데요.

생존분석의 경우는 처음에는 모두 생존해 있는 상태에서 사망하는 환자가 발생하면서 그래그가 점차 감소하는 방향으로 그려지지만

유병률 분석에 있어서는 처음에는 모두 질병이 없는 상태에서 시작해서 유병률이 점차 늘어나는 방향으로 그래프가 그려지기 때문이죠

이해 못하셔도 상관 없습니다.

이번 영상을 보시면 모두 쉽게 이해하실테니까요.

바로 시작하죠.

여러분의 학습에 포스가 함께 하길 빕니다.

생존분석 개념 따라잡기 - 깜신의 통계 왕초보 탈출 40탄

깜신 — Sat, 8 Sep 2018 06:16:02 +0900

안녕하세요.

깜신 김종엽입니다.

이번 영상에서는 생존분석의 개념에 대해 알아보려고 합니다.

언뜻 생각하면, 생존분석은 생존과 사망에 대한 결과만을 비교하는 분석법으로 여기기 쉽습니다.

하지만 그렇지 않죠.

특정 조건에서 특정 질환의 유병률을 비교하는 것 또한 생존분석으로 가능한 일입니다.

그래서 암 관련 연구를 하시는 분뿐 아니라, 다양한 임상과에서 적용이 가능합니다.

특히, 카이제곱분석과는 달리 많은 교란 변수를 통제할 수 있어서

더욱 신뢰할 수 있는 결과를 만들어주죠.

이번 영상에서는 먼저 생존분석의 개념부터 설명드리려고 합니다.

이후 2개의 영상을 더 만들어 생존분석 그래프를 그리는 방법과 통계값을 구하는 방법에 대해 알려드리겠습니다.

그럼 오늘도 화이팅입니다.

아자아자~

포아송 회귀분석 따라하기 - 깜신의 통계 왕초보 탈출 39탄

깜신 — Mon, 3 Sep 2018 05:30:00 +0900

안녕하세요.

깜신 김종엽입니다.

이번 포스팅에서는 포아송 회귀분석을 알아봅니다.

포아송 또는 푸아송이라고 불리는 회귀분석의 이름은 워낙 이국적이라서

한 번 들어본 분들은 기억 어딘가에 틀림없이 지워지지 않고 남아있을 겁니다.

또한, 활용 빈도도 로지스틱 회귀분석 만큼이나 아주 높고요.

로지스틱 회귀분석은 결과가 둘 중 하나로 결정되는 연구에서 사용되었는데요.

포아송 회귀분석은 결과가 비율일 때 사용한다는 게 가장 큰 차이점입니다.

예를 들어, 발생률, 사망률 등을 분석할 때 쓰인다는 거죠.

보건의료통계에서 얼마나 자주 보일지 감이 오시죠?!

자, 포아송은 로지스틱까지 잘 따라오셨다면 절대 어렵지 않습니다.

이번 영상 하나에서 개념설명부터 R스튜디오 따라하기까지 한 번에 보여드리겠습니다.

그럼 바로 시작하시죠.

아자아자~

로지스틱회귀분석 그래프 그리기 - 깜신의 통계 왕초보 탈출 38탄

깜신 — Wed, 29 Aug 2018 05:00:00 +0900

안녕하세요.

깜신 김종엽입니다.

35,36,37탄에 이어 이번 시간에도 로지스틱 이야기를 좀 더 하려고 합니다.

35탄에서는 로지스틱회귀분석의 개념에 대해서 알아봤고

36,37탄에서는 분석 방법을 실제로 따라해봤으니,

이번 포스팅에서는

로지스틱회귀분석을 통해 찾은 의미 있는 결과들을 그래프로 그려보려고 합니다.

어떻게요?

아주 예쁘고, 직관적으로요.

더구나 쉽게 말이죠. ^_____^

이번 유튜브 영상을 찬찬히 보면서 따라하시면

여러분도 이제 로지스틱회귀분석을 활용한 논문 작성에 뛰어들 준비를 모두 마치게 됩니다.

화이팅입니다.

아자아자!!

한림대학교 동탄성심병원 통계워크샵-회귀분석

깜신 — Thu, 5 Jul 2018 12:16:00 +0900

한림대학교 동탄성심병원 2차 통계워크샵 - 회귀분석

L_dontan_reg.R

#################################################################

###### 단순선형회귀 ########

women

plot(weight~height, data=women)

fit <- lm(weight~height, data=women)

abline(fit, col="blue")

summary(fit) #-87.51667은 y절편이라고함.

cor.test(women$height, women$weight) # 상관계수 구하는 함수

cor.test(women$weight, women$height)

0.9954948^2

plot(fit)

par(mfrow=c(2,2))

plot(fit)

par(mfrow=c(1,1))

### 다항회귀(polynomial regression)

fit2 <- lm(weight~ height + I(height^2) , data=women)

summary(fit2)

lines(women$height, fitted(fit2), col="red")

plot(fit2)

fit3 <- lm(weight~height + I(height^2) + I(height^3), data = women)

plot(fit3)

fit4 <- lm(weight~ height + I(height^2), data=women[-c(13,15),])

plot(fit4)

######## 다중회귀분석 ##########

state.x77

View(state.x77)

states <- as.data.frame(state.x77[ , c("Murder","Population","Illiteracy","Income","Frost")])

states

View(states)

fit = lm(Murder~Population +Illiteracy + Income + Frost , data=states)

plot(fit)

summary(fit)

#install.packages("car", dependencies = TRUE)

library(car)

vif(fit)

sqrt(vif(fit))

###### 이상관측치 #######

influencePlot(fit, id.method = "identify")

states["Nevada", ]

fitted(fit)["Nevada"]

residuals(fit)["Nevada"]

##### 회귀모형의 교정 ######

states

summary(powerTransform(states$Murder))

ncvTest(fit)

spreadLevelPlot(fit)

boxTidwell(Murder~ Population + Illiteracy , data= states)

##### 예측 변수 선택 #####

fit1 <- lm(Murder~ ., data=states)

summary(fit1)

fit2 <- lm(Murder ~ Population + Illiteracy , data=states)

summary(fit2)

#AIC (Akaike's An information Criterion)

AIC(fit1, fit2)

###### stepwise regression (Backward stepwise regression, Forward stepwise regression)

#Backward stepwise regression

full.model = lm(Murder~. , data = states)

reduced.model = step(full.model, direction = "backward")

summary(reduced.model)

#Forward stepwise regression

min.model = lm(Murder~1, data = states)

fwd.model <- step(min.model, direction="forward", scope = (Murder~Population+ Illiteracy + Income

+ Frost), trace=0)

summary(fwd.model)

## all subset regression

library(leaps)

leaps <- regsubsets(Murder~ Population + Illiteracy + Income + Frost, data= states, nbest=4)

plot(leaps, scale="adjr2")

########## Logistic Regression ########

require(survival)

str(colon)

colon1 <- na.omit(colon)

View(colon)

View(colon1)

result <- glm(status ~ rx+sex+age+obstruct+perfor + adhere + nodes + differ + extent + surg, family = binomial, data=colon1)

summary(result)

reduced.model = step(result)

summary(reduced.model)

require(moonBook)

extractOR(reduced.model)

fit = glm(formula = status ~ rx + obstruct + adhere + nodes + extent + surg, family = binomial, data = colon1)

fit.od = glm(formula = status ~ rx + obstruct + adhere + nodes + extent + surg, family = quasibinomial, data = colon1)

pchisq(summary(fit.od)$dispersion*fit$df.residual, fit$df.residual, lower = F)

#0.2803691이 값이 0.05보다 크다면 과산포는 없다고 확신할 수 있습니다.

?ORplot()

plot()

ORplot(fit, main = "Plot for Odds Ratios")

ORplot(fit, type=2, show.OR=FALSE, show.CI=TRUE, pch=15, lwd=2, col=c("darkblue", "red"), main="Plot of OR" )

ORplot(fit, type=3, show.OR=FALSE, show.CI=TRUE, pch=15, lwd=2, col=c("darkblue", "red"), main="Plot of OR")

##### Poisson Regression #######

install.packages("robust")

library(robust)

data(breslow.dat, package = "robust")

summary(breslow.dat)

install.packages("qcc")

library(qcc)

qcc.overdispersion.test(breslow.dat$sumY, type="poisson")

fit = glm(sumY ~ Base + Age + Trt, family = quasipoisson, data= breslow.dat)

summary(fit)

install.packages("moonBook")

library(moonBook)

extractOR(fit)

extractOR(fit, digits = 3)

ORplot(fit, type = 2, show.CI=TRUE, main="Plot for Quasipoisson")

#### Survival Analysis #####

require(survival)

data("colon")

View(colon)

colon <- na.omit(colon)

rm(colon1)

str(colon)

colon$TS <- Surv(colon$time,colon$status==1)

fit = survfit(TS ~ rx, data = colon)

plot(fit)

plot(fit,col=1:3, lty=1:3)

legend("topright", legend=levels(colon$rx), col=1:3, lty = 1:3)

###### Cumulative hazard Start #####

plot(fit, col=1:3, lty=1:3, fun ="cumhaz", mark.time=FALSE, ylab="Cumulative hazard")

legend("topleft", legend = levels(colon$rx), col=1:3, lty =1:3)

###### Cumulative hazard End #######

#### Log-rank test ####

survdiff(Surv(time, status ==1)~rx, data=colon)

#### Cox Regression #####

out = coxph(Surv(time, status ==1)~rx, data=colon)

summary(out)

###### Hazard ratios of all individual variables #####

colon$TS <- Surv(colon$time,colon$status==1)

out = coxph(colon$TS~rx, data=colon )

#install.packages("moonBook")

require(moonBook)

attach(colon)

out = mycph(TS~.-id-study-time-status-etype, data=colon)

out

out2 =coxph(TS~. -id-study-time-status-etype, data=colon)

final =step(out2, direction = "backward")

HRplot(out, type =2, show.CI = TRUE)

한림대학교 동탄성심병원 통계워크샵 자료집

깜신 — Thu, 21 Jun 2018 12:23:16 +0900

2018.6.21일자 한림대학교 동탄성심병원 통계워크샵 자료

lecture_dongtan.R

data("mtcars")

View(mtcars)

table(mtcars$cyl, mtcars$am)

##### 0,1로 필업된 데이터를 원래 의미로 바꾸는 방법 하나. #####

mtcars$tm = ifelse(mtcars$am==0,"automatic","manual")

result = table(mtcars$cyl, mtcars$tm)

##### 0,1로 필업된 데이터를 원래 의미로 바꾸는 방법 둘. #####

mtcars$sm = factor(mtcars$am, labels=c("automatic", "manual"))

table(mtcars$cyl, mtcars$sm)

###### 행과 열의 끝에 총합을 추가하는 방법 #######

addmargins(result)

##### 카이제곱 검정과 피셔의 정확한 검정 ########

chisq.test(result)

fisher.test(result)

##### Cochran Armitage Trend Test ###############

require(moonBook)

data(acs)

View(acs)

table(acs$HBP, acs$smoking)

acs$smoking = factor(acs$smoking, levels=c("Never", "Ex-smoker","Smoker"))

result = table(acs$HBP, acs$smoking)

prop.trend.test(x,n) #x는 number of events, n은 number of trials

result[2,]

colSums(result)

prop.trend.test(result[2,],colSums(result))

######### 모자이크 플롯을 그리는 방법 ###############

mosaicplot(result)

mosaicplot(result, color=c("tan1","firebrick2"))

t(result)

mosaicplot(t(result), color=c("tan1","firebrick2"), ylab="Hypertension", xlab="Smoking")

######### R스튜디오에 있는 색상 열람표 ##########

colors()

demo("colors")

result = table(mtcars$cyl, mtcars$sm)

barplot(result)

barplot(result, ylim=c(0,20), legend=rownames(result))

mylegend = paste(rownames(result),"cyl")

mylegend

barplot(result, ylim=c(0,20), legend=mylegend)

barplot(result, ylim=c(0,20), legend=mylegend, beside=TRUE)

barplot(result, ylim=c(0,20), legend=mylegend, beside=TRUE, horiz=TRUE)

mycol = c("tan1", "coral2", "firebrick2")

barplot(result, ylim=c(0,20), legend=mylegend, beside=TRUE, horiz=TRUE,col=mycol)

#######################################################

##################### 상관분석 ##########################

################# Corelation test #########################

#######################################################

install.packages("UsingR")

library(UsingR)

data("galton")

str(galton)

View(galton)

plot(child~parent, data =galton)

cor.test(galton$child, galton$parent)

out = lm(child~parent, data= galton)

summary(out)

# y = 23.94153 + 0.64629 x X

abline(out, col ="red")

plot(jitter(child,5)~jitter(parent,5), galton)

sunflowerplot(galton)

install.packages("SwissAir")

library(SwissAir)

data("AirQual")

View(AirQual)

str(AirQual)

Ox <- AirQual [ ,c("ad.O3","lu.O3","sz.O3")] +

AirQual[, c("ad.NOx","lu.NOx","sz.NOx")]-

AirQual[, c("ad.NO", "lu.NO","sz.NO")]

names(Ox) <- c("ad","lu","sz")

plot(lu~sz, data= Ox)

install.packages("hexbin")

library(hexbin)

bin = hexbin(Ox$lu, Ox$sz, xbins = 50)

plot(bin)

smoothScatter(Ox$lu, Ox$sz)

install.packages("IDPmisc")

library(IDPmisc)

iplot(Ox$lu, Ox$sz)

par(mfrow=c(1,1))

#################################################################

###################### 단순선형회귀 ################################

women

plot(weight~height, data=women)

fit <- lm(weight~height, data=women)

abline(fit, col="blue")

summary(fit) #-87.51667은 y절편이라고함.

cor.test(women$height, women$weight) # 상관계수 구하는 함수

cor.test(women$weight, women$height)

0.9954948^2

plot(fit)

par(mfrow=c(2,2))

plot(fit)

par(mfrow=c(1,1))

### 다항회귀(polynomial regression)

fit2 <- lm(weight~ height + I(height^2) , data=women)

fit2 <- lm(weight~height+ I(height^2), data = women)

summary(fit2)

lines(women$height, fitted(fit2), col="red")

plot(fit2)

fit3 <- lm(weight~height + I(height^2) + I(height^3), data = women)

plot(fit3)

fit4 <- lm(weight~ height + I(height^2), data=women[-c(13,15),])

plot(fit4)

install.packages("gvlma")

library(gvlma)

gvmodel <- gvlma(fit4)

summary(gvmodel)

######## 다중회귀분석 ##########

state.x77

View(state.x77)

states <- as.data.frame(state.x77[ , c("Murder","Population","Illiteracy","Income","Frost")])

states

View(states)

fit = lm(Murder~Population +Illiteracy + Income + Frost , data=states)

shapiro.test(states$Population)

fit = lm(Murder~Population + Illiteracy, data=states)

plot(fit)

summary(fit)

#install.packages("car", dependencies = TRUE)

library(car)

vif(fit)

sqrt(vif(fit))

###### 이상관측치 #######

influencePlot(fit, id.method = "identify")

states["Nevada", ]

fitted(fit)["Nevada"]

residuals(fit)["Nevada"]

##### 회귀모형의 교정 ######

states

summary(powerTransform(states$Murder))

boxTidwell(Murder~ Population + Illiteracy , data= states)

ncvTest(fit)

spreadLevelPlot(fit)

##### 예측 변수 선택 #####

fit1 <- lm(Murder~ ., data=states)

summary(fit1)

fit2 <- lm(Murder ~ Population + Illiteracy , data=states)

summary(fit2)

#AIC (Akaike's An information Criterion)

AIC(fit1, fit2)

###### stepwise regression (Backward stepwise regression, Forward stepwise regression)

#Backward stepwise regression

full.model = lm(Murder~. , data = states)

reduced.model = step(full.model, direction = "backward")

summary(reduced.model)

#Forward stepwise regression

min.model = lm(Murder~1, data = states)

fwd.model <- step(min.model, direction="forward", scope = (Murder~Population+ Illiteracy + Income

+ Frost), trace=0)

summary(fwd.model)

## all subset regression

library(leaps)

leaps <- regsubsets(Murder~ Population + Illiteracy + Income + Frost, data= states, nbest=4)

plot(leaps, scale="adjr2")

########## Logistic Regression ########

require(survival)

str(colon)

colon1 <- na.omit(colon)

View(colon)

View(colon1)

result <- glm(status ~ rx+sex+age+obstruct+perfor + adhere + nodes + differ + extent + surg, family = binomial, data=colon1)

summary(result)

reduced.model = step(result)

summary(reduced.model)

require(moonBook)

extractOR(reduced.model)

fit = glm(formula = status ~ rx + obstruct + adhere + nodes + extent + surg, family = binomial, data = colon1)

fit.od = glm(formula = status ~ rx + obstruct + adhere + nodes + extent + surg, family = quasibinomial, data = colon1)

pchisq(summary(fit.od)$dispersion*fit$df.residual, fit$df.residual, lower = F)

#0.2803691이 값이 0.05보다 크다면 과산포는 없다고 확신할 수 있습니다.

?ORplot()

plot()

ORplot(fit, main = "Plot for Odds Ratios")

ORplot(fit, type=2, show.OR=FALSE, show.CI=TRUE, pch=15, lwd=2, col=c("darkblue", "red"), main="Plot of OR" )

ORplot(fit, type=3, show.OR=FALSE, show.CI=TRUE, pch=15, lwd=2, col=c("darkblue", "red"), main="Plot of OR")

##### Poisson Regression #######

install.packages("robust")

library(robust)

data(breslow.dat, package = "robust")

summary(breslow.dat)

install.packages("qcc")

library(qcc)

qcc.overdispersion.test(breslow.dat$sumY, type="poisson")

fit = glm(sumY ~ Base + Age + Trt, family = quasipoisson, data= breslow.dat)

summary(fit)

install.packages("moonBook")

library(moonBook)

extractOR(fit)

extractOR(fit, digits = 3)

ORplot(fit, type = 2, show.CI=TRUE, main="Plot for Quasipoisson")

#### Survival Analysis #####

require(survival)

data("colon")

View(colon)

colon <- na.omit(colon)

rm(colon1)

str(colon)

colon$TS <- Surv(colon$time,colon$status==1)

fit = survfit(TS ~ rx, data = colon)

plot(fit)

plot(fit,col=1:3, lty=1:3)

legend("topright", legend=levels(colon$rx), col=1:3, lty = 1:3)

###### Cumulative hazard Start #####

plot(fit, col=1:3, lty=1:3, fun ="cumhaz", mark.time=FALSE, ylab="Cumulative hazard")

legend("topleft", legend = levels(colon$rx), col=1:3, lty =1:3)

###### Cumulative hazard End #######

#### Log-rank test ####

survdiff(Surv(time, status ==1)~rx, data=colon)

#### Cox Regression #####

out = coxph(Surv(time, status ==1)~rx, data=colon)

summary(out)

###### Hazard ratios of all individual variables #####

colon$TS <- Surv(colon$time,colon$status==1)

out = coxph(colon$TS~rx, data=colon )

install.packages("moonBook")

require(moonBook)

attach(colon)

out = mycph(TS~.-id-study-time-status-etype, data=colon)

out2 =coxph(TS~. -id-study-time-status-etype, data=colon)

final =step(out2, direction = "backward")

HRplot(out, type =2, show.CI = TRUE)

로지스틱 회귀분석 R에서 따라하기 2부 - 깜신의 통계 왕초보 탈출 37탄

깜신 — Thu, 31 May 2018 05:00:00 +0900

안녕하세요.

건양대학교병원 의료정보학교실의 김종엽입니다.

이번 영상은

R스튜디오에서 따라하는 방식으로 함께하는 로지스틱 회귀분석 2부입니다.

임상연구에서 무척 활용도가 높은 통계분석인 만큼

조금 어려우셔도 포기하지 마시고, 끝까지 따라오시길 당부드립니다.

여러분의 통계공부에 늘 포스가 함께 하길 빕니다.

로지스틱 회귀분석 R에서 따라하기 1부 - 깜신의 통계 왕초보 탈출 36탄

깜신 — Tue, 29 May 2018 12:34:04 +0900

안녕하세요.

깜신 김종엽입니다.

이번 시간에는

어제에 올렸던 로지스틱 회귀분석 개념 설명에 이어,

R스튜디오에서 따라하는 방식으로 실습을 함께 하겠습니다.

분량이 많아서, 세션을 나눴습니다.

일단 이번 영상은 1부에 해당합니다.

여러분의 통계공부에 늘 포스가 함께하길 빕니다.

로지스틱 회귀분석 개념 따라잡기 - 깜신의 통계 왕초보 탈출 35탄

깜신 — Mon, 28 May 2018 06:30:00 +0900

안녕하세요.

깜신 김종엽입니다.

회귀분석을 하려다보면,

결과 변수가 '있다/없다' 이거나 '생존/사망' 과 같이

이분되는 경우가 있습니다.

(통계에서는 이항분포라고 부릅니다만, 중요하지 않습니다. --;;)

이번 시간에는 이분되는 결과변수를 대상으로 로지스틱회귀분석에 대한 개념을 잡아보려고 합니다.

개념을 몰라도 통계는 돌릴 수 있습니다.

하지만, 개념이 잡히지 않으면 자신이 돌린 결과를 스스로가 믿을 수 없는 상황이 발생하죠.

개념은 대충만 이해하셔도 되니,

편하게 마음을 내려놓고 들어보시기 바랍니다.

감사합니다.

회귀분석의 모형 선택하기 - 깜신의 통계 왕초보 탈출 34탄

깜신 — Sun, 27 May 2018 11:15:13 +0900

안녕하세요.

깜신 김종엽입니다.

회귀분석에 있어서

예측 모델을 확정하는 것은 연구의 결과를 좌지우지하는 매우 중요한 단계죠.

그래서 이 부분이 회귀분석을 하는 과정 전체에서 가장 중요하기도 합니다.

물론, 쉽지는 않죠.

하지만, 이 영상을 천천히 따라오시면

여러분도 회귀분석을 자신있게 마무리지을 수 있을 겁니다.

여러분의 학습에 늘 포스가 함께 하길 바랍니다.

2018.5.23일 10차 통계워크샵 - 생존분석 강의록

깜신 — Wed, 23 May 2018 15:32:02 +0900

R에서 생존분석 따라하기 코드입니다.

#### Survival Analysis #####

require(survival)

data("colon")

View(colon)

colon <- na.omit(colon)

rm(colon1)

str(colon)

colon$TS <- Surv(colon$time,colon$status==1)

fit = survfit(TS ~ rx, data = colon)

plot(fit)

plot(fit,col=1:3, lty=1:3)

legend("topright", legend=levels(colon$rx), col=1:3, lty = 1:3)

###### Cumulative hazard Start #####

plot(fit, col=1:3, lty=1:3, fun ="cumhaz", mark.time=FALSE, ylab="Cumulative hazard")

legend("topleft", legend = levels(colon$rx), col=1:3, lty =1:3)

###### Cumulative hazard End #######

#### Log-rank test ####

survdiff(Surv(time, status ==1)~rx, data=colon)

#### Cox Regression #####

out = coxph(Surv(time, status ==1)~rx, data=colon)

summary(out)

###### Hazard ratios of all individual variables #####

colon$TS <- Surv(colon$time,colon$status==1)

out = coxph(colon$TS~rx, data=colon )

install.packages("moonBook")

require(moonBook)

attach(colon)

out = mycph(TS~.-id-study-time-status-etype, data=colon)

out2 =coxph(TS~. -id-study-time-status-etype, data=colon)

final =step(out2, direction = "backward")

HRplot(out, type =2, show.CI = TRUE)

2018년5월2일 9차 통계워크샵 강의록

깜신 — Tue, 1 May 2018 22:03:05 +0900

안녕하세요.

깜신 김종엽입니다.

8차 워크샵 이후, 시간이 꽤 흘렀는데요.

그래도 잊지 않고 기다려주신 교수님들께 보답하고자

9차 워크샵을 진행하게 되었습니다.

아래 코드는 내일 워크샵에서 진행할 내용입니다.

참고하시고요, 멋진 수업이 될 수 있도록 노력하겠습니다.

감사합니다.

########## Logistic Regression ########

require(survival)

str(colon)

colon1 <- na.omit(colon)

View(colon)

View(colon1)

result <- glm(status ~ rx+sex+age+obstruct+perfor + adhere + nodes + differ + extent + surg, family = binomial, data=colon1)

summary(result)

reduced.model = step(result)

summary(reduced.model)

require(moonBook)

extractOR(reduced.model)

fit = glm(formula = status ~ rx + obstruct + adhere + nodes + extent + surg, family = binomial, data = colon1)

fit.od = glm(formula = status ~ rx + obstruct + adhere + nodes + extent + surg, family = quasibinomial, data = colon1)

pchisq(summary(fit.od)$dispersion*fit$df.residual, fit$df.residual, lower = F)

#0.2803691이 값이 0.05보다 크다면 과산포는 없다고 확신할 수 있습니다.

?ORplot()

plot()

ORplot(fit, main = "Plot for Odds Ratios")

ORplot(fit, type=2, show.OR=FALSE, show.CI=TRUE, pch=15, lwd=2, col=c("darkblue", "red"), main="Plot of OR" )

ORplot(fit, type=3, show.OR=FALSE, show.CI=TRUE, pch=15, lwd=2, col=c("darkblue", "red"), main="Plot of OR")

##### Poisson Regression #######

install.packages("robust")

library(robust)

data(breslow.dat, package = "robust")

summary(breslow.dat)

install.packages("qcc")

library(qcc)

qcc.overdispersion.test(breslow.dat$sumY, type="poisson")

fit = glm(sumY ~ Base + Age + Trt, family = quasipoisson, data= breslow.dat)

summary(fit)

install.packages("moonBook")

library(moonBook)

extractOR(fit)

extractOR(fit, digits = 3)

ORplot(fit, type = 2, show.CI=TRUE, main="Plot for Quasipoisson")

회귀분석에서 모형의 교정 따라하기 - 깜신의 통계 왕초보 탈출 33탄

깜신 — Fri, 12 Jan 2018 05:30:00 +0900

안녕하세요.

깜신 김종엽입니다.

회귀분석을 선형모델로 적용시키려면

1. 정규성

2. 독립성

3. 선형성

4. 등분산성 등의

가설을 만족해야합니다.

그런데 막상 실제 데이터를 살펴보면,

우리 마음 같지 않게, 가설에서 벗어나 있는 경우가 더러 있죠.

그럴 때는 그냥 포기하는 게 아니라,

모형의 교정을 통해 선형모델에 적용시킬 수 있습니다.

이게 다른 비선형모델을 적용해서 회귀분석을 시도하는 것보다

훨씬 쉽죠. (나중에 공부해보시면 실감하실 겁니다.ㅠ.ㅠ)

이번 영상에서는 여러 방법으로 변수를 교정해서

회귀 선형 모델을 적용시키는 요령을 살펴보겠습니다.

늘 그랬던 것처럼, 해당 실습은 R-studio 기반으로 진행합니다.

포스가 늘 함께하길 빕니다.

회귀분석에서 이상관측치를 찾는 방법 - 깜신의 통계 왕초보 탈출 32탄

깜신 — Thu, 16 Nov 2017 06:30:00 +0900

안녕하세요.

깜신 김종엽입니다.

회귀분석에서 의미 있는 결과를 발견하기 위해서는

이상관측치를 잘 선별하는 것이 무척 중요합니다.

이번 영상에서는

R스튜디오 환경 아래에서 따라하기 방식으로

이상관측치를 찾는 방법을 알아보겠습니다.

R에서 다중회귀분석 따라하기 - 깜신의 통계 왕초보 탈출 31탄

깜신 — Wed, 15 Nov 2017 06:30:00 +0900

안녕하세요.

깜신 김종엽입니다.,

이번 영상에서는

다중회귀분석을 R스튜디오에서

따라하기 방식으로 차근차근 알아봅니다.

해당 내용에는 다중공선성에 대한 내용과

이상관측치를 확인하는 방법이 일부 포함되어 있습니다.

R에서 회귀분석 따라하기 - 깜신의 통계 왕초보 탈출 30탄

깜신 — Tue, 14 Nov 2017 06:30:00 +0900

안녕하세요.

깜신 김종엽입니다.

29탄의 회귀분석 개념 설명에 이어,

이번 영상에서는

R스튜디오 환경에서

회귀분석을 따라하기 방식으로 알아보겠습니다.

회귀분석을 위한 개념 설명 - 깜신의 통계 왕초보탈출 29탄

깜신 — Mon, 13 Nov 2017 10:44:25 +0900

안녕하세요.

깜신 김종엽입니다.

회귀분석은

현대 통계의 꽃임과 동시에 빅데이터 분석을 넘어

인공지능 구현의 알고리즘으로 넘어가는 길목입니다.

이번 영상에서는 실전에 앞서 회귀분석의

전반적인 개념에 대해 먼저 살펴보겠습니다.

겹치는 데이터, 그래프로 멋지게 그리기 - 깜신의 통계 왕초보 탈출 28탄

깜신 — Thu, 12 Oct 2017 05:30:00 +0900

깜신 김종엽입니다.

관측치의 수가 많은 빅(?)데이터를 다루다보면,

그래프를 좀 더 요령껏 그려야 할 때가 있습니다.

이를테면,

이렇게 그리는 것 보다는,

이렇게 그리거나,

때로는 이렇게 그리거나 ,

컬러를 활용해서 그리거나,

이렇게 그리면 훨씬 더 직관적으로 데이터의 분포를 나타낼 수가 있죠.

이번 시간에는

R스튜디오에서 따라하기 방식으로

각각의 그래프를 그리는 방법을 살펴보도록 하겠습니다.

<참고> 해당 그래프들은 문건웅 교수님에서 쓰신 'R통계와 그래프'에 수록된 내용입니다.

자료활용을 흔쾌히 허락해주신 문건웅 교수님과 출판사 담당자분께 감사드립니다.

R에서 상관분석 따라하기 - 깜신의 통계 왕초보 탈출 27탄

깜신 — Wed, 11 Oct 2017 05:30:00 +0900

깜신 김종엽입니다.

이번 영상에서는 상관분석을 직접 R스튜디오에서 따라하기 방식으로 함께 해보겠습니다.

상관분석은 학습량이 적은 편입니다.

하지만, 회귀분석으로 넘어가기 위해 매우 중요한 부분이니

단디(?) 공부하시고 넘어오시기 바랍니다.

그럼 여러분의 학습에 포스가 함께 하길 바랍니다.