기본 콘텐츠로 건너뛰기

데이타 브레이크포인트

출처 러브스페셜 | 게임신입
원문 http://blog.naver.com/s1518/130001157745

전체목록 (275) 목록열기



[디버깅] 데이타 브레이크포인트 | Win32 / MFC 2005/12/13 10:39

http://blog.naver.com/drrich/20019987593

데이타 브레이크포인트

Written by 이동우

Visual C++에서 브포를 거는 방법은 크게 세가지다.

  1. 위치 브레이크포인트(location breakpoint)
  2. 데이타 브레이크포인트(data breakpoint)
  3. 메시지 브레이크포인트(message breakpoint)
로케이션 브포는 우리가 제일 많이 사용하는 브포로서 특정 라인이나 함수에 브레이크를 거는 것으로 버그의 위치를 추적할 때 쓴다. 조건 브레이크포인트에서 설명했 듯 전역, 지역변수값에 따라 브포를 걸 수 있수 있다. 메시지 브포는 특정 메시지가 뜰 때 어느 함수에서 브레이크를 걸지 결정할 수 있는 브포이다.(보통 MFC에서는 메시지를 처음 잡는 프로시저인 AfxWndProc에 메시지 브포를 건다) 그러나 윈도우 프로그래밍에서는 메시지 핸들러에 직접 브포를 걸면 되기 때문에 거의 사용할 일이 없는 브포라고 보면 된다. 반면, 데이타 브포는 디버깅 상황에 따라 로케이션 브포로는 잡기 힌든 버그에 상당히 유용하게 이용할 수 있다.
예를 들어보자. MFC에서 Dialog base로 프로젝트를 하나 생성한다. 그리고 어플리케이션 코드에 다음과 같이 전역변수 3개를 선언한다.
down.cpp
///////////////////////////////////////////////////////////////////////////// // CDownApp int g_n = 0; // Global변수 3개를 선언했다. char g_szExeName[10]; CString g_strContent; BEGIN_MESSAGE_MAP(CDownApp, CWinApp) //{{AFX_MSG_MAP(CDownApp) ON_COMMAND(ID_APP_ABOUT, OnAppAbout) // NOTE - the ClassWizard will add and remove mapping macros here.
그리고 메인 프레임 윈도우가 생성이 되면 g_szExeName변수에 자신의 파일네임을 얻어오도록 한다. CMainFrame클래스의 OnCreate함수내에 GetModuleFileName함수 호출코드를 삽입한다.
// TODO: Delete these three lines if you don't want the toolbar to // be dockable m_wndToolBar.EnableDocking(CBRS_ALIGN_ANY); EnableDocking(CBRS_ALIGN_ANY); DockControlBar(&m_wndToolBar); ::GetModuleFileName (NULL, g_szExeName, MAX_PATH); // 디버깅 예제 이제 class wizerd에서 마우스 왼쪽 버튼이 눌리면 발생하는 메시지인 WM_LBUTTONDOWN을 view클래스에서 잡도록하고 핸들러를 등록한다.
DownView.cpp ///////////////////////////////////////////////////////////////////////////// // CDownView message handlers void CDownView::OnLButtonDown(UINT nFlags, CPoint point) { // TODO: Add your message handler code here and/or call default if (!g_n) ::AfxMessageBox (_T("Click test...")); CView::OnLButtonDown(nFlags, point); }
자, 준비는 여기서 끝났다. 언듯 보기에 버그가 없는 코드로 보일 것이다. 그러나 실제로 빌드해서 실행해보면, 왼쪽 마우스 버튼을 눌러도 view에 아무 것도 뜨지 않을 것이다. 분명 핸들러에는 왼쪽 마우스가 눌리면 "Clck test..."라는 메시지 박스가 떠야하는데 아무런 동작을 안하니 어딘가에 버그가 숨어있다고 봐야한다. 위의 코드에서 if(!g_n)에 브포를 걸고 g_n변수를 추적해보면, 앗~ 어찌된 일인지 핸들러 내부에 들어올 때부터 g_n에 이상한 값이 들어가 있다. 그런데 g_n을 선언할 때 0을 할당한 곳 외에 코드 어디에도 g_n을 바꾸는 부분이 없다. 그럼 이후에 대체 어디에 브포를 걸어야 할까? 이처럼 버그의 원인이 특정한 위치라기보다는 변수에 연관된 로직버그일 때는 로케이션 브포만 가지고서는 쉽게 추적이 안될 때가 있다.(물론 위치 브포만 가지고도 불가능한 것은 아니지만 더 시간이 들도 고생도 더 해서 찾게된다) 이때 데이타 브포의 기능을 이용하면 쉽게 디버깅을 할 수 있다.
먼저, 특정 이벤트에 반응을 하지 않으므로 해당 이벤트 핸들러에서 시작해보자. 이 예에서 주된 관심사는 대체 어디에서 g_n의 값을 바꾸냐이다.
if(!g_n)문장에 브포를 걸고 variable window에서 &g_n을 입력해 g_n변수의 주소를 알아낸다. debug1.jpg
g_n의 주소가 0x4178f8번지라는 것을 확인할 수 있다. 자 이제 여기의 브포는 해제하자. 그리고 우리 프로그램이 메모리에 로드되고 나서 이 주소의 내용이 언제 바뀌는지 알아보면 된다. 먼저 버그가 숨어있는 프로그램이 메모리에 로드되고 나서 처음 진입하는 엔트리 포인트에 브포를 걸어야 한다. 어플리케이션 코드내 InitInstance가 적당할 것이다. 이 함수의 첫번째 라인인 AfxEnableControlContainer()에 브포를 걸자. 그리고 디버그 모드로 실행한다. AfxEnableControlContainer()에 브포가 걸리면, Edit메뉴에서 Breakpoint를 선택해서 브레이크포인트 대화상자를 연다. Data탭을 선택하고 Enter the expression to be evauated란에 위에서 알아낸 주소를 이용해 다음과 같이 입력한다.
debug2.jpg
위 문장의 의미는 0x4178f8번지 내용이 0이 아닐 때 브레이크를 건다는 의미이다.

참고로 데이타 브포를 걸 땐 다음과 같은 방법으로 브포를 지정해준다.
*((type*) address) condition
자, 브레이크를 걸었으면 go하자. 그럼 다음과 같이 브포가 걸리는 것을 확인 할 수 있다.
debug3.jpg

콜스택을 보면 g_n의 값이 바뀐 위치가 ntdll내부이다. 그럼 ntdll내에 버그가 있어 사용자 데이타를 바꾸는걸까? ntdll내부에서 g_n의 값을 바꾸는 것은 맞지만 ntdll의 버그는 아니다. 이때 기본적으로 OS코드 내부는 이상이 없고 시스템콜 함수를 호출하는 유저코드의 파라미터에 문제가 있다는 것으로 생각해야 한다. 그럼 시스템콜 함수를 호출하는 가장 마지막 함수가 용의선상에 오른다. 콜스택에서 CMainFrame클래스의 OnCreate에서 OS시스템으로 진입했음을 확인 할 수 있다. 거기를 클릭해보자.
debug4.jpg

빙고! 찾았다.
GetModuleFileName를 호출한 이후로 g_n의 값이 변경된걸 봐서 이 함수에 넘기는 인자에 문제가 있었던 것이다. 결론을 말하자면, 파일네임 버퍼인 g_szExeName의 크기를 10바이트로 잡고 MAX_PATH(256바이트)의 크기로 파일네임을 읽어오기 때문에 overflow가 발생해서 메모리 침범이 발생했던 것이다. 이처럼 위치를 추론할 수 없어 로케이션 브포를 사용하기 어려운 버그에 데이타 브레이크포인트를 이용하면 쉽게 버그의 위치를 찾아낼 수 있다.보통 변수나 특정 메모리 영역이 원인을 모른채 깨질 때 유용한 방법이다.
Visual C++을 많이 사용해본 사람이라면 "그냥 'g_n != 0'이라고 쓰면 될 걸 왜 저렇게 어렵게 쓸까"라는 의문점이 들 것이다. 그러나 그 방법은 전역변수에서만 이용될 수 있으며 만약 로칼변수라면 해당 변수가 쓰인 로칼함수 내에서 유효하다. 만약 함수내에 다른 함수를 콜하면 변수이름은 의미가 없기 때문에 브포가 안걸린다. 그러나 위에서처럼 직접 메모리 주소를 쓰면 로칼이든 전역, 정적, 스택영역등 메모리 전 영역에서 모두 유효하게 되는 것이다.

댓글

이 블로그의 인기 게시물

80040154 오류로 인해 CLSID가 {xxxx-...}인 구성 요소의 COM 클래스 팩터리를 검색하지 못했습니다.

원문보기 .NET 으로 만든 응용프로그램에서 com 객체를 호출한 경우 Windows7 64bit 에서 제목과 같은 에러가 발생했다. Win32 COM 과 .NET 프로그램간의 호환성 때문에 생긴 문제였다. 원인은 .NET 실행시 JIT 컴파일러에 의해 최적화된 기계어로 변환되기 때문.. Win32 COM은 컴파일시.. Win32 COM에 맞춰 빌드 속성에서 하위버전으로 맞춰 컴파일을 다시하는 방법도 있지만 메인 프로젝트가 .NET이라면 참조되는 모든 프로젝트를 다 바꿔야할 노릇.. 또 다른 방법은 COM+를 이용하여 독립적으로 만드는 것이다. 분리시키는 방법은 아래 주소해서 확인할 수 있다. http://support.microsoft.com/kb/281335 나의 경우는 Win32 COM DLL을 64비트 .NET 프로그램에서 참조하니 COM 객체를 제대로 호출하지 못하였습니다. 그래서 .NET 프로그램의 Target Machine을 x86으로 설정하니 제대로 COM 객체를 호출하였습니다.

[Pyinstaller] 실행 파일 관리자 권한 획득하기

고객사에서 일부 사용자에게서 프로그램 오류가 발생한다며 아래와 같이 에러 캡처를 보내왔습니다. 프로그램에서 로그를 남기기 위해 로그 파일을 생성하는데 권한의 문제로 로그 파일을 생성하지 못해 프로그램 오류가 발생한 것 같습니다. 처음에는 Python 코드에서 관리자 권한을 요청하는 코드를 넣으려고 했는데, 실제로 Stackoverflow를 찾아보면 이런 내용이 나옵니다. 프로그램이 관리자 권한으로 실행되지 않았다면 관리자 권한으로 다시 프로그램을 실행시키는 코드입니다. import os import sys import win32com.shell.shell as shell ASADMIN = 'asadmin' if sys.argv[-1] != ASADMIN: script = os.path.abspath(sys.argv[0]) params = ' '.join([script] + sys.argv[1:] + [ASADMIN]) shell.ShellExecuteEx(lpVerb='runas', lpFile=sys.executable, lpParameters=params) sys.exit(0) 하지만 개인적으로 이런 방식은 마음에 들지 않았고 조금 더 찾아보니 Pyinstaller로 exe 파일을 만들 때 옵션을 설정하여 관리자 권한을 요청하도록 할 수 있다고 합니다. --uac-admin을 옵션에 추가하면 프로그램 실행 시 관리자 권한을 요청할 수 있습니다. pyinstaller.exe --uac-admin sample.py 하지만 안타깝게도 이 방식은 원하는 대로 동작하지 않았습니다. 마지막으로 manifest 파일을 이용하여 시도해보았습니다. spec 파일을 이용하여 pyinstaller로 빌드하면 <실행 파일 이름>.manifest 라는 파일이 생성됩니다. 파일에서 아랫부분을 찾아볼 수 있습니다. <security> <re

초간단 프로그램 락 걸기

프로그램에 락을 걸 일이 생겨났다. 하드웨어 락을 걸면 쉬울텐데 그 정도는 아니고 프로그램의 실행 날짜를 제한 해 달라고 한다. 그래서 파일(license.lic)을 가지고 락을 걸리고 결정을 했다. 요구 사항은 아래와 같다. 1. license.lic 파일이 없으면 프로그램을 실행 할수 없게 한다. 2. 지정한 날짜를 넘어서는 프로그램을 실행 할수 없게 한다. 3. 사용자가 시스템 날짜를 되돌렸을때 인식하여 프로그램을 실행 할수 없게 한다. 음.... 1.번 문제는 사용자가 프로그램을 실행하기 위해서 license.lic 파일을 받아야만 한다. license.lic 파일에는 최근 실행 날짜/종료날짜 이런식으로 적도록 한다.(물론 내용은 암호화 한다.) 최근 실행날짜는 프로그램이 실행때마다 업데이트 하도록 하고 시스템 날짜와 비교하여 시스템 날짜가 최근 실행 날짜보다 이전의 날짜면 시스템 날짜를 되돌렸다고 인식하도록 한다.(3.번 문제 해결) 시스템 날짜와 종료 날짜를 비교하여 시스템 날짜가 종료 날짜를 넘으면 프로그램을 실행 할수 없도록 한다.(2.번 문제 해결)