본문 바로가기

파이썬 (Python)104

Python 딥러닝 오차 역전파 고급 경사 하강법 안녕하세요, 이번 포스팅은 딥러닝에서 가중합과 바이어스를 실제적으로 구할 수 있는 방법인 오차 역전파와 고급 경사 하강법에 대해서 작성하도록 하겠습니다. 오차 역전파는 경사 하강법을 통해서 기울기와 y절편을 구하는 것과 기본 이론은 동일합니다. 오차 역전파 : 위에서 간단하게 설명한 대로 오차 역전파는 실제적인 모델에 들어가는 가중합과 바이어스를 구하는 방법입니다. 임의의 값을 입력하고 출력되는 값과 기존에 입력값에 설정된 출력값과 비교하여 오차 값을 설정하고 이 오차에 대해서 미분값을 구해 원하는 가중합과 바이어스를 찾는 과정입니다. ▼ 기 포스팅한 XOR 문제 해결 관련 코드를 보면 이미 가중합과 바이어스를 구해서 입력하고 그것이 출력되는 값에 대해서 확인하는 과정의 코드를 구현하였습니다. 이런 과정.. 2021. 6. 22.
Python 딥러닝 퍼셉트론 이론 및 XOR 문제 해결 코드 구현 안녕하세요, 이번 포스팅은 딥러닝에서 가장 기초이자 근간이 되는 퍼셉트론 이론 및 XOR 문제 해결을 위한 코드 구현에 대해서 설명드리도록 하겠습니다. 퍼셉트론은 모델을 만들 때 필요한 기울기와 y절편을 이용하여 모델을 만들고 출력 값을 뽑아내는 중간 매체라고 생각하시면 됩니다. 퍼셉트론 : 위에서 설명 드린대로 입력 값이 주어지고 기울기와 y절편에 따라 출력 값을 뽑아내는 것이 퍼셉트론입니다. 즉 모델을 통해서 입력 값에 따른 출력 값을 뽑아내는 것입니다. 제가 기 포스팅한 내용 중에 기울기와 y절편이라는 애기를 많이 하였습니다. 그런데 여기 퍼 셉트로 인에서는 가중합과 바이어스라는 용어를 씁니다. ▼가중합은 w, 바이어스는 b 로 표현을 하며, 가중합은 제가 설명한 기울기, 바이어스는 y절편을 얘기하.. 2021. 6. 13.
Python 딥러닝 로지스틱 회귀 (시그모이드 함수) 안녕하세요 이번 포스팅은 Python에서 딥러닝에 사용하는 방법인 선형 회귀에 이어 로지스틱 회귀에 대해서 설명 및 코드를 구현을 통해서 어떻게 딥러닝을 하는지에 대해서 설명드리도록 하겠습니다. 오차 함수 및 지수 함수 그리고 시그모이드 함수를 사용할 예정입니다. 로지스틱 회귀 : 로지스틱 회귀에 대해서 먼저 설명 드리도록 하겠습니다. 간단하게 말씀드리면 합격 불합격과 같이 바로 결과가 나오는 방식을 로지스틱 회귀라고 합니다. 예를 들어 공부하는 시간이 2, 4 시간 일 때 4시간인 경우에는 합격하고 2시간에는 불합격하는 데이터를 머신러닝을 시켜 놓으면 어떤 학생이 2시간을 공부했다고 입력을 집어넣으면 불합격할 거라고 결과가 나오는 것입니다. ▼ 물론 데이터가 작으면 작을 수록 모델에서 출력하는 결과는 .. 2021. 6. 12.
Python 딥러닝 다중 선형 회귀 경사 하강법 안녕하세요 이번 포스팅은 오차를 계산해서 이상적인 모델을 도출하는 경사 하강법 중에 변수가 하나가 아닌 2개일때 어떻게 코드를 구현하는지에 대해서 설명드리도록 하겠습니다. 물론 이 방법도 선형 회귀 방법을 하는 과정에서 오차를 줄여가면서 이상적인 모델의 기울기와 y 절편을 구하는 방식인 건 동일합니다. 경사 하강법 : 경사 하강법에 대해서 먼저 설명드리도록 하겠습니다. 경사 하강법은 경사 하강법은 임의의 기울기를 잡고 구했을 때는 오차 값이 큰 단점을 보완하기 위해 임의의 기울기와 y 절편을 대입했을 때 발생하는 오차에 대해서 검토를 해보고 그 오차를 최소한으로 줄이는 방법으로 이상적인 모델을 구축할 수 있는 기울기 "a"와 y절편을 구하는 방법입니다. 그리고 여기에서는 추가적으로 인지를 하셔야 하는 게.. 2021. 6. 10.
Python 딥러닝 경사 하강법 안녕하세요 이번 포스팅은 오차를 계산해서 이상적인 모델을 도출하는 경사 하강법에 대해서 설명드리도록 하겠습니다. 물론 이 방법도 선형 회귀 방법을 하는 과정에서 오차를 줄여가면서 이상적인 모델의 기울기와 y 절편을 구하는 방법입니다. 경사 하강법 : 경사 하강법은 임의의 기울기를 잡고 구했을 때는 오차 값이 큰 단점을 보완하기 위해 임의의 기울기와 y 절편을 대입했을 때 발생하는 오차에 대해서 검토를 해보고 그 오차를 최소한으로 줄이는 방법으로 이상적인 모델을 구축할 수 있는 기울기 "a"와 y절편을 구하는 방법입니다. 그리고 여기에서는 추가적으로 인지를 하셔야 하는 게 오차와 기울기의 2차 함수 곡선에서 기울기가 "0" 일 때의 오차 값을 구하는 것입니다. 아래 그림을 보시면 맨 아래 기울기가 "0" .. 2021. 6. 8.