issues
search
njs03332
/
ml_study
3
stars
0
forks
source link
2022/10/20 ~ 2022/10/26
#47
Open
danbi5228
opened
1 year ago
danbi5228
commented
1 year ago
10/26 pm10:20
10 ~ 10.1.2
10
10.1.1
10.1.2
njs03332
commented
1 year ago
10.1.2 뉴런을 사용한 논리 연산
메컬러와 피츠가 생물학적 뉴런에서 착안한 단순한 신경망 모델이 나중에 인공 뉴런이 됨
하나 이상의 이진 (on/off) 입력, 이진 출력 하나
인공 뉴런은 입력이 일정 개수만큼 활성화되었을 때 출력을 내보냄
매컬러와 피츠는 이 간단한 모델로 인공 뉴런의 네트워크를 만들어 어떤 논리 명제도 계산할 수 있다는 것을 증명함
적어도 입력이 둘은 준비되어야 뉴런이 활성화된다고 가정했을 때, 아래와 같이 논리 연산을 수행하는 인공 신경망을 만들어볼 수 있음
왼쪽 첫 번째 네트워크: 항등함수 - 뉴런 A가 활성화되면 뉴런 C도 활성화됨
두 번째 네트워크: 논리곱 연산 - 뉴런 A와 B가 모두 활성화될 때만 뉴런 C가 활성화됨
세 번째 네트워크: 논리합 연산 - 뉴런 A와 B 중 하나가 활성화되면 뉴런 C가 활성화됨
네 번째 네트워크: 뉴런 A가 활성화되고 뉴런 B가 비활성화될 때 뉴런 C가 활성화됨
만약 뉴런 A가 항상 활성화되어 있다면 논리 부정 연산이 됨
이 네트워크들을 연결하여 복잡한 논리 표현식을 계산할 수 있음
danbi5228
commented
1 year ago
Chapter 10. 케라스를 사용한 인공 신경망 소개
사람이 새를 보고 비행기에 대한 영감을 받은 것과 같이, 뇌 구조를 보고 지능적인 기계에 대한 영감을 받음 (-> 인공신경망)
인공 신경망 artificial neural network ANN: 뇌에 있는 생물학적 뉴런의 네트워크에서 영감을 받은 머신러닝 모델
인공 신경망은 딥러닝의 핵심으로 강력하며 확장성이 좋음
구글 이미지 (수백만 개의 이미지 분류), 애플의 시리 (음성 인식 서비스), 유튜브 (비디오 추천), 딥마인드의 알파고 (바둑 게임 진행)
10장 진행; 다층 퍼셉트론 multi-layer perception MLP -> 케라스 Keras API 를 사용한 인공 신경망 구현 방법
케라스: 신경망 구축, 훈련, 평가, 실행을 목적으로 설계된 고수준 API
더 유연한 구조가 필요하다면 저수준 API를 사용해 사용자 정의 케라스 컴포넌트 생성 가능 (12장)
givitallugot
commented
1 year ago
10.1 생물학적 뉴런에서 인공 뉴런까지
1943년 논문에서 동물 뇌의 생물학적 뉴런이 복잡한 계산을 위해 어떻게 상호작용하는지에 대한 간단한 계산 모델을 제시
침체기에 접어들었다가 다시
1980년대 초 네트워크 구조가 발견되고 연결주의에 대한 관심 살아남
1990년대 SVM과 같은 머신러닝 기술들이 개발되어 다시 침체기에 접어들었고
현재 다시 부흥, 그 이유는 다음과 같음
신경망 훈련을 위한 데이터가 많아짐
컴퓨터 하드웨어의 발전, 시간 내에 대규모 신경망 훈련
훈련 알고리즘 향상
이론상 제한이 실전에서는 문제가 되지 않음 (ex 전역 최적점에 도달하는 문제)
투자와 진보의 선순환
10.1.1 생물학적 뉴런
생물학적 뉴런은 핵을 포함하는 세포체와 복잡한 구성 요소로 이뤄짐
수상돌기(dendrite)라는 나뭇가지 모양의 돌기와 축삭돌기(axon)라는 아주 긴 돌기 하나
축삭돌기의 끝은 축삭끝가지(telodentria)라는 여러 가지로 나뉘고, 이 가지의 끝은 시냅스 말단(synaptic terminals)이라는 구조
생물학적 뉴런은 활동 전위와 간단히 신호라고 불리는 짧은 전기 자극을 만듦
뉴런은 보통 수십억 개로 구성된 거대한 네트워클 조직
생물학적 신경망(BNN) 구조는 여전히 활발히 연구가 진행되는 분야