Escrever referencial teórico (Capítulo 2) - Githubissues

HaraHeique / TCC-rede-neural-siamesa

Trabalho Conclusão de Curso com a implementação da Rede Neural Siamesa do Campus IFES Serra.

4 stars 0 forks source link

Escrever referencial teórico (Capítulo 2) #17

Closed HaraHeique closed 3 years ago

HaraHeique commented 3 years ago

Sequência lógica:

Definir o objeto (tema), com citação para livro (procurar no google acadêmicos);
Definir subtópicos de pontos que acha importante citar (opcional, pois depende do caso);
Apresentar um histórico evolutivo do objeto/tema (utilizar google trends -> pegar gráficos);
Rol de aplicações de PLN (sumarização de textos, análise de sentimentos, tradutores automáticos, identificação de autoria, sistemas de recomentação e afins);
Sempre "puxando" para o capítulo com o tema a ser abordado no futuro.

OBS.: Sempre com citação de algum autor/autores de papers ou livros.

Exemplos de referências

Progresso

[x] Processamento de Linguagem Natural
[x] Similaridade de Textos
[x] Distância de Manhattan
[x] Redes Neurais
[x] Redes Neurais Profundas
[x] Redes Neurais Siamesas

Link do overleaf

HaraHeique commented 3 years ago

Processamento da Linguagem Natural

HaraHeique commented 3 years ago

Similaridade de Textos

Distância de Manhattan

https://link.springer.com/referenceworkentry/10.1007%2F978-0-387-30164-8_506#:~:text=Definition,the%20distances%20in%20each%20dimension. (fórmula e pequena definição)
https://www.researchgate.net/profile/M-Nishom/publication/332758314_Perbandingan_Akurasi_Euclidean_Distance_Minkowski_Distance_dan_Manhattan_Distance_pada_Algoritma_K-Means_Clustering_berbasis_Chi-Square/links/5d2cf8bf92851cf440871206/Perbandingan-Akurasi-Euclidean-Distance-Minkowski-Distance-dan-Manhattan-Distance-pada-Algoritma-K-Means-Clustering-berbasis-Chi-Square.pdf (fórmula e pequena definição)
https://www.sciencedirect.com/topics/mathematics/manhattan-distance (importância de aplicação de métricas de distância e exemplo da Manhattan)
https://machinelearningmastery.com/distance-measures-for-machine-learning/ (definição e explicação geral -> muito bom)
https://www.analyticsvidhya.com/blog/2020/02/4-types-of-distance-metrics-in-machine-learning/ (definição e explicação geral -> muito bom)
https://medium.com/@kunal_gohrani/different-types-of-distance-metrics-used-in-machine-learning-e9928c5e26c7 (definição básica e explicação bem geral, mas legal porque explica quando usar qual medida de similaridade -> muito bom)

HaraHeique commented 3 years ago

Redes Neurais

Redes Profundas

Tipos de redes

https://www.asimovinstitute.org/neural-network-zoo/ (funcionamento e paper de origem)
https://towardsdatascience.com/the-mostly-complete-chart-of-neural-networks-explained-3fb6f2367464
https://www.digitalvidya.com/blog/types-of-neural-networks/ (funcionamento breve, mas legal e com aplicações)
https://www.mygreatlearning.com/blog/types-of-neural-networks/ (funcionamento e aplicações)
https://medium.com/@datamonsters/artificial-neural-networks-for-natural-language-processing-part-1-64ca9ebfa3b2 (funcionamento breve e aplicações)

CNN

https://reader.elsevier.com/reader/sd/pii/S1877050918308019?token=CC5A402BBE385EF14C83192B0AFD6817869CA707F4DA4A446B92359C485625C9F17E261257A3650F7431BFF8CA23C2FC&originRegion=us-east-1&originCreation=20210506162543 (funcionamento detalhado)
https://insightsimaging.springeropen.com/articles/10.1007/s13244-018-0639-9 (funcionamento detalhado)
https://www.deeplearningbook.org/contents/convnets.html (definição e explicação bem geral)
https://www.deeplearningbook.com.br/introducao-as-redes-neurais-convolucionais/ (definição e explicação bem geral)
https://www.hindawi.com/journals/mpe/2020/2616510/ (funcionamento detalhada e bem resumido muito bom)
https://arxiv.org/abs/1511.08458 (funcionamento detalhado)
https://cs.nju.edu.cn/wujx/paper/CNN.pdf (Perspectiva mais voltada para matemática, mas falando sobre aplicações e importância dela)
Histórico:
- https://towardsdatascience.com/the-brief-history-of-convolutional-neural-networks-45afa1046f7f
- https://bdtechtalks.com/2020/01/06/convolutional-neural-networks-cnn-convnets/#:~:text=Convolutional%20neural%20networks%2C%20also%20called,a%20postdoctoral%20computer%20science%20researcher.&text=The%20early%20version%20of%20CNNs,)%2C%20could%20recognize%20handwritten%20digits.

LSTM

Definição/Funcionamento:
- https://www.sciencedirect.com/science/article/pii/S1877050917328557 (artigo -> explica funcionamento bem brevemente);
- https://arxiv.org/abs/1508.01991; (artigo -> bom para introduzir sobre RNN);
- https://www.researchgate.net/publication/221080352_Bidirectional_LSTM_Networks_for_Improved_Phoneme_Classification_and_Recognition (artigo -> breve explicação sobre a LSTM);
- https://www.asimovinstitute.org/neural-network-zoo/ (info. simples e rápido, mas legal e entendível);
- https://www.digitalvidya.com/blog/types-of-neural-networks/ (fluxo de funcionamento bem rápido e geral, porém bom);
- https://www.deeplearningbook.com.br/arquitetura-de-redes-neurais-long-short-term-memory/; (bem geral assim)
- https://colah.github.io/posts/2015-08-Understanding-LSTMs/; (definição e bom para introduzir)
- https://medium.com/@kangeugine/long-short-term-memory-lstm-concept-cb3283934359; (funcionamento detalhado e bem explicado muito bom);
- https://towardsdatascience.com/illustrated-guide-to-lstms-and-gru-s-a-step-by-step-explanation-44e9eb85bf21; (funcionamento detalhado e bem explicado, porém com uma perspectiva diferente do link acima);
Aplicações:
Outros:
- https://www.rs-online.com/designspark/predicting-weather-using-lstm (imagem do funcionamento da LSTM);
- https://github.com/llSourcell/LSTM_Networks/blob/master/LSTM%20Demo.ipynb (imagem do funcionamento da LSTM);
- https://medium.com/ai-ml-at-symantec/should-we-abandon-lstm-for-cnn-83accaeb93d6 (LSTM vs CNN e explicação de funcionamento);
Histórico:

Redes Siamesa

Definição/Funcionamento:
- https://wlv.openrepository.com/bitstream/handle/2436/622709/PDFsam1_proceedings-ranlp-2019.pdf?sequence=2&isAllowed=y (definição e informações gerais das siamesas, mas bem feito e legal focando mais em similaridade de textos);
- https://towardsdatascience.com/a-friendly-introduction-to-siamese-networks-85ab17522942 (definição e vantagens e desvantagens);
- http://cs231n.stanford.edu/reports/2017/pdfs/801.pdf (introdução bem curta, mas bem explicada e com o problema semelhanças com o do meu trabalho);
- https://www.sciencedirect.com/science/article/pii/S0925231217313838?casa_token=w2wWqc-oluMAAAAA:TaHR1heJE9fnXAtJG8Awj-TNgiCtPAEN0dti6zNl3FoCgOpSHukhOpHv1QSdW-iKFW-r5B9W4cLn (definição e funcionamento bem explicado. Foca mais em CNN, mas explica sobre as siamesas antes e também contém parte histórica);
- https://www.researchgate.net/publication/338205631_Aplicacao_de_Redes_Neurais_Siamesas_na_Autenticacao_de_Condutores (definição e funcionamento detalhados. Muito bom);
- https://ichi.pro/pt/o-que-e-uma-rede-neural-siamesa-194458588835255 (site bom para introduzir com historinha);
Histórico:
- https://papers.nips.cc/paper/1993/file/288cc0ff022877bd3df94bc9360b9c5d-Paper.pdf (artigo que introduziu as redes siamesas);
Aplicações:
- https://www.aclweb.org/anthology/W16-1617.pdf (até define as redes siamesas, mas de maneira complicada. Porém mostra uma gama de aplicações e onde é mais focado);
- https://www.researchgate.net/publication/4156225_Learning_a_similarity_metric_discriminatively_with_application_to_face_verification;
- http://www.cs.toronto.edu/~gkoch/files/msc-thesis.pdf;
- https://www.cv-foundation.org/openaccess/content_cvpr_2015/app/1A_089.pdf
Outros:
- https://www.researchgate.net/publication/344000537_Siamese_Neural_Networks_An_Overview (Parece ter informações relavantes, porém para baixar o pdf tem que se cadastrar e talz...);
- https://www.pyimagesearch.com/2020/11/30/siamese-networks-with-keras-tensorflow-and-deep-learning/ (imagem do funcionamento da siamesa)